Köyün tarihiyle ilgili yapılan araştırmalara göre, Karaköse’nin tarihi 300 yıl önceye kadar gitmektedir. Köy ahalisinin anlattığı rivayetlere göre; bu bölgeye ilk yerleşen halkın Ağrı – Karaköse’den göçen göçerler olduğudur. Ayrıca köyün eskiden Ulu yol diye anılan bir yerde kurulduğu fakat bu yerin çok ortaklı bir yer olması sonucunda, köy ahalisinin şimdi esas köyün bulunduğu kuytu ve biraz daha gözden uzak yere yerleşmesiyle Karaköse köyü meydana gelmiştir.
            Karaköse’nin doğusu Afyon – Sinan Paşa ilçesine bağlı Elvan Paşa ve Çalışlar köyü, batısında Paşacık köyü, kuzeyinde Çiftlik köyü, güneyinde Balcıdamı köyü vardır. Köyün rakımı 1000 m. Olup, merkez ilçeye uzaklığı 31 km. dir. Ankara – izmir karayoluna 3 km. mesafededir. Ulaşım, haberleşme ve elektrik sorunu yoktur. Okuma – yazma oranı % 91 civarındadır. Köye ilkokul 1942 yılında açılmıştır. Köyde kilim, halı ve heybe dokunmaktadır. Köyün ekonomisi tamamen tarım ve hayvancılığa dayanmaktadır. Bu köyde yurt dışında çalışan işçi sayısı oldukça yüksektir. Bu durum köyün ekonomisine olduğu kadar Banaz ilçesine de olumlu bir katkı yapmaktadır.