Malazgirt savaşı sonrası Orta Asya’dan göç eden Türkmen boylarından Acem Obası(Acem:(1)Türkmenler göç ederken İran'dan geçtiği için acem denilir (2)Iran'da yaşayan Azerilere verilen ad) adlı bir grup, Kırşehir yöresine geldiklerinde yerleşmek için kendilerine bir yer aramaya başlarlar. Hayvancılıkla uğraşan bu grubun, koyunların yavrusu olan tokluları (bir yaşındaki kuzu) kaybolur. Her yeri aramalarına rağmen bir türlü bulamazlar. Günler sonra atlı adamlar, toklularını şimdiki baraj gölü altında kalan kasabanın eski yerleşim yerinde bulurlar.
Aşiretin birçok obası, tokluların bulunduğu bu güzel yere yerleşmeye karar verirler. Buraya yerleşen grubun adı Acem Obası’dır.
Hatta Acem Obası’nı kızı ile ilgili Âşık Said’in bir de türküsü vardır. Obasını terkeden acem kızının öyküsünü anlatan bu türkü hemen herkes tarafından bilinen bir türküdür. “Acem kızı çırpınım da şan obaya çıkanda/ eğlen eğlen bu obada kal acem kızı……”
Beldeye adını veren bir Toklu
Toklumen Kelimesinin Etimolojisi Acemoğulların aşireti bu yöreye ilk önce “Toklugüman” demeye başlamış. Acemoğulları çoğalarak başka obalar da oluşmaya başlamış. “Taşkınlar Obası,Şahinoğulları Obası, Özşahinler Obası, Demirci Obası, Kalaycı Obası…” bunlardan bazılarıdır. Bu arada “Toklugüman” adı zamanla çeşitli değişim aşamalarından geçerek ”Tokloğmen”, “Toklümen”, ve son olarak da “Toklumen” olmuştur.
Toklu; bir yaş civarında olan koyun yavrusu kuzulara verilen bir isimdir. Yerleşim ismiyle toklu arasında olan benzeşim bu bölgeye ilk yerleşenlerin koyun besiliği ile uğraşmakta olduğunuda ortaya koymaktadır.
Toklumen, 1989 yılına kadar köy statüsündeyken o yıl belde ve belediye düzeyine getirilmiştir
İlkönceleri oba olan ve daha sonraları çoğalarak çok çeşitli aşiretler oluşarak büyük bir yerleşim yeri haline gelmiştir. Osmanlı Devleti ve cumhuriyet döneminde köy olan Toklümen 1989 yılında Belde düzeyine getirilerek belediye yapılmıştır.
Yörede 1952 yılında yapılan Hirfanlı Barajı, ilk yerleşim yerinin ve arazisinin sular altında kalmasına neden olmuştur. Yerleşim yerinin sular altında kalması nedeniyle halkın bir bölümü bugünkü yerleşim yerlerine taşınırken, bir kısmı da Ankara, Kulu ve Kırşehir gibi yerleşim alanlarına göç etmişlerdir.
