Cumhuriyet’in ilanından kısa süre önce, 3 Temmuz 1923’te, Ziraat Bankasında memurluk yapan ve İdman Cemiyetleri İttifakı temsilcisi olan Celal Bey (Vaner) başkanlığında kurulan kulüp, Konya’nın resmen tescil edilen ikinci kulübüdür. Kubbe-i Hadra’nın yeşil rengini benimseyen İdmanyurdu’nun kurucuları arasında sarraf Necati Silay, CHP müfettişi İsmail Hakkı Bey’in oğulları Seyfi ve Selahattin Muşkara, Nazım Buzcu, Celal Ulusan, gazeteci Ziya Çalık, Mübarek Emin ve şimendifer memuru Muhlis Bey bulunuyordu. Orduevi’nin bitişiğinde bulunan Halkevi’nin altındaki bir odadan idare edilen İdmanyurdu’nun ilk yıllarında kadrosunda şu futbolcular yer aldı:
Hasan Güngör, Arap Salâh, Kadıların Cemal Sürmeli, Necati Kaşıkçı, Arap Adnan, kaleci Rahim, PTT memuru Şemsi, Selahattin, Mahmut, Nuri, Hayri, Cemal, Sait, Mustafa Asım ve Nail Tok.
Samsun’da yapılan 1932 yılı Türkiye Futbol Şampiyonası finalinde İstanbulspor’a 2-1 yenilerek ikinci, 1960’da Aydın’daki Türkiye Şampiyonası finallerinde de üçüncü olan İdmanyurdu, 1966-1967 sezonunun son maçında Konya Şekerspor’u kaptan Baki’nin penaltıdan attığı golle 1-0 yenerek lig şampiyonluğunu kazandıktan sonra, 1967-1968 sezonundan itibaren Türkiye III. Ligi’ne katıldı.
Gençlerbirliği ile İdmanyurdu arasındaki rekabet, Gençlerbirliği’nin 1965’te Konyaspor adını alıp, profesyonelliği kabul ederek Türkiye II. Ligi’ne dâhil olmasından sonra da devam etti. Konyaspor 1969-1970 sezonunda III. lige düşünce iki takımın yaptıkları müsabakalar olaylı geçti. Rekabetin olaylara dönüşmesi üzerine Konya’nın profesyonel ligde tek takımla ve daha güçlü bir şekilde temsil edilmesini sağlamak amacıyla Konyaspor ile İdmanyurdu’nun birleşmesi için başlatılan temaslar 1981’de olumlu sonuç verdi ve İdmanyurdu, Konyaspor’a katılarak tarihteki yerini aldı.
1932 ila 1951 yılları arasındaki futbol maçlarının oynandığı sahasını İmam Hatip Okulu yapımı için satarak Zafer’de Konyaspor’un faaliyet gösterdiği binanın yerindeki binayı satın alan İdmanyurdu, futbolun dışında bisiklet, atletizm, güreş, basketbol ve voleybolda da faaliyet gösterdi. Bu kulübün ilk güreşçilerinden Faruk Nazıroğlu, 1938’de Ankara’da ve 1944’te İstanbul’daki Türkiye şampiyonalarında grekoromen dalında 79 kilo Türkiye şampiyonluklarını kazanmıştır. Atletlerinden Recai Kıcıkoğlu da Konya’da İranlılar, İstanbul’da da Almanlara karşı millî takımda yarıştı.
Yeşil Beyazlılar, 1965’te Adana Karataşspor, 1966’da Tokat Topçamspor, 1966’da da Konya’da Trabzon İdman Ocağı ile oynadığı final maçlarını kazanarak, üç defa basketbolda Anadolu Kupası’nı kazanma başarısını gösteren ilk Anadolu takımı oldu.
Konya İdmanyurdu'nun 1932 kadrosu (Nail Bülbül)
