Kemalettin Yılmaz, 1 Mart 1956'da Afyonkarahisar'da doğdu. Babasının adı Hüseyin, annesinin adı Fatma'dır. Ziraat Yüksek Mühendisi; Çukurova Üniversitesi Ziraat Fakültesi Bahçe Bitkileri Bölümünden mezun oldu. Tarım ve Köyişleri Bakanlığı Personel Genel Müdürü olarak görev yaptı. Orta düzeyde Almanca bilen Yılmaz, evli ve 2 çocuk babasıdır.