Kemalettin Yılmaz, 1 Mart 1956'da Afyonkarahisar'da doğdu. Babasının adı Hüseyin, annesinin adı Fatma'dır.
Ziraat Yüksek Mühendisi; Çukurova Üniversitesi Ziraat Fakültesi Bahçe Bitkileri Bölümünden mezun oldu.Tarım ve Köyişleri Bakanlığı Personel Genel Müdürü olarak görev yaptı.
Orta düzeyde Almanca bilen Yılmaz, evli ve 2 çocuk babasıdır.