1968 Yılında Beypazarı'nda doğdu. Ortaokulu Polatlı İmam Hatip Ortaokulu'nda, Liseyi Polatlı Endüstri Meslek Lisesi'nde okudu. Atatürk Üniversitesi Fen Edebiyat Fakültesi Tarih Bölümü'nden 1989 yılında mezun oldu.
Polatlı Belediyesi Basın Yayın ve Halkla İlişkiler Müdürlüğü görevini 1995-96 yılları arasında yürüttü. 1996 yılında Şabanözü İlköğretim Okulu'nda öğretmenliğe başladı. Polatlı'da Sağlık Meslek, Anadolu ve Ticaret Meslek liselerinde tarih öğretmenliği yaptı.
Polatlı Ülkü Ocakları ve Türk Eğitim Sendikası Polatlı Şubesi'nin kurucu başkanlığını yaptı. MHP Polatlı İlçe Başkanlığı görevini 2 dönem yürüttü.
2014, 2019 ve 2024 Mahalli İdari Seçimlerinde üç kez art arda Polatlı Belediye Başkanı olarak seçilmiştir.
Başkan Yıldızkaya, Evli ve 3 çocuk babasıdır.
