Cahit Zarifoğlu 1 Temmuz 1940'ta doğdu.
Çocuk yılları Siverek, Maraş ve Ankara'da geçti. İstanbul Üniversitesi Edebiyat Fakültesi Alman Dili ve Edebiyat bölümünden mezun oldu. Diriliş dergisinde şiirleri yayımlandı. Zarifoğlu, Berat Hanım'la evlendi ve üç kız, bir erkek çocuk babası oldu. Nikâh şahitliğini ise Necip Fazıl Kısakürek yapmıştır. Mavera dergisinin kuruluş çalışmalarında 1986’da yer aldı. Cahit Zarifoğlu Saf Şiir akımının temsilcilerindendi.
1973 senesinde Sarıkamış'ta askerlik vazifesine başlamıştır, 1974 senesinde Kıbrıs Barış Harekatı'na katılmış ve askerliği 1975 yılında askerliği bitmiştir.
1987 yılının Haziran ayında pankreas kanseri hastalığından İstanbul'da vefat etti. Kabri ise Üsküdar Beylerbeyi'ndeki Küplüce Mezarlığı'ndadır. Her sene tarihler 7 Haziran'ı gösterdiğinde sevenleri tarafından mezarı başında anılır.
Zahit Zarifoğlu'nun vefatından sonra Türkiye'nin birçok şehrinde Cahit Zarifoğlu adına okullar açılmıştır.