Veli Küçük, 9 Mayıs 1944 yılında Bilecik'te dünyaya geldi. Küçük, eğitimini Kuleli Askeri Lisesi ardından Kara Harp Okulunu tamamlayarak mezun oldu. Küçük, eğitiminin ardından Edirne, Van, Eskişehir, Ağrı, Kocaeli ve Hatay gibi çeşitli şehirlerde İl Jandarma komutanlıklarında görevde bulundu.
Veli Küçük, 1996 yılında tuğgeneralliğe terfi etmiş ve iki yıl Giresun Jandarma Bölge Komutanlığında bulunmuştur. Daha sonra Küçük, Çanakkale 2. Jandarma Eğitim Tugay Komutanlığı görevinde ardından Bilecik Jandarma Komutanlığına atanarak görevde bulunmuş ve Bilecik'te tuğgeneral olarak emekliliğe ayrılmıştır.
Veli Küçük, Abdullah Çatlı'nın ölmeden önce son görüştüğü kişi olarak iddia edilmesi üzerine Susurluk davasında adı geçmiştir. Fakat, Küçük, TBMM Susurluk Komisyonu Başkanı tarafından komisyona ifade vermesine gerek olmadığı yönünde karar alınmasıyla davaya çağırılmamıştır.
Veli Küçük, 22 Ocak 2008 tarihinde Ergenekon Örgütüne karşı düzenlenen operasyonda göz altına alınmış ve " halkı isyana tahrik" suçundan tutuklanmıştır. Küçük, Türkiye Cumhuriyeti Hükümeti'ne karşı silahlı isyana tahrik, zorla Hükûmeti ıskata teşebbüs, kasten öldürmeye azmettirme, korku ve panik yaratacak şekilde patlayıcı madde atmaya azmettirmek, mala zarar vermeye ve ruhsatsız patlayıcı bulundurmaya azmettirme suçlarından yargılanarak iki kez ağırlaştırılmış müebbet hapis cezasına çarptırılarak cezaevine sevk edildi. Fakat 21 Nisan 2016 tarihinde, İstanbul 13. Ağır Ceza Mahkemesi tarafından verilen bu karar bozuldu.