Pierwsze wzmianki o tej miejscowości pochodzą z 1241 r., Wtedy, pod Chmielnikiem rozegrała się przegrana przez rycerstwo polskie bitwa z wojskami mongolskimi. Początkowo osada była własnością książęcą by w XIII w. stać się własnością możnego rodu Odrowążów.

Dzięki staraniom Oleśnickich Chmielnik otrzymał prawa miejskie nadane mu przez króla Zygmunta Augusta w połowie XVI w. Pierwsza parafia w miasteczku powstała w 1354 r. Kościół konsekrował ówczesny biskup krakowski Bodzanta. Z początku w granicach parafii znajdowało się tylko kilka miejscowości, dopiero w od XVI w. ich liczba się wydatnie zwiększyła. W okresie przedrozbiorowym w mieście istniały: szkoła, szpital parafialny, prebenda św. Mikołaja, Bractwo św. Anny, Bractwo Różańcowe. Około roku 1555 ówczesny dziedzic Chmielnika Jan Oleśnicki przekazał kościół parafialny w posiadanie protestantom. Miejscowy proboszcz po spaleniu plebanii został wypędzony i musiał szukać schronienia w Szydłowie. Według historyków w XVI w. Chmielnik był jednym z najważniejszych małopolskich ośrodków arianizmu dystansując pod tym względem pobliski Pińczów.

Obecny kościół był budowany w latach 1730-1783 przez Jerzego Ożarowskiego, a następnie przez Andrzeja i Elżbietę Moszczyńckich. Świątynia została konsekrowana przez sufragana sandomierskiego bpa Wojciecha Radoszewskiego. Ołtarz główny kościoła z wizerunkiem Matki Bożej Niepokalanej pochodzi z XVIII w.

Na terenie parafii znajdują się trzy kaplice, w których odprawiane są Msze św.: kaplica w Domu Sióstr Kanoniczek Św. Ducha w Chmielniku, kaplica w szpitalu w Chmielniku i kaplica w Domu Pomocy Społecznej w Łagiewnikach.