Współczesna forma gargulców wywodzi się z epoki średniowiecznej, chociaż pierwsze użycie gargulców można odnaleźć w starożytnej Grecji i Egipcie. Słowo "gargulec" oznacza gardło i jego pierwotny celem było odprowadzenie wody deszczowej z boku budynku, aby uniknąć erozji.
Francuska legenda z VII wieku opowiada o tym, jak św. Roman zapisał kraj Rouen z Goji lub Gargouille. Legenda głosi, że św. Romanus podporządkował stworzenie krucyfiksem. Stworzenie zostało następnie spalone, a jego głowa została zamontowana na ścianie kościoła, aby chronić złe duchy.