Krzyż w swojej nowoczesnej formie był po raz pierwszy użyty przez Chaldejczyków i Greków w VI wieku p.n.e. Zmodyfikowane formy krzyża były również używane przez Hindusów, Buddystów i Egipcjan aż do 3000 B.C. Chrześcijanie zaczęli szeroko używać krzyża jako symbolu w drugim i trzecim stuleciu A.D.
Krzyże chaldejskie wyewoluowały z okrągłego symbolu przedstawiającego Słońce. Dwie belki, które tworzą krzyż, zostały następnie dodane do reprezentowania wiązek Słońca. Te krzyże symbolizowały chaldejskiego boga słońca Tammuza. Greccy bogowie Diana i Bachus byli czasami przedstawiani z podobnymi krzyżami.
Religijnym symbolem starożytnych hindusów i buddystów była swastyka, równoboczny krzyż z wygiętymi końcami. Hetyci i północni Afrykanie również używali tego symbolu. Egipcjanie używali symbolu anki, krzyża z okręgiem zastępującym górny koniec. Ankh był zwykle uważany za przedstawienie życia, ale często był także częścią przedstawień bóstwa słonecznego, Sekhet.
Jednym z najwcześniejszych przedstawień krzyża związanego z chrześcijanami jest graffiti Alexamenos, które pochodzi z II wieku naszej ery. Jednak chrześcijanie nie przyjęli w pełni krzyża jako symbolu aż do trzeciego wieku, kiedy cesarz Konstantyn, który już używał symbolu na wojnie, przyjął religię chrześcijańską. Chrześcijańscy artyści zaczęli przedstawiać Jezusa na krzyżu w szóstym wieku A.D.
