Historycy uważają, że instrumenty harpopodobne pojawiły się w starożytnym Egipcie około 3000 lat. a następnie pojawiły się w ich nowoczesnej formie kątowej w Azji około 1500 roku. Harfy przedstawione na rysunkach jaskiniowych ze starożytnego Egiptu były zbudowane jak łuki myśliwskie, które są obiektami historycznymi przypisującymi inspirację kształtem harfy. Jednak Azjaci udoskonalili kształt harfy, dodając skrzynkę dźwiękową i solidny słupek do wsparcia.
Wczesne harfy zawierały długie, cienkie pasma wykonane z materiałów organicznych, takich jak włókna roślinne. Harfy różniły się stylem, a nawet grą w zależności od regionu pochodzenia. W wielu częściach Grecji i Rzymu harfy istniały jako pionowe instrumenty, a gracze wyrywali ich struny oburącz. W regionie Mezopotamii harfy istniały jednak jako instrumenty horyzontalne. Gracze umieścili harfy na kolanach i użyli plektronów do zrywania struny.
Harfy należą do najstarszych instrumentów na świecie. Cieszyły się powszechnym stosowaniem w starożytnym Egipcie i Azji. Harps wyemigrował gdzie indziej, ciesząc się krótką popularnością w Indiach i na Bliskim Wschodzie, zanim nagle wyginął. Harps pojawił się ponownie w Europie w IX wieku. Ich kształt nieznacznie się zmienił od wcześniejszych wersji, silnie naznaczonych gotyckim wyglądem. Gotyckie harfy z wydłużonymi szyjami i smukłymi torsami zapewniły elegancki wygląd. Harfy chromatyczne pojawiły się w XVI wieku, ukazując się jako instrumenty z dwoma lub trzema rzędami strun.