豎琴與箜篌、古典吉他、魯特琴等古老的西洋彈撥樂器(箜篌與琵琶一樣，在我國古代是西亞傳入樂器)都是由新石器時代的原始弦琴衍化而來，原始弦琴常在原始部落中扮演占卜、喪葬、祈雨等祭祀工具，可以認為它一切古典式弦琴的起源。隨著人類音樂藝術發展的不斷需要，原始弦琴開始了拓寬音域的努力，其中一支采用增加弦數拓寬音域，豎琴的樂器形式便產生了(另一支則通過指板按弦改變音高，衍化成魯特琴的雛形)。到古希臘及美索布達米亞時期，古典式弦琴早已從走入民間，成為吟游詩人的伴奏樂器，不再局限于祭祀。
2.古希臘、波斯、美索布達米亞時期至中古時期：
“Harpa”這個字的第一次出現，是在公元600年左右；早期文獻內對豎琴的記載，使用名稱并不統一。被發掘的第一把拱形豎琴（arched harp），是出現在美索布達米亞平原，年代為公元前2500年。它與緬甸豎琴相似，有13或14條琴弦。從當時古墓上的圖片可以看出，演奏者以左手撥弦，右手則負責按弦止音。有些中、西非地區，仍能見到這樣的豎琴。
3.中古時期以后：
現存最古老的愛爾蘭豎琴（Irish harp），是制造于14世紀。一般有30到36弦，最大的特色是使用指甲彈奏的聲音。當時歐洲其它地區的豎琴，與愛爾蘭豎琴最大的不同，在于它使用指尖而非指甲彈奏，而且它不像愛爾蘭豎琴的琴身，并沒有一個大共鳴箱。
目前世界上保有豎琴最原始風貌的地方，其實不在歐洲，而是中南美洲。中南美洲的豎琴構造，仍舊保有當時西班牙移民時期的原貌，雖然不同地域會有一些不同的改良方法。曾經在墨西哥，看過他們的街頭藝人，抱著豎琴當場即興，彈幾個chords，然后念唱一段當時他想到的歌詞，這就很像中古世紀的吟游詩人；還有在他們最具代表性的ensemble：Mariachi（有小提琴、曼陀林、小喇叭）中，豎琴也是原來必有的樂器（因為這樣的豎琴手已經減少，且豎琴這個樂器對他們來說是一種經濟負擔，只有大的Mariachi才用豎琴）。
豎琴樂器的演變，有一大部分是為了克服調性及半音的限制。16世紀時，Juan Bermudo比照鍵盤樂器，發明了雙排弦豎琴（double-strung harp）。這種豎琴，有兩排平行的弦，加上去的那一排，就像鋼琴的黑鍵，負責半音的彈奏。后來，克勞迪奧·蒙特威爾第（Monteverdi）的歌劇“Orfeo（1607）”里所使用的豎琴，就是雙排弦豎琴。
在雙排弦豎琴后，又出現了三排弦豎琴（triple harp——17世紀初）及鐮鉤豎琴（hook harp）。鐮鉤豎琴的原理，與后來發展的音級豎琴（lever harp）很相似，它是先將幾個特定的音調低半音，然后以左手操縱鐮鉤（hooks）而將音升高半音。
繼雙排弦與三排弦豎琴之后，在18世紀時出現了交叉弦豎琴（cross-strung chromatic harp），及半音階豎琴。交叉弦豎琴共有76根弦，44根在左邊，32根在右邊。德彪西著名的“'Danse sacree et danse profane（1904）”就是寫給這種豎琴的。但是這些豎琴，因為在彈奏上的困難與樂器本身的限制，幾乎都不使用了，只有在特殊表演或展覽中出現。這個世紀，在愛爾蘭豎琴方面，John Egan也發明了半音器（levers）。藉由手來調整位于琴弦上端的半音器，可以改變琴弦長短，而得到所需要的調性；這就是現在還普遍使用的半音器豎琴。
踏板豎琴（pedal harp）的演變，可推至17世紀末、18世紀初。當時有單一動作踏板豎琴（single-action pedal harp），莫扎特的長笛與豎琴協奏曲，第一次就是用這種豎琴演出。踏板豎琴就是用腳控制踏板來升高半音。單一動作的踏板，只有兩個凹槽（slots），踏板由上凹槽到下凹槽，只動作一次，能演奏的調性仍然有限。到了19世紀初，S·埃拉爾（Sebastien Erard）發明了雙次動作踏板豎琴（double-action pedal harp），因為有多加一個凹槽，踏板可以動作兩次，所以每根弦可以彈奏三個半音。至此，豎琴發展為可以彈奏所有調性的樂器，而現今音樂會中所使用的音樂會用踏板豎琴（concert harp），就是從Erard豎琴慢慢改進而來。
20世紀上半頁，尼龍弦被發明，逐漸改變了古典式弦琴。使豎琴與古典吉他(古典式弦琴兩大經典形式)在短期內普及了尼龍弦。由于尼龍弦具有更優秀的延展力與穩定性，使樂器的音色、音量等表現力相對來說都有了較顯著的進步。