Впервые Сана упоминается в хрониках в I веке нашей эры. Однако город существовал уже к этому времени.

В X веке арабский историк пишет, что основал город царь Сабии Шар Автар, живший во второй половине II века. Он же построил дворец Гумдан, известный теперь далеко за пределами государства Йемен. Ходят легенды, что основателем города был Сим, сын Ноя.

В VI веке за этот город сражались армии Персии и Эфиопии. Во время 50-летнего господства эфиопов, при поддержке византийского императора Юстиниана 1, в городе построили большой кафедральный собор. В 628 году Йемен принял ислам, и, говорят, сам пророк Мухаммед благословил постройку первой мечети в его столице. В XII веке городом правила династия Айюбидов. Она укрепила власть шиитских имамов, объединивших духовную и светскую власть.

Первый европеец посетил город в XVIII веке, когда по поручению короля Дании Фридриха V в Йемен была организована экспедиция. В 1872-1890 годах Сана была под властью Османской империи. Турки принялись перестраивать город.

В конце XIX века столица Сана имела крепость, 50 мечетей, общественные купальни, караван-сараи, сады и виноградники, водопровод, который снабжал Сану водой с горы Нокум. Город стал центром торговли, главным продуктом которой был кофе.

В первой половине 20 века Сана — столица имама Яхья бин-Мухаммада. После его убийства в 1948 году власть перешла к его сыну Ахмаду бин-Яхья. Он перенёс столицу Йемена в город Таизз. В 1962 году была провозглашена Арабская Республика Йемен. Через 7 лет в государстве вспыхнула гражданская война.

В 1990 году объединился Йемен, Сана стала его столицей.