“打开灵石口，空出晋阳湖”，这是太原地区流传很久的一句古话。相传是大禹治水杰作，从此就有了“晋阳”二字。
晋阳建城，是2500年以前的事了。
春秋时期（前770-----前476），晋国日趋强盛，晋文公重耳即位（前636-----前628）后，整顿内政，扩充军队，以“尊王攘夷，抑强扶弱”为战略方针，使晋国成为北方最强大的国家，并成为继齐桓公之后的中原霸主。晋景公十二年（前588）“设置六卿”以后，晋国公室势力开始削弱，政权下移异姓卿大夫手中。六卿之间不断进行兼并战争，于是就越发体现出城池的重要，晋阳城就是在这种情况下建筑起来的。
杨业是北汉政权的将军，他负责守卫的晋阳城就是2500年前建的古城，晋阳城，曾经是李唐王朝“王业所基”的发祥地，后唐失去了往日的辉煌，变成了五代十国战乱的祸源之地。其原因是晋阳粮食足，民性强，形势险要，晋阳城周围远近大小山河关隘环列，构成易守难攻，可进可退的天然屏障。“太原，东阻太行、常山，西有蒙山，南有霍太山、高壁岭，北扼东陉、西陉关，是以谓之寨也。（史方纪要选）”,近处有龙山、悬瓮山、卧虎山、系舟山、天门关、石岭关、赤唐关、旧关、娘子关以及汾河、洞涡河等天险。每当国内和平统一时，晋阳就是中原王朝的北疆重镇，是遏制少数民族势力南下的屏障；一旦中原分裂动荡之时，晋阳便成为各方势力角逐的中心，只要占据了晋阳，便可称雄称霸，进一步图取中原。五代的后唐、后晋、后汉以及十国中的北汉，兴起于晋阳。
后晋开运四年（947），契丹进攻中原，攻入开封，后晋灭亡，刘知远一面向契丹奉表称臣，一面在晋阳登基，他对契丹只是利用，不是投降。耶律德光也看出刘知远的态度，曾说过：“汝不事南朝，也不事北朝，意欲何所俟邪？（资治通鉴.后汉纪一）”刘知远在登基前和契丹打过两仗，两败契丹于秀容和阳武谷。刘知远出身穷苦下层，悉知民间百姓疾苦，其政治措施相对地照顾一些老百姓的利益，所以取得了人民的拥护和爱戴。民间相传的《白兔记》、《三娘教子》。就是根据刘知远妻子李三娘的故事编成的。
北汉是十国之中唯一的北方割据政权，是后汉的残余势力。北汉小政权能像钉子一样较长时间固定在晋阳大地，使北周、北宋无可奈何。一是有大量的财物和契丹的支持。二是险要屏关固守。宋朝建国20余年后才攻下晋阳，其前后用兵数次，其中两次皇帝御驾亲征。戏曲《三下河东》，就是根据这段史实而成。
杨业的祖父杨攽(分+攵ban)和刘知远是好友，杨业的父亲杨衮事刘知远儿子刘隐帝，杨业仕刘均的养子刘继元。北宋开宝元年（968）七月，北汉睿宗刘均病故，养子刘继元继位。宋主赵匡胤见有机可乘，命令攻打晋阳。刘继元一面令侍卫都虞候杨业带兵扼守团柏谷，一面向辽国求援。两军相峙间杨业部将陈廷山率部投降宋军，杨业退回晋阳，宋军很快夺取了汾河桥，直抵晋阳城下，焚烧了延夏门。杨业一面准备了大量粮草，一方面鼓舞人气，城内军民同仇敌慨，多次反击攻城宋军队伍。双方对峙至十月，辽国援兵到，宋退兵，杨业乘机收复晋、绛二州。
开宝二年（969）正月，宋太祖赵匡胤决定御驾亲征北汉，赵匡胤兵临晋阳城下，将大部队驻扎在甘草池（今太原瓦窑村南），又堵汾晋二水灌城。赵匡胤身先士卒，赤膊露体，亲自指挥作战。晋阳被困多日，一段南城墙倒塌，水涌入城中，北汉人心惊慌，秩序大乱。杨业率兵用草堵口，水口遂塞。其间大臣郭无为欲降，被斩首。
晋阳城久攻不下，时逢炎署酷热，又兼阴雨多日，宋营军士普染痢疾，苦不堪言。此时辽国北大王耶律乌珍从白马岭率劲旅，夜袭宋军，赵匡胤进退两难，于闰五月十三下令撤军，同时将城外居民万户掠往山东（太行山以东，河北）。
八年之后，的开宝九年（976）八月，宋太祖命潘美率军进攻晋阳，参战的有侍卫马军指挥使党进，右厢指挥使杨光义，防御使郭进。九月，党进直取晋阳城下，刘继元又派人赴辽求援，辽派南府宰相耶律沙、冀王敌烈来救晋阳。杨业指挥兵士用箭带火封锁宋军攻城，宋军久攻不下。两军正相峙间，宋主赵匡胤病死在开封（一说被其弟赵光义杀死）。赵光义登基，下令撤军，宋军退兵时又掠五万户居民至河南。
太平兴国四年（979）正月，宋太宗赵光义决定再次下河东（晋阳）征伐北汉。此时宋朝立国近20年，已将南方各割据势力扫平。事先对伐北汉做了充分准备。初五日，以大将潘美为北路都诏讨制置使，总制前线军队，又命河阳军节度使崔彦进、彰德军节度使李汉琼、彰信军节度使刘遇、桂州观察使曹翰从四面围攻晋阳城，同时督促各地向晋阳前线运送粮草。初十日，宋主赵光义在长春殿设宴，为潘美饯行。二月二十五日，宋太宗赵光义从汴京起驾，亲征晋阳。
三月十六日，辽国援军在白马岭（今山西孟县东北）被宋将郭进击败，辽兵死伤万余人，主将只身逃脱。其时宋军已攻克晋阳四周各县，对晋阳形成四面包围之势，晋阳城援绝势孤。
四月二十日，宋主赵光义军驻晋源庞家寨。筑长连城围困晋阳，严督各路军昼夜不息攻城。杨业亲巡四门，指挥反击，城下宋军尸首成堆，“城上箭如猬毛”。潘美攻城三败，杨业胜。
五月二十日，城内已无粮草，外无援兵，晋阳城危在旦夕。宋军攻破晋阳城外羊马城，马步军指挥使郭万投降宋军。宋太宗数次写信给北汉主，告谕其投降，已退职的左仆射马峰带病泣劝，汉主刘继元出城投降，而杨业继续指挥城内军民顽强抵抗。宋军见伤亡太重，要求汉主劝降杨业。杨业下跪，向城内军民三拜，向北面三拜，在恸哭声中，解甲来见宋主。潘美对杨业守城久不下气愤万分，要立斩，被宋主制止，并授于右领军卫大将军、郑州防御使。
宋太宗取晋阳后，不顾军兵劳疲，又挥师北攻幽州（北京），被辽击败。十一月，宋主以杨业“老于边事，复迁代州兼三交驻泊兵马都部署”，与潘美共同担负起防御辽国的重任。杨业当年在今山西省代县、繁峙一带修筑了阳武寨、崞寨、西陉寨、茹越寨、胡谷寨、大石寨6个兵寨，以御辽兵。杨业根本没有到山西西部守过偏关、宁武关，那是杨信儿孙的防地。
太平兴国五年（980）三月，十万辽兵攻雁门，杨业命部将堵截雁门关峡南口，自己率三百轻骑兵绕小路，从北向南猛攻，击败辽兵十万人，杀死辽国节度使、附马、侍中萧咄李，活抓马步军都指挥使李重海。从此，杨业声威大振，号称“无敌”。辽兵只要望见杨业旗号，立即退避，杨业也由此提升为云州（今山西省大同市）观察使，仍知代州。杨业屡立大功，受到潘美嫉妒，潘美给皇帝上书毁谤杨业，同时制造了惊世闻名的“陈家谷惨案”。
潘美陷害杨业后，晋阳城内民众人 心不服，本来对北汉刘氏屈膝媚辽并无好感，宋军转攻晋阳时火烧平遥、寿阳，又几次俘掠百姓，激起了人民同仇敌忾的士气，加之晋阳民性强悍，盛行习武风气，有“弓箭社”等民间练武组织，所以，北汉投降后，民间百姓仍以砖瓦石块为武器，击打宋军。金代诗人元好问诗曰：“.....薛王出降民不降，屋瓦乱飞如箭镞.......”正是当时的真实写照。赵光义对此十分气恼，借口晋阳和京师开封“参商不两盛”，强迫城内百姓迁出。宋军“尽焚其庐舍，民老幼趋城门不及，死者甚众”。次年，赵光义又派兵引汾水漫灌晋阳城，彻底毁灭了晋阳城。
赵光义将自己曾经指挥作战驻扎过的“汾东行营”改建为“统平寺”，御制《平晋记于寺中》，北赋《平晋诗》。但民间百姓不买帐，屡屡暗中将赵光义御驾亲征“纪念”物焚烧。
唐李世民在晋祠写了《晋祠之铭并序》一文，刻在石碑上，这篇铭文被认为是仅次于《兰亭集序》的行书杰作。赵光义仿照李世民御笔亲书的《晋之祠铭并序》，书写了《太平兴国碑》，但老百姓不认可，用各种刀具刮磨，成了一块无字碑。这也是百姓对宋帝对杨家将不公的情绪反射。