殺虎口兩側高山對峙，地形十分險峻，其東依塘子山，西傍大堡山，兩山之間開闊的蒼頭河谷地，自古便是南北重要通道，至今大同至呼和浩特的公路，仍經由此地。
殺虎口關城是明嘉靖二十三年(公元1544年)土築，萬歷二年(公元1574年)磚包，城周為1公裏，高11.7米。明萬歷四十三年(公元1615年)在殺虎口堡外另築新堡1座，名平集堡，其長、寬、高、厚與舊堡皆同，兩堡之間又於東西築墻相連，成倚角互援之勢。
關於殺虎口及右玉城在明朝時的重要性，由代宗頒賜水陸神禎壹事足可看出。代宗朱祁鈺是英宗被蒙古瓦剌俘去後繼位的，他為祈禱上蒼保英宗安全回來，許願如打敗瓦剌，英宗回來，願將“水陸神禎”禦賜給朔平府右玉縣。後來於謙組織的京都保衛戰取得勝利，英宗被釋，代宗遂派臣將“水陸神禎”頒賜給右玉，以謝神靈。“水陸神禎”就是皇宮中庫藏的120幅稀世珍品，名貴的繪畫。據說這些畫多出自大唐貞觀年間吳道子和閻立本之手。現在殘存的部分珍品收藏在山西省博物館內。
殺虎口和右玉城做為軍事要塞，自古戰火不斷，特別是在明正統至嘉靖年間，先後多次被蒙古軍隊攻下來。但在嘉靖三十六年(公元1557年)的壹場戰爭中，守軍卻在左右無援的情況下，孤軍奮戰，堅守右玉城，長達8個月的時間，這在中國戰爭史上也是不多見的。
這場戰爭起因於“桃松寨事件”。桃松寨是俺答汗之子辛愛的妾，她與辛愛部下的壹個頭目鬼混，被發現後慌忙投奔了明朝，當時的大同總督楊順，為請功邀賞，將其送進京城。辛愛為此率部進攻殺虎口，然後包圍了右玉城。楊順見事情不好，後悔不該收留桃松寨，他向朝廷謊奏，蒙古辛愛部願用白蓮教起義失敗後跑過去的漢人交換桃松寨。皇帝同意了放還桃松寨，但辛愛不但未退兵，反又加強了兵力，在進攻右玉城的同時，又向大同、宣府壹帶長城發起了進攻。
在蒙古兵多次強攻下，右玉城軍民浴血奮戰，右玉守將在作戰中陣亡後，有壹位姓尚名表在家休息的武將，自願擔任了右玉保衛戰的指揮。他在此異常困難的情況下，除打退敵方進攻之外，還多次抓住有利戰機，偷襲敵營。從九月堅持到第二年的四月，右玉城雖未被攻克，但城內軍民幾乎已絕炊斷糧，可充饑的牛馬等牲畜也被吃光了。
在形勢十分危急的時候，明廷派兵部尚書楊博親率大軍來解右玉之圍。蒙古兵見右玉城實難攻下，而明朝援軍將至，便自動解除了對右玉城的包圍，從殺虎口撤出長城。
這場戰爭之後，重新加固修繕了殺虎口和右玉城，及殺虎口壹帶的長城。並增加了守備兵額，大大提高了殺虎口的防禦能力。
歷史上的“走西口”的故事就發生在殺虎口。
清初，長期鎮壓農民起義和抗清的戰爭，造成北方長城以內生產極大破壞，各地田地荒蕪，屋宇殘破，人丁流亡。大批山西、陜西、甘肅和部分河北的破產農民、戰敗的農民起義軍，或“攜男挈女”或孤身壹人，千百成群，背井離鄉，冒禁私越長城，“走西口(指山西省殺虎口。後泛指出長城西部各口去內蒙古西部各地)，去歸化”“覓食求生”。當時流民由土默特而西，或向蒙民租地墾種，或入大漠私墾，形成“走西口”的遷徙群體。加之清朝對蒙古采取懷柔政策。推行喇嘛教，大興寺廟，大量招徠山西、陜西、河北工匠和破產農民；明末，遭林丹汗兵禍，丁口銳減的土默特首領小順義王為補充丁口和蘇木(佐)，不分民族破例納丁編佐，以補足30個蘇木(150戶丁口為1個蘇木)的缺額，山、陜流民紛紛前來加入蒙籍；隨著清朝對蒙古封禁政策的松弛和歷年遭受嚴重自然災害而破產農民隊伍的不斷流入，“走西口”的人漸由土默特而西至阿拉善、額濟納等旗耕牧就食，至解放前延續不斷。解放後才結束了“走西口”的痛苦歷史。