1950年代的呼和浩特，內蒙古博物館與駝隊
呼和浩特陰山一帶遠古人類活動，有悠久歷史。1973年在呼和浩特東北發現的距今50萬年前的「大窯文化」發生於與北京周口店北京人同一時期的舊石器時代初期至晚期。
春秋戰國之前，一些北方游牧民族，如匈奴、林胡、樓煩在今天的呼和浩特地區游牧生活。戰國時代的趙國國君趙武靈王推廣「胡服騎射」，打敗林胡、樓煩這兩個游牧民族之後，在呼和浩特托克托縣建雲中城。中原華夏民族開始在呼和浩特定居。「趙長城」經過呼和浩特北面的大青山。
前221年，秦始皇統一中國，建立三十六郡，呼和浩特附近的雲中郡就是其中一郡。漢武帝時，雲中是防備匈奴的前哨和遠征匈奴的基地之一。今新城區的塔利村就留有西漢時期的土城遺址。北魏早期都城「盛樂」即在今呼和浩特南面40公里的和林格爾縣上土城村北，盛樂經濟園區西。唐朝貞觀年間，唐軍大敗突厥於白道（今呼和浩特市北蜈蚣壩）。708年（景龍二年），唐王朝在河套地區設立了東、中、西3個「受降城」。遼代的「豐州」也在這裏，公元10世紀初，遼國在此設天德軍及豐州。豐州故址在今呼和浩特東南約20公里的白塔村附近。公元12世紀初，女真滅遼建金，仍稱豐州，是當時的軍事重鎮，也是人口密集，商業繁榮的州邑之一。元朝時豐州的經濟文化發展迅速。文人劉秉忠詩曰：「晴空高顯寺中塔，曉日平明城上樓。車馬喧闐塵不到，吟鞭斜裊過豐州」。
元朝被明朝推翻之後，蒙古人退居塞外，延續北元政權。明朝在漠南地區先後設置了衛所40多處，分別為十三大塞王轄區，當時呼和浩特屬晉王轄區，為東勝衛所在地。1388年北元分裂為東部韃靼和西部瓦剌。15世紀末，達延汗統一東部蒙古實現「中興」。1572年，漠南蒙古首領阿勒坦汗（達延汗的孫子）率土默特部駐牧呼和浩特，並在今玉泉區境內建「庫庫和屯」城，從此土默特部從草原游牧過渡到定居生活。阿勒坦汗在此前和明朝訂立的藩屬關係，阿勒坦汗被封為「順義王」。明政府於萬曆年間賜庫庫和屯漢名「歸化」，意思是令少數民族歸順、化一，服從明朝廷的統治。此即歸化城（即舊城）。
雍正元年，置歸化廳，雍正六年，又置歸綏道。
乾隆四年，增置綏遠廳同知。
乾隆二十五年，以歸綏所屬地歸化城、清水河、薩拉齊、和林格爾、托克托城增置五通判，與歸、綏二廳並屬歸綏道。
乾隆二十九年，裁歸化城通判[4]。
雍正十三年（1735年）至乾隆四年又在歸化城東部新建軍事駐防城，命名為「綏遠城」（即新城），後將「歸化」、「綏遠」兩城合併為歸化縣。
中華民國時期，歸綏市為綏遠省省會 亞新地學社1936年《袖珍中華全圖》的綏遠省地圖
1913年，中華民國將之改名為歸綏縣，1928年，綏遠省成立，以歸綏縣城區設立歸綏市，作為省會。抗日戰爭時期，日本蒙疆政權將歸綏市改為「厚和特別市」。日本戰敗後，復稱歸綏市。
1950年，中華人民共和國撤縣設歸綏市，1954年，內蒙古、綏遠合併，內蒙古自治區人民政府由張家口市遷到這裏，並設呼和浩特市，定為內蒙古自治區首府。[5]
1960年，原屬烏蘭察布盟的土默特旗劃歸呼和浩特市。
1963年，將土默特旗劃歸烏蘭察布盟。
1970年，烏蘭察布盟所屬土默特左旗、托克托縣劃歸呼和浩特市。
1995年11月21日，烏蘭察布盟的和林格爾縣、清水河縣劃歸呼和浩特市。
1996年5月18日，烏蘭察布盟的武川縣劃歸呼和浩特市。