さらにさかのぼれば新石器時代、人類の祖先がここに生息していたという。また、伝説上の五帝の一人・堯が、ここを初めて領地にしたと伝えられることから、古くからその名を馳せた。
　紀元前221年に中国が「郡県制」を敷いて以来、ここは県の都・県城（県庁所在地）となった。「礼」（規則、制度）を基本とした街のつくりは整然としている。城壁で四角に囲まれた街のつくりは、中心線を軸として左右対称に配されている。築城のための第一級の制度規範を忠実にまもり、つくられた街だ。それは、明・清代の漢民族の歴史と文化の面影を、完全なまでに今に伝えているのである。
　山西省中部地方は、土地面積が少ないわりに人口が多く、土地もかなりやせていた。そのためここの人々は、外地に赴き、商いにいそしむことで生計をたてた。その足跡は全国にわたり、絹織物や染料、特産物や骨董品などの商いをだんだんと牛耳るようになっていった。
漢代にいたると、平遥は物資の集散地として栄えた。明・清代には、山西省の商人である「晋商」と安ｻﾕ省南部の商人「徽商」が、「中国二大商人」としてその名をあげた。
　晋商は、とりわけ商いに長けていた。1670年ごろには、その勢力範囲を北方から南方の江南地方へと広げ、地域を超えた経営組織システムを徐々に確立していった。昔、民間ではこんな言葉がはやったという。「スズメのいるところに、平遥人あり」。そこからは、平遥の人がいかにたくさん全国を回っていたか、その経済がいかに発展していたかがわかる。
　清代半ばの1823年、物流と貨幣運用の需要から、顔料問屋の主であった雷履泰の建議が通り、顔料問屋は金融機関に生まれ変わった。それが中国最初の金融機関「日昇昌」である。これにより、平遥は中国最大の金融中心都市となった。大規模な金融取引が行われ、各地の物資が流通し、平遥経済はいっそう発展したのである。
   平遥はかつて、「物資が入れば、すぐに出て行く平遥城」「小北京」などと呼ばれたが、それは当時のようすを明らかに写し出している。また経済発展が功を奏し、古城の建築や保護が積極的に進められた。
   新中国成立後の1960年代、平遥古城の城壁は、省クラスの重点保護文物に指定された。70年代後期、国家は巨額の資金を投じて、平遥の修復プロジェクトをスタート。80年代には、国務院（中央政府）により、ここが全国重点保護文物に指定された。その後も、城壁や堀を原型通りに直すため修復作業が続けられ、1993年、城壁の壁部分の修復が基本的に終了、97年には平遥の「一城両寺」（平遥古城、双林寺、鎮国寺）が、ユネスコの世界文化遺産リストに登録された。