後晉開運四年正月二十五日，契丹國主耶律德光以中原皇帝的儀仗進入東京汴梁，在崇元殿接受百官朝賀，耶律德光下制：降石重貴為光祿大夫，檢校太尉，封負義侯，並派兵將石重貴等一干王公貴族遷往契丹境內的建州居住。
後晉開運四年二月一日，耶律德光舉辦漢族的禮制華服，登上崇元殿接受百官朝拜，並下詔將國號“大契丹國”改為“大遼”，改會同十年為大同元年，升鎮州為遼中京。（即北宋真定府）
河東王劉知遠遣牙將王峻向耶律德光上表稱臣，自稱河東番夏雜居，須防止有人作亂，所以不便離鎮朝賀，又因遼將六九一駐守南川，有礙貢道，請將劉軍調回，以便入貢。
耶律德光覽表大喜，詔令褒揚嘉獎，呼劉知遠為“兒”，並賜一根木拐。按契丹禮法，尊貴的大臣才能得到這種禮遇賞賜，如同漢族禮儀形似皇帝賜予假節一樣，王峻拿著木拐出朝，契丹人望見他都紛紛避讓。
王峻回到太原後，對劉知遠說：耶律德光雖然攻佔開封，截擄天子，後晉百官投降契丹，各鎮節度使也大都投降，但各自面服心不服，暗含鬼胎。耶律德光以為中原皇帝坐定，便傳令契丹兵馬以牧馬為名，四處搶掠，稱“打草谷”。開封、洛陽附近數百里間，稱為白地。然而耶律德光並不滿足，他又下令以犒軍為名，嚴令後晉官員出錢，不論何人，都得獻出錢帛，所得財物，並不分給契丹兵馬一分，而準備運回契丹國內。契丹兵馬聽聞之後，把對朝廷的不守信用的怨氣變本加厲的轉嫁到中原百姓頭上，開封、洛陽、滑州、曹州等地，村社為之一空。就連亡者的墳塋，契丹人也不放過，一律發掘盜取，此行種種，天怒人怨，人神共憤。
一時間洛陽，開封等地民變四起，漸有燎原之勢，加上耶律德光不適應中原漸暖天氣，漸有北返意。
後晉開運四年二月十二日，河東太原城，北平郡王府白虎節堂內，眾將官竊竊私議，劉知遠居中踞坐，他面色紅紫，是個一言不發之人，，這讓左右部下覺得他有不怒自威之志，因而不敢逾越不恭。
後唐明宗與後梁朱溫軍隊交戰時，明宗女婿石敬瑭因在一次戰鬥中為梁軍所襲，劉知遠將自己的馬匹獻給石敬瑭，自己斷後，助他逃出生天。所以石敬瑭對劉知遠一直都很感激，而劉知遠也一直追隨石敬瑭左右。後來，石敬瑭稱帝，劉知遠便有了從龍職之功，授以高位。而等到後晉出帝石重貴登基，劉知遠便遭到新帝排斥，被排除到中樞之外，調任河東節度使，並掛了一個北面行營招討之名。而此時的劉知遠聽了王峻在開封的見聞，也料到契丹人不會久留中原，其實他早已暗地裡積蓄力量，現在已經到了最關鍵的時刻。白虎節堂中，坐著劉知遠的二十餘位心腹，劉知遠最為倚重的便是蘇逢吉、史弘肇、楊邠、郭威四位，另外還有王章、王峻、張彥威等大小官佐。
忽的，河東行軍司馬張彥威拍坐而起將劉知遠從沉思中驚醒。只見張彥威走到堂中，單膝跪地，抱拳凜然道：“契丹狼子，佔我中原，燒殺搶掠，人神共憤，常言道：家不可一日無主，國不可一日無君！主上威震河東，聲名遠揚，天命所歸，應順天意，登基為帝！”
“你，你……住口”饒是劉知遠早有心理準備，一時也被張彥威的話驚的語無倫次。
“戎狄入汴，致中原無主，本王身受先帝隆恩，位即王爵，卻未能力挽狂難，心中已是愧疚，你竟要我做出此等悖逆人倫之事！你、你、你好大的膽子。”劉知遠假意訓斥道。
站在一旁的蘇逢吉臉上一本正經，心中卻是嗤笑：真是虛偽，若你真有心勤王掃寇，咱早他孃的打到開封了，你位極人臣不想更進一步，我們也想位極人臣啊，你可倒好，非要在這裡做女兒態。他立馬站出：“如今我河東兵強馬壯，人心所向，我等願奉主上為帝，號令天下！”
史弘肇與郭威相視一眼也同一眾官佐伏拜道：“我等願擁主上為帝，號令天下！”
“休要如此、休要如此…….你們這麼做要將本王置於何地？”劉知遠佯怒道。
這時，蕃漢孔目官郭威道：”末將聽聞密州刺史皇甫暉，棣州刺史王建皆為避契丹兵馬，率眾投奔南唐，雄武節度使何重建斬契丹使者，以秦、成、階三州降蜀，東南諸道亦是賊兵氾濫，此皆契丹不得人心所致，主上若是即日登基，必一呼百應，則大事可成也！“
”是啊，大王！“眾將官再次伏拜。
”茲事體大，容本王好好思量一番。“劉知遠佯裝難做決定，匆匆跑進後堂，心中不住竊喜。望著劉知遠匆匆離去，眾將官皆起身圍住蘇逢吉道：”主上不聽我等忠言，如何是好？“蘇逢吉成竹在胸，淡然一笑：”勸進豈有一次而成乎？“，眾人皆悟。
第二日，眾人再次上書勸進，劉知遠仍謙讓不應。此後眾官，諸軍將吏，貴臣耆老皆陳請上書，奉表勸進。劉知遠拗不過眾人，於後晉開運四年二月十五日，在太原城稱帝，但沒有立即改國號，棄用開運年號，為表對石敬瑭的尊敬，劉知遠仍沿用石敬瑭天福年號，即天福十二年，接著就頒佈檄文新詔：
制曰
元氣肇開，樹之以軍；天命不恆，人輔以德。
故商政衰而周道盛，秦德亂而漢圖昌。人事天心，古今無異。
今內外崩潰，戎狄南寇，華夏驚駭，昊天不弔。又中原無主，致黎民流離，餓殍遍地。蒼茫生靈，血流成川，萬千塗炭，百姓處水深火熱之中也。
…….
朕雖處河東僻遠之地，聽聞噩耗，深激憤結，扼腕悲泣，羞於苟且。遂團結豪傑曲部，聆聞卿士賢謀，招撫流亡之義士，欲拯溺救孤，除暴安良，解萬民於倒懸之境。非朕之德耀於諸賢之上也，非朕之力冠於諸雄之上也。蓋窮朕綿薄之力耳，烈士暮年，壯士猶在！率河東帶甲者百萬，兵發紛塞，招賢納士，以匡漢威！
……
昔耿純焚廬而向順，蕭何舉族以從軍，皆審料興亡，能圖富貴，樹勳茂業，翼子貽孫，轉禍見機，決在今日！
凡草莽豪傑之士，元舊勳將之臣，既聞朕檄。若能詣轅門而效順，開城堡以迎降，豪傑義士授其官爵，長官無舊則改補官資，百姓則優加賞賜。
…….
諸道應嚴審法令，不得焚廬剽掠，但撫所在生靈，各安耕織。朕恭行天罰，罪上元兇，誅殺契丹使監，餘者元錯不問，既往不咎。
欽此！
接著劉知遠又下詔禁止為契丹搜刮錢財，並慰勞保衛地方和武裝抗遼的群眾。