金兵滅遼後，隨即南下侵掠。遼朝西北地區的各游牧部落，並無戰事。耶律大石領兵至鎮州（今蒙古鄂爾渾河上游，哈達桑東北古回鶻城），召集西北地區十八個部落，徵兵萬人，設置官員，重新組成統治機構。延慶七年（1130），耶律大石率部經回鶻西行，至葉密立（今新疆塔城一帶），征服突厥各部落。耶律大石建號稱帝，號天祐皇帝，又號古兒汗，耶律大石仍用遼國號，史稱西遼，又稱哈喇契丹（黑契丹）。康國元年（1134），耶律大石在楚河南岸八剌沙袞建都，號為虎思斡魯朵。
耶律大石建都後，出兵東征喀什噶爾，進至和闐。向西征服撒馬爾罕和花剌子模。康國十年，病死，依漢制立廟號德宗。
西遼德宗耶律大石死後，由皇后塔不煙執政七年，以後傳子耶律夷列（仁宗）。崇福元年（1164），西遼仁宗死，妹普速完攝政，號承天皇太后。普速完與夫弟蕭朴古只私通，謀殺夫蕭朵魯不。蕭朵魯不父蕭斡里剌為西遼元帥，領兵殺普速完及蕭朴古只。天禧元年（1178），西遼仁宗子耶律直魯古繼帝位。
天禧二十七年，蒙古成吉思汗滅乃蠻部，乃蠻部長太陽汗敗死，子屈出律西逃。年初，屈出律逃奔西遼。耶律直魯古將女兒嫁給屈出律。屈出律又離西遼東去收集乃蠻殘部，與花剌子模相約，夾攻西遼。三十四年，耶律直魯古被迫退位。屈出律篡奪了西遼王位，奉耶律直魯古為太上皇，兩年後死。1218年，蒙古軍滅其國，屈出律被捕處死。