遼朝從11世紀中期開始衰落，統治集團內部因皇位繼承問題，黨爭不已；進入12世紀後，人民起義連續不斷；1114年女真族首領完顏阿骨打起兵反遼，在短短十一年內徹底推翻遼朝，建立起金朝。在遼朝覆亡前夕，皇族耶律大石北走漠北建立政權，後又率部西征，先後降服高昌回鶻王國、東西兩部喀喇汗王朝、花刺子模國，建立了強大的西遼帝國，西遼帝國，這個由契丹西進中亞建立的王朝，上承高昌回鶻、喀喇汗，下接蒙古帝國，其控制區域比起中原的金朝和南宋來更為龐大，對整個世界的影響更為深遠。西遼帝國雖統治時間只有88年（1124～1211年），但在中亞歷史上卻是一個重要的朝代。
耶律大石，字重德，遼太祖——耶律阿保機八代孫，生於1087年。他幼年時受過很好的契丹族的傳統騎射訓練和文化教育，又接受過漢族的文化教育。1115年考中進士，取得殿試第一名，授翰林院編修一職。不久，他又遷升翰林承旨。契丹語把翰林稱為林牙，所以人們稱他為大石林牙。耶律大石踏上仕途之時，正是遼國開始覆沒的時候：1116年金軍佔領遼東京，耶律大石出任泰州刺史，後又調任祥州刺史；1120年遼失上京，中京危機，北宋也想趁機佔領燕雲十六州，耶律大石調任遼興軍節度使，守衛南京道。1122年金軍大舉進攻，取中京，下澤州。遼天祚帝從南京撤退，受到金軍的掩襲，倉皇逃奔，“乘輕騎入夾山”，與外界消息隔絕。當天祚帝出走南京時，詔留宰相張琳、李處溫與秦晉國王耶律淳守南京。至是，數日命令不至，李處溫便與南京都統蕭幹、遼興軍節度使耶律大石等立耶律淳為帝，據有燕、雲、平及上京、中京、遼西六路，史稱這一短命政權為“北遼”
1122年耶律大石打敗了南線宋軍的兩次進攻，但是北線的金軍又逼近長城。這時耶律淳已憂懼而死，其妻蕭德妃稱制，料難以抵擋金軍，便逃離南京，同耶律大石去投奔天祚帝。耶律大石說服遼天祚帝赦免參與立耶律淳為帝的全部人員，天祚帝賜予酒食，任耶律大石為都統。1123年耶律大石率軍襲擊金軍，戰敗被俘。次年耶律大石逃歸，並帶回一支軍隊。天祚帝得到這支軍隊，又得到陰山室韋謨葛失的支持，自謂天助，再謀出兵，收復燕雲。大石認為不可，但是天祚帝不能採納，堅持出兵。耶律大石知其不可能成就恢復大業，便殺掉悻臣蕭乙薛和坡裡括，率鐵騎二百，夜間離開天祚帝大營。他走後，天祚帝出兵，先取得了一些小勝利，但很快被金軍打敗，1125年春，在逃亡党項的途中被金軍俘虜，遼亡。距耶律大石出走只有半年。
耶律大石一行二百人從夾山（今呼和浩特市西北的吳公壩以北）出發，北行三日過黑水（今蒙古國愛畢哈河），遇到白韃靼首領床古兒。床古兒獻馬四百匹，駱駝二十頭，羊若干。耶律大石一行穿越沙漠，到達遼朝北疆重鎮——西北路招討司駐地可敦城。他立即召開七州、十八部的長官、首領和部眾開會，號召重建遼朝，受到各部的支持。於是耶律大石從這些首領的手中得到了一萬餘精兵，在這裡創立了簡單的政府，開始任命官員，立排甲，具器仗。“松漠以北舊馬，皆為大石林牙所有”，西遼的國家規模初具。
耶律大石在可敦城掌握實權後休養生息，積極展開外交活動，爭取金國的敵國，同北宋、西夏都有聯繫。耶律大石政權經過五年的發展，實力已經相當強大，決定向外擴張。重建遼國，固然是耶律大石和臣下最嚮往的，但是新興的金國處於全面上升時期，其實力大大超過他們。當時西域的情況則相反，高昌回鶻王國、喀喇汗王朝經過幾個世紀的發展，已進入衰落時期，忙於內爭，無力對外。於是耶律大石政權決定先向西發展，擴大領域，建立更為雄厚的物質基礎，然後再來消滅金朝，光復遼國。
1130年2月22日，耶律大石按照契丹族傳統，殺青牛白馬祭告天地、祖宗，整旅西行。他率軍隊進入葉尼塞河上游的吉利吉思地區，向這裡的部族發動進攻，這些部族反過來也襲擾耶律大石的軍隊。耶律大石率軍離開這裡，向西徵進，進入翼只水（今新疆額爾齊斯河）和也迷裡河（今新疆額敏河）地區。耶律大石率領主力部隊西征後，金朝西北前線很快得到情報。第二年，即1131年，金軍元帥粘罕發燕雲漢軍和女真軍一萬人令右都監耶律餘睹率領，北攻可敦城；又發燕雲、河東夫運糧隨行。金軍的這次進攻卻因為沙漠的阻擋而以失敗告終，耶律大石在東線擊敗了金軍的進攻，取得了巨大的勝利，西征喀喇汗王朝雖遭慘敗，但及時調整了方針，與民休息，得到了當地突厥各部族的擁護，戶數達到四萬，疆域空前擴大，東起土兀刺河（今土拉河），西至也迷裡河。1132年2月5日，耶律大石在文武百官的擁戴下，在葉密立城登基稱帝。號菊兒汗（或譯為古兒汗），意為“大汗”或“汗中之汗”。群臣又上漢尊號“天志皇帝”，建元“延慶”。至此，西遼王朝創立完成。
1132年，當耶律大石在葉密立鞏固住地位之後，開始擴大領域，他首先率領軍隊南下，再次進入高昌回鶻王國。國王沒有組織抵抗，便歸順了西遼。耶律大石把高昌回鶻王國併入西遼版圖，但仍讓它繼續統治這一地區。1130年耶律大石進攻東部喀喇汗王朝的喀什噶爾地區失敗之後，把進攻目標轉向七河地區。東部喀喇汗王朝阿赫馬德汗死後，兒子易卜拉欣繼位，他是一個無能的人，葛邏祿人和康里人不再服從他，而且經常欺凌他，襲擊他的部屬和牲畜，他也無法控制局勢。1134年初，易卜拉欣聽說耶律大石率領大軍駐紮在邊境，便派出使臣，請求他到他的都城巴拉沙袞去。耶律大石接到請求後，便率領大軍開進巴拉沙袞。耶律大石把易卜拉欣汗降封為王，保存了東部喀喇汗王朝對喀什噶爾與和田的統治，作為附庸國；同時也對這些地區派出軍隊。巴拉沙袞地區，是可耕可牧的“善地”。於是耶律大石決定建都巴拉沙袞，後將其改名為虎思斡耳朵，改延慶三年為康國元年。他把沙黑納（意為監督官）派往各地，康里人也服從了他的統治。
1134年3月，耶律大石率領七萬騎兵東征金國。西遼的這次東征已引起金朝的注意。金熙宗繼位後，1135年，命粘罕征伐西遼。金軍進入沙漠後，被西遼的伏兵多次攻擊，共三晝夜，勝負未分。金軍糧草斷絕，人馬凍死很多。副將外家得本來是契丹人，得知父兄妻子都在西遼軍中，率部下起義。金軍在西遼軍和起義軍的夾擊下，大敗而歸。西遼在西方的擴展取得了巨大的勝利，在東方也擊退了金軍的進犯，王朝的疆域進一步擴大和鞏固。
1137年西遼又開始了第二階段的向外擴展。它首先進入費爾干納谷地，在這裡大概沒有遇上什麼抵抗；繼續向西推進，到達忽氈。在這裡遇上西部喀喇汗王朝的馬赫穆德汗的抵抗。兩軍交戰，喀喇汗王朝軍隊被擊潰，馬赫穆德汗逃回首都撒馬爾罕。然而西遼軍隊卻沒有乘勝前進，而是停下來鞏固新地盤，等待更好的戰機。1141年，喀喇汗王朝又爆發了康里人與葛邏祿人之間的民族衝突。喀喇汗王朝馬赫穆德汗向自己的宗主塞爾柱突厥人蘇丹桑賈爾求援。桑賈爾集中了十萬多騎兵，1141年7月渡過阿姆河。當他聽到馬赫穆德汗關於發生衝突的情況後，便向葛邏祿人進攻。葛邏祿人派人向耶律大石求援。耶律大石給桑賈爾寫信，為葛邏祿說情。不可一世的桑賈爾不但沒有接受說情，反而要耶律大石接受伊斯蘭教，否則就要武力解決。耶律大石下令進軍，他率領軍隊在撒馬爾罕以北的卡特萬與敵相遇。1141年9月9日會戰。桑賈爾軍雖先聲奪人，取得了一些勝利，但西遼軍隊越戰越猛，桑賈爾的妻子、兩翼指揮官及著名伊斯蘭法學家胡薩德•奧瑪爾被俘，桑賈爾僥倖逃脫。桑賈爾軍隊傷亡慘重，死亡總數達三萬人。耶律大石以少勝多，獲得大勝並佔領了西喀喇汗都城撒馬爾罕。
1141年卡特萬會戰後，西部喀喇汗王朝和花刺子模國進入西遼的版圖，西遼的疆域至此穩定下來。西遼疆域分為王朝的直轄領地和附庸國、部的地面兩部分。直轄領地為以巴拉沙袞為中心的錫爾河上游、伊塞克湖周圍地區，其附庸國有高昌回鶻王國、東部喀喇汗王朝、西部喀喇汗王朝、花刺子模國；附庸部族主要有乃蠻部、康裡部、葛邏祿部。