光緒二年（1876）二月，左宗棠命大將劉錦棠統兵自甘州（今張掖市）移師至肅州，七月，令劉錦棠領湘軍二十五營一萬三千兵馬，與滿族將領金順率清兵四十營二萬一千兵馬，共三萬四千兵力先鋒，出星星峽進入新疆，一舉奪回失陷十四年的烏魯木齊，光緒三年（1877年）初，天山以北基本上收復，同年進軍南疆門戶庫爾勒，擊敗白彥虎，再收復東四城：庫車、拜城、阿克蘇、烏什。阿古柏政權分崩析離，劉錦棠迅即攻入喀什噶尔（今喀什市），破其都城葉爾羌（今莎車縣）阿古柏已死，南疆全部收復。左宗棠大功告成，需要解決的是，收復被俄國佔據十年的伊犁，於是有「左宗棠枱棺西征」的傳說。但解決伊犂問題，是清朝與俄國的外交較量。

光緒七年（1881年），清政府經過艱辛交涉，與帝俄談判，最終收復被俄國佔領長達十一年之久的伊犂地區。清朝統治者亦意識到新疆的得失，影響全國的政局，早在左宗棠進軍新疆的時候，已向他詢問處置新疆邊防的策略，宗棠在《遵旨統籌全局摺》中，提出他的意見：

「竊維立國有疆，古今通義，規模存乎建置，而建置因乎形勢，必合時與地通籌之，乃能權其輕重，而建置始得其宜。伊古以来，中國邊患，西北恒劇於東南。

「是故重新疆者所以保蒙古，保蒙古者所以衛京師，西北臂指相聯，形勢完整，自無隙可尋，若新疆不固，则蒙部不安，匪特陕甘、山西各邊，時虞侵軼，防不勝防，即直北關山，亦將无晏眠之日。」

「為新疆畫久安長治之策，紓朝廷西顧之憂，則設省，改郡縣，事有不容已者。」

朝廷接納他的意見，光緒十年（1884）十一月十九日，光緒皇帝頒發上諭，任命劉錦棠為甘肅新疆巡撫，魏光燾為新疆布政使，標誌着新疆正式建省。新疆省會由伊犁移至廸化（今烏魯木齊），全省設置鎮廸（鎮西廸化）、阿克蘇、喀什噶爾、伊塔（伊犂塔城）等四道，有廸化、伊犂、焉耆、溫宿、疏勒、莎車等六府，吐魯番、精河、英吉沙爾、塔爾巴哈臺、庫爾哈喇烏蘇、哈密、鎮西等七直隸廳，庫車、烏什、和闐等三直隸州，一散廳、一散州、二十一縣。