清政府于1762年（乾隆二十七年）设立伊犁将军，作为新疆的地方军事长官，管理军政。民政事务仍由各地民族头目自理。在蒙古部和哈密、吐鲁番等地保存札萨克制，设王公管理；在南疆的维吾尔族地区实行伯克制；在汉、回族聚居的东部地区则推行州、县制，设镇迪道，虽由乌鲁木齐都统兼管，但隶属甘肃省。这种以军府制为主体的多元制的行政建制，职能偏重于军事和戍边，各地王公、伯克自行其是，政令难以统一，削弱了清政府在新疆的统治，当外来势力入侵之时，就易出现分裂割据的严重局势。
龚自珍在《西域置行省议》中最早提出了新疆置州县、设行省的主张。魏源在《圣武记》中也提出过新疆应“追天顺时，列亭障，置郡县”的问题。正是在龚、魏的影响下，左宗棠自1875年督办新疆军务后，即十分关注新疆建省的问题。1877年在讨伐阿古柏，收复南疆之际，他首次向朝廷正式提出在新疆“设行省、改郡县”，以“画久安长治之策，纾朝廷西顾之忧”。1878年初，清军收复阿古柏侵占的新疆全部领土后，左宗棠进一步筹划建省的各项事宜。11月，他再次上奏朝廷，陈述新疆的形势和建省的重要意义，指出收复新疆之后，安集流亡，民户激增，百废肇兴，已有端绪，故“南北开设行省，天时人事，均有可乘之机”；原有的军府制，特别是伯克制弊害丛生，唯有设县建省，民有可治之官，“则纲目具而事易举，头目人等之权杀，官司之令行，民之情易知，政事之修废易见，长治久安之效，实基于此”。清廷虽然表示赞同左宗棠的建议，但以伊犁尚未收回，“一切建置尚难遽定”，乃谕令左宗棠“悉心筹画，次第兴办”，“俟诸事办有眉目，然后设官分职，改设郡县，自可收一劳永逸之效”。1880年5月，左宗棠进一步提出新疆建省的具体方案：总督驻乌鲁木齐，巡抚驻阿克苏，伊犁将军驻伊犁，塔尔巴哈台改设都统，以下再设伊犁、镇迪、吐鲁番、阿克苏、喀什噶尔等5道，迪化、温宿、库车、疏勒、莎车等15府，镇西、广安、焉耆、于田、尉头、依耐等6州，以及迪化等21县。全省设总督、巡抚、知府、同知、知县和将军、都统、兵备道等军政官员。“从此边地腹地，纲举目张”，“治外则军府立，而安攘有藉，疆圉奠焉；治内则吏事修，而政教相承，民行兴焉。上无鄙夷其民之心，下有比户可封之俗。长治久安之效，实基于此。”清政府仍以伊犁尚未收复，将左宗棠新疆设省之议搁置下来。此后，左宗棠虽然调任两江总督，但仍然关心着新疆的建省问题。