1882年1月3日至1884年5月22日（清光绪七年一月十四日——十年四月二十八日）张之洞任山西巡抚。山西地处内陆，经济文化相对落后，光绪初年的“丁戊奇荒”使山西的境况己雪上加霜。张之洞上任伊始给清政府的《整饬治理折》称“历年以来晋省公私困穷，几乎无以自立。物力空匮，人才艰难，上司政出多门，属吏愍不畏法，民习颓惰以蹙其生，士气衰微而废其学，军律日即荡弛，吏胥敢于为奸”，到了非表里兼治不可的地步。

　　此前张之洞并没有任过什么要职。但他“遇事敢为大言”，成为当时“清流派”的重要成员。19世纪70年代，中国边疆危机爆发。在有关边防、海防以及对俄和战的争论中，张之洞多次上书，要求加强边防并对俄采取强硬态度。1879年11月（光绪五年十月）清政府议和代表崇厚擅自与俄签订丧权辱国的《里瓦基亚和约》，激起朝野共愤。张之洞上书提出“治使臣罪”、废约，尤其提出与俄人争商务等几项要求，显示出他在政治上的精明干练。与此同时，他的许多思想，如重商、军事和疆防等也逐步形成，这些都成为他以后抚晋的指导思想。

　　1882年1月，张之洞抵达太原，开始视事。在一个给清廷的奏折中，张之洞表达了他的施政思想。他认为定国安邦的关键是国之元气、民之元气和官之元气的充沛。他还谈及晋事要务20事，诸如养民、课吏、理财、兴利、善俗、图强等。而养民中诸事如责垦荒、清善后、省差役、除累粮、储仓谷、禁罂粟等又为诸事之最要紧者。张之洞在山西的几年经营，也确实依此展开。

　　在中国传统社会中，农业是经济的命脉，土地又是农业的根本。山西农业自古以来就受到土地问题的困扰，北部地广人稀土地贫瘠；南部土地肥沃却地狭人稠。自明代以来，山西人均耕地面积不断减少。据统计，明代洪武年间，山西人均地亩为10．28亩，到1812年（清嘉庆十七年）山西人均耕地仅3．95亩。1876年到1878年间的“丁戊奇荒”使全省近80%的州县受灾，全省约1／3左右的人口死亡。幸免于难者也多流离失所，大量土地被闲置。灾后，为督垦荒地，前任巡抚卫荣光曾派人查勘闲置情况，计共有新荒土地 22076顷。其实仍有大量的荒地被隐瞒，数字并不准确。按照前任巡抚的规定，从1880年（光绪六年）开始，有主荒地要求在3年内、无主荒地要求在4年内必须耕种。而在此3年或4年间，政府免征课税，蠲免期一过则开始科征。但大灾之后的农民缺乏劳动生产的能力，加上政府赈恤不足，农民买不起种子、耕牛，致使许多农民宁可弃地不种也不愿意为赋税所累。张之洞抚晋的第二年（光绪八年），恰是开始对有主荒地科征的那一年。经过张之洞查勘，发现仍有一万余顷荒地被闲置，若加紧催征只能使农民更多地离开土地。 1882年7月（光绪八年六月）张之洞上书要求再次蠲免未垦荒地的科征，对耕种“实在无力者，禀明酌给中种之资”，以督促其耕种。

　　清初的“摊丁入亩”废除了人头税，使封建国家对农民的人身束缚大大地减轻。做为科征依据的鱼鳞册能使农民小块土地以契约的形式固定下来，避免被大户侵蚀。但山西一向缺少详细登记田主及土地数量的鱼鳞册，致使征收“过割不清，展转移易，或耕无粮之地，或纳无地之粮”，“灾荒过后，迷乱益多”。

　　土地所有权的模糊不清，势必影响农民的生产积极性，所以清丈土地，并以契约的形式将土地固定下来，成了“豁除累粮”的有效办法。1882年6月，张之洞上奏要求暂免一年的田屋契税，以彻底澄清土地所有权。

　　山西吏治败坏已久。各种官场陋规陋习繁多。张之洞认为“治晋之道，议者皆以培养元气”，而官民之元气则在“官项无亏累”，“上司无诛求”上。张之洞将省差役、清善后做为课吏、理财的重要措施。这里“差役”的实质，按张之洞的说法是指“非役民力也，乃敛民财也”的做法。当时各地按大小摊派差役钱，大县摊派钱5——6万缗，小县也要达到几千乃至上万不等。差役钱摊派的对象是车马牲畜，重税之下，外省脚夫不敢入晋，本地车马不敢出县境，致使境内货物流通受阻。为此，张之洞派人到各地州县制定差役章程，裁撤各种陋规，改各州县差役局为清徭局。命令属下在每月底用清徭局的名义，将本月支用过的车马数目公开，以接受监督。

　　按照晚清官场陋习，上司用度不足往往靠下属公费馈赠。前署理巡抚葆亨任职期间冀宁道道员王定安为巴结上司巧立名目，将私人馈赠更名为公费，使这种风气更加严重，张之洞对此深恶痛绝，上任之初就裁汰了属下解送抚署的公费银19550余两，藩库津贴银 6000余两，并酌情减免各州县公费馈赠。经过这次改革，全省可节约白银78916两。

　　山西善后库款自从1850年后一直未经彻底清查。各种军费以及善后报销“亏罗掩覆，细碎缴绕，为奸蠢窟穴所在”。署理巡抚葆亨和道员王定安乘机渔利，侵吞“丁戊奇荒”后善后款项。1882年9月，张之洞设清源局，清理山西库款，并设定章程，限期完成。 1883年7月库款清查工作完结。根据帐目，张之洞弹劾了葆亨和王定安。为明确职守，他又命清源局续修《晋政辑要》。至此，晋省积30余年800余件纠纷案终得清理。

　　山西鸦片“流毒尤烈”，久为晋省公害。张之洞任山西巡抚不久，在给其友的一封信中，将山西喻为“鬼国”，由此可见当时山西吸毒之甚。当时山西鸦片烟的著名产地为交城，代州（今代县）等20余州县。其他各州县或多或少也有种植，达到“几乎无县无之”的程度。吸毒之风，遍及全省。吸食者从官吏、士民、兵弁到妇人女子；吸食比重，大概乡下居其十之六，城镇居其十之八。鸦片流毒使“人人赢，家家晏起；怠惰颓靡，毫无朝气；在官者不修其职，食力者不勤其业”。更为严重的是山西因土地贫瘠产粮不足自给，自大面积种植罂粟后，全省粮食贮积更少。“丁戊奇荒”的严重灾难即与此有关。垣曲产烟最多而大灾之后饿死人最多。交城产烟中心粮价最贵。种植鸦片需大量水肥而且极费地力，山西气候干燥，水利设施本来就不够，大面积种植鸦片的结果只能是毒品同农作物争水争肥，对此情况，张之洞在一封奏折中惊呼“数十年晋省危矣！”

　　鉴于鸦片的种种危害，张之洞将禁烟作为除弊重要措施。1883年4月，他命令下属在全省范围内禁烟。并仿照时任直隶（今河北）总督的李鸿章，在全省各地设立戒烟局，聘请医生作戒毒药。先从著名产烟区交城、代州入手，然后将禁烟运动推向全省。