平息了山東的拳匪之亂，李經述畢竟還年輕，他對於如何當好山東一省之巡撫沒有經驗，便經常向李鴻章請教，李鴻章告誡他：“做一個長官，最要緊的是洞悉下情，整頓吏治，只有這樣，才能夠舉措適當，如果受着下邊的矇蔽，那就成了一個瞎子，哪有不做錯事的？”
於是，李經述開始下令在山東全省整頓吏治，他飭令各道府州縣將所得陋規一律交公，酌給公費，以杜絕受賄，防止官吏貪污；設立官吏考驗處，考覈甄別初到和新選新補官員；設立調查處，關注報紙輿論，瞭解官員政績；設立法政學堂和胥吏學堂，以開“官智”，培養新政人才。
同時，李經述開始振興實業，在山東設立山東工藝總局，作爲振興山東實業的政府機關，勸導獎勵全省紳民興辦各種實業，還創辦了工藝學堂等，培養技術人才，在濟南設立了農務局和農事試作場，從美國購置農業機械，並聘請外人指導種植，又附設農業學堂，教授桑蠶種植和糖酒製造。
然後，李經述便上奏光緒皇帝，在山東開辦山東大學堂，並組織李緹摩太等人起草了《山東試辦大學堂暫行章程》。李經述在奏摺中寫道：“國勢之強弱，視乎人才，人才之盛衰，原於學校。誠以人才者，立國之本，而學校者，又人才所從出之途也。以今日世變之殷，時艱之亟，將於得人以佐治，必須興學以培材。”
李經述奏請先在山東省城設立大學堂，分齋督課，其中專齋相當於大學，正齋相當於中學，備齋相當於小學。因爲有李鴻章的大力支持，李經述上奏十二天之後，光緒皇帝硃批：“朕知道了。政務處及各該衙門知道。單併發。”
李經述在山東巡撫的位子上不到一年的時間裡，山東大學堂由他一手創辦起來，李經述上奏給光緒皇帝的奏摺中，一併提交了一份內容詳盡的《山東試辦大學堂暫行章程》，分爲學堂辦法、學堂條規、學堂課程和學堂經費四章，共計96節，一萬四千多字，爲後來山東大學堂的創辦規劃了藍圖。
爲了創辦山東大學堂，那些天的晚上李經述的書房燈火通明，李緹摩太、梁啓超等人圍坐在一起，熱烈地討論。這樣忙碌的場面已經持續很久了。
不久，李緹摩太還給李經述推薦了一個叫赫士的美國傳教士。赫士1882年來到中國，一直在山東傳教，1883年起任教於山東登州文會館。登州文會館是十九世紀中後期基督教來華傳教士在中國創辦的學校，位於山東登州，也就是今天的煙臺蓬萊市。登州文會館採用的是現代的從小學到大學的教育體制。
李緹摩太與赫士私交甚密，深知登州文會館的教育體制在當時十分先進，當光緒皇帝關於書院改學堂的諭旨發佈之後，李緹摩太便懇請赫士幫他創辦山東大學堂。不久，赫士率領文會館七名教習來到濟南，沿用登州文會館辦學的方法、條規，採用文會館的課本、教材及教學儀器設備，參照文會館辦學的各項經費開支編制預算，爲李經述起草了《山東試辦大學堂暫行章程》。
李經述對赫士等人沒有偏見，反而大力支持。1892年秋，濟南濼源書院門口掛出了校牌：山東大學堂，成爲參照現代教育體制建成的又一座新式學堂。根據章程，學堂招收了第一批新生300多名，分專齋、正齋、備齋。備齋相當於各州縣小學堂，學習淺近知識；正齋，相當於中學堂，學習基礎學科；專齋，相當於大學堂，學習專門學科。
李經述找濟南鄉紳和商戶籌款，設立了獎學金和助學金，按照專齋每月四兩、正齋每月二兩、備齋每月一兩發放。初創的山東大學堂，李經述任命李緹摩太爲總辦，相當於校長，總理學堂一切事務；任命赫士爲總教習，總理擇聘教習人員和核定課程，相當於教務長；任命梁啓超爲監督員，負責督飭學生。
山東大學堂的創辦，在當時的中國引起轟動。當時，全國各地多是書院。中國的書院，是唐宋至明清出現的一種獨立的教育機構，是私人或官府所設的聚徒講授、研究學問的場所。最初，書院爲民辦的學館，原由富室、學者自行籌款，于山林僻靜之處建學舍，或置學田收租，以充經費。中國最早的官辦書院開始於唐朝，發展於宋代。清代乾隆年間，官立書院劇增，但由於科舉考試是追求仕途的重要手段，使得讀書人趨之若鶩，絕大多數書院成爲以八股文爲主要教學內容的科舉預備學校，書院與科舉制度共生、共存、共興。
隨着西學的傳播和李鴻章等人主導的洋務運動發展，科舉制度也發生改變了。1888年，清政府接受李鴻章的建議，準設算學科取士，首次將自然科學納入考試內容。後來，光緒皇帝又接受了李經述的建議，以時務策命題，嚴禁憑楷法優劣定高下。1892年的學堂，對西學並不排斥，光緒皇帝接到李經述的奏摺，通飭各省要求參照辦理的《山東試辦大學堂暫行章程》，作爲中國第一部大學章程，爲當時正在興起的中國現代大學教育樹立了生動的範標，催生了全國各地新式大學堂的誕生。
開辦山東大學堂後，李經述開始籌建有史以來中國第一批現代化的警察隊伍，這支隊伍主要是從新軍裡面抽調，因爲新軍紀律好，便於管理。山東警察總局組建時有三千人，從此以後，警察開始正式的進入到中國人的城市生活。
李經述思來想去，這個山東警察局長的位置，還是由一身正氣的譚嗣同來擔任比較好。譚嗣同也果然沒有辜負李經述的期望，不到三個月，一支有着拘留所、備差所等完備機構的警察隊伍，爲服務與管理羣衆而設，以防患未然，排解糾紛而作，他們的警員必須性情溫和、樸實，舉止端方，做事嚴正，保衛民衆，不索銀子。
爲了讓警察更專業，李經述開辦巡警學堂，把訓練好的3000名巡警調進，設南、北巡警局，同年冬又設立巡警學堂。後來，又增添馬巡（騎馬的警察）、河巡（水上警察）、暗巡（便衣警察），將巡警制度推廣到各府縣和鐵路，建立全省警察網。譚嗣同制訂了嚴格的警察管理制度，作爲李經述的新政辦其他措施，穩定社會秩序，奠定了一個很好的基礎。僅用了半年時間，濟南就被紐約時報描繪成世界上擁有最好的警察制度的城市之一，經過李經述和譚嗣同的鐵腕治理，在一年之後，山東各處的社會秩序逐漸恢復，在濟南、泰安等地更是出現了路不拾遺，夜不閉戶的太平景象。
至於朱紅燈那些由大刀會招安來的數百“協警”，李經述將他們編成了城管大隊，朱紅燈就成了濟南的城管隊長。
朱紅燈不解城管的職責，加上沒什麼事幹，他和大刀會的二當家劉士端一起去找李經述，見面問道：“現在民衆有麻煩事，遇到小偷小摸，都知道找警察，我們城管做什麼？管理街頭那些小販？”
“放屁！”李經述道：“那些街頭的小販，都是自食其力的良民，不偷不搶，要你們管做什麼？本官另有重要的任務交給你們。”
朱紅燈一聽李經述有重要任務，連忙問：“大人有何吩咐，我們一定盡力而爲。”
李經述沒有多說什麼，叫人拿來筆墨，對大刀會的二當家劉士端道：“這些事很繁瑣，你寫下來，省的你們城管記不住。”
“遵命！巡撫大人！”劉士端手拿穩了毛筆，蘸墨之後，鋪好宣紙，等候李經述吩咐。
Www☢ тт kan☢ C ○
李經述略加思索，讓城管幹什麼好呢？忽然，他靈機一動，心裡有了主意，道：“採買木牌一百塊，請人雕刻一些字上去，記住，字上要刷紅漆，放到大街的醒目位置。”
劉士端忍不住問道：“不知雕刻什麼字？”
李經述一本正經地說：“不準隨地便溺、不準隨地吐痰、不準隨意丟垃圾、不準大聲喧譁……”
李經述板着手指頭一連說了七八個不準，劉士端聽的頭大如鬥，耐着心記下，卻忍不住擡頭道：“巡撫大人，這就要我們城管要做的事？”
李經述點點頭，道：“是的。事情雖小，但是事關濟南和新政的臉面，好好去辦吧。”
第二天，濟南街頭便出現了許多怪現象，老百姓紛紛湊起來看熱鬧，比如滿大街鋪天蓋地的各種“不準”紅漆木牌，緊接着平時出現得並不多的城管們一個個搬着矮凳盯着木牌子，這木牌子上用鮮紅的紅漆寫着“隨意便溺者罰錢十文錢”等大字，很是醒目。
不過，劉士端的眼睛忍不住向十幾丈外一處塵土飛揚的工地看去，臉色很不好，忍不住對朱紅燈抱怨道：“好端端的，還要咱們城管拿錢修公用茅房，哎，在街頭修這麼多公用茅房，人有三急，就都去茅房裡了，咱們到哪兒罰錢去，巡撫大人也……”
朱紅燈見劉士端不滿，立即呵斥他道：“巡撫大人那可不是凡人，他法外開恩，我們才能吃上官糧，他怎麼說，咱們就怎麼做，休要牢騷。”
朱紅燈等人任勞任怨，不到三個月，整個濟南城悄然發生變化，街旁的臭水溝有城管開始疏通，道路上也刷了一層白漆，將整條道路一分爲二，馬車和行人各走一邊。街頭也無人隨地便溺，沿途又修了公用茅房，街道上有城管清掃，一下子，街道乾淨了許多。
看到濟南城面貌煥然一新，李經述心裡大爲高興，這城管看起來倒不是百無一用，關鍵是用對地方，於是下令嘉獎朱紅燈等人。
因爲各方面都如魚得水，李經述主政的山東面貌大變。他甚至跟盛宣懷興辦的中國鐵路公司合作，修築了濟南到天津的鐵路，僅用七十多天就完成鋪軌工程，並頒佈了《民法條例》和《商法條例》。山東一時人才鼎盛、財賦稱饒，成爲當時中國後期洋務新政的中心地區之一。加上《申報》、《華報》等報紙的鼓吹，李經述一時成爲了大清國炙手可熱的“政治明星”，名氣甚至超過了主辦洋務多年的湖廣總督張之洞。
就在李經述在山東的改革穩步推進時，李鴻章發來加急電報，讓李經述馬上趕回天津。李經述意識到可能朝中局勢又有大變，便連夜趕回天津。
這一次在書房，李鴻章告訴李經述兩個極壞的消息。李鴻章先說了第一個壞消息：“三天前的早朝，翁同龢上奏皇上，黃河在鄭州決口，戶部奉旨先行墊撥銀四百萬兩，後又續撥四百萬兩，若加上其他費用，共耗銀九百餘萬兩，查各省購買西洋軍械存積甚多，鐵甲快船，新式炮臺，歲需經費以百萬計，故奏請停購外洋軍火兩年，皇上准奏了。”
“什麼？停購外洋軍火兩年？”雖然這消息在李經述的預料之中，但沒想到壞消息來得這麼快，當時軍艦和火槍洋炮的技術更新很快，一旦兩年不買軍艦和槍炮，後果很嚴重，李經述問李鴻章：“這事西太后可知？”
李鴻章道：“太后如今關心的是萬壽慶典，關心的是擴建頤和園的工程，頤和園裡要新建佛堂和人工湖，她還放出話來，誰讓她不高興一陣子，她就要讓誰不高興一輩子，所以翁同龢百方撙節開支，這兩項工程不敢停，太后也就自然批准了此議。”
李經述說：“看來翁同龢不除，中國永無寧日呀。還有一個壞消息呢？”
李鴻章道：“最近你在山東主持新政，備受朝野矚目和太后賞識，翁同龢眼紅了，他慫恿皇上加快變法維新步伐，推出全國性改革措施。據說，有一位廣東舉人叫康有爲，通過珍妃的表兄介紹，入了翁同龢的幕僚，正在積極籌劃此事！翁同龢在朝堂中說，只要按照他的改革方案，中國三年即可富強，而我們跟皇上說要三十年，所以皇上對他的維新變法方案頗爲心動！”
“康有爲？”李經述大吃一驚，道：“此人以前曾來找過學生，歷陳變法之道，說得天花亂墜，實際上他是半桶水，食洋不化，那一套託古改制荒謬之極，皇上怎麼輕信他們畫餅充飢？”
李鴻章說：“皇上現在年輕氣盛，處處受制於太后，當然急於求成。”
李經述“哦”一聲，心想歷史上該來的血雨腥風還是要來呀，便對李鴻章道：“康有爲和翁同龢聯起手來搞維新變法，對我們倒未必是壞消息，翁同龢這老賊馬上就會再次告老還鄉，北洋水師無憂矣。”
李鴻章問道：“此話怎講？”
李經述低聲說：“中國有一句老話，叫‘自作孽，不可活’，他們急於求成，肯定會觸怒太后，他們這是在找死！！”