他釋出《罪己詔》：當前朝鮮混亂的局面，都是由於國王的失德和官吏瀆職**造成，朝廷將承諾改革，滿足亂民提出的部分要求，包括停止迫害東學教徒，自願回鄉者既往不咎；查明貪官汙吏，一律嚴懲；改善起種賤民的待遇；不強制白丁戴平壤斗笠；允許青年寡。婦再嫁；廢除一切擾民的苛捐雜稅。
這些改革措施，都是李經述根據唐紹儀的報告有針對性地提出的，朝鮮國王的《罪己詔》釋出後，朝鮮南方民心大穩。段祺瑞本來在北洋軍官學校就表現優異，又以官費入柏林軍校，學習一年炮兵，在著名的埃森克虜伯兵工廠實習了半年，此時指揮炮軍作戰，如魚得水，不到半個月就收復了忠清道、慶尚道，轟死打死日本浪人六百多人，還派兵包圍了全州府。
內田良平一看這段老虎比唐紹儀兇狠何止百倍，加上製造暴亂讓日本出兵的任務已經完成，於是趕緊帶著浪人撤了，剩下的東學教徒，都是一些衣衫襤褸的農民，朝鮮朝廷一說既往不咎，他們帶著鋤頭就回家了，東學亂黨很快潰散，崔海月最後帶兩千教民開城門投降，暴亂基本平息。
正當李經述覺得大局已定，漢城外傳來一陣轟隆隆的炮響，葉志超的兩萬淮軍和日本駐朝公使大鳥圭介帶領的五千日軍打起來了。
當時中日兩軍陣地很近，牙山地勢較低，日本人積極備戰，早修築了炮臺，九門重炮居高臨下，佔據炮火優勢，一陣亂轟。葉志超根本就沒想到大鳥圭介這文弱公使，就敢憑五千日軍單挑他兩萬淮軍，每日照常醉酒笙歌，炮聲一響，倉促備戰。
葉志超靠著李鴻章，帶領的淮軍經過十來年的休養生息，戰鬥力大大下降。面對日本人的炮轟，葉志超異想天開，竟然派兩千騎兵殺出，企圖閃電奪取日本人的陣地。大鳥圭介驚訝之餘，命令日軍集中炮火攻擊，淮軍的騎兵跑到半路，就被炸上了天，可憐淮軍騎兵死傷一千二百多人，銳氣盡失。
淮軍騎兵大敗，日軍反而士氣高昂，繼續發射殺傷力比較強的榴霰彈，這種炮彈彈壁薄，內裝火藥及小鋼珠或鋼箭、鋼珠，彈頭裝有定時引信，能在預定目標上空爆炸，殺傷敵方。
高州鎮總兵左寶貴不懂這新式武器，大鳥圭介親手發射了一發定時的榴霰彈打到他的身邊，剛開始沒有爆炸，他竟然毫不知情，繼續指揮火炮發射，還擊日軍。結果，榴霰彈過了一會爆炸，彈片擊中的左寶貴的右眼，他傷重殉國。
如果葉志超能帶領淮軍堅守陣地，李經述帶著城裡的淮軍殺出，內外夾擊，日軍肯定大敗。但左寶貴一死，葉志超面對日軍強大的火力，心理防線竟然奔潰，帶一萬多名兵狂逃一百多里，退守平安府。
當時，天空下著大雨，葉志超帶著殘兵敗將，恐日軍截殺，不敢走大路，光挑荊棘密佈的羊腸小路，很多士兵的軍服和臉都被荊棘所破，慘不仍睹。日軍一路追殺，淮軍死傷六千餘人，而日方只損失兩百人。
李經述帶五千淮軍出漢城，葉志超早已逃之夭夭，王士珍一看葉志超駐防的牙山，對李經述說：“此處地勢低窪，孤險無援，葉志超竟然在此駐兵，真是沒用兵常識，天下第一等蠢材，難怪會大敗！”
李經述默然不語，為了避免更大的傷亡，他決定立即接管葉志超的淮軍，於是帶兵連夜趕往平安府，葉志超竟然給李鴻章發電報，謊報軍情，說牙山一仗，淮軍大捷，淮軍死傷二百，日軍傷亡兩千！
李經述收到訊息，強壓住內心的怒火，把葉志超和一些淮軍將領請來營帳中議事，葉志超到了之後，李經述馬上命袁世凱帶親兵把葉志超五花大綁，葉志超反抗，大叫：“老子也是提督，你憑什麼抓我？老子跟中堂大人打仗時，你還光著屁股呢！”
李經述聽了面色突變，拔出袁世凱送的匕首，眾將以為李經述要殺葉志超，一半默然