光绪二十二年（1896年）俄国沙皇加冕，清政府派驻俄公使王之春为贺使，竟招致俄国政府的抗议。俄国驻华公使提出的理由是“加冕为敝国重大礼典，非得贵国位望最高之人，为列国所称许者，不足当贺使之任。王之春非其选，能胜任者当数李中堂”。清政府只好改派李鸿章为贺使。李鸿章到莫斯科后，签订了《中俄密约》。
李鸿章晚年从事外交期间，代表清政府与列强签订了一系列丧权辱国的条约，与英国签订《烟台条约》，与法国订立《中法新约》，与日本签订《马关条约》等。其生前签订的最后一个条约是《辛丑条约》，《辛丑条约》从政治、经济、军事各方面都扩大和加深了帝国主义对中国的统治并表明清政府已完全成为帝国主义统治中国的工具。因此，《辞海》（1979年版）称李鸿章“是中国近代史上媚外卖国的典型人物”。
甲午战争后，李鸿章奉旨到日本议和时已年逾七旬，又遭日本浪人小山丰太郎枪击，险些命丧东瀛。《马关条约》签订后，李鸿章自然是被抨击的中心。光绪二十二年（1896年），李鸿章因“擅入圆明园禁地游览”被“罚俸一年”。光绪二十四年（1898年），光绪帝下旨：“李鸿章、敬信均着毋庸在总理各国事务衙门行走”，李鸿章被罢官。光绪二十五年（1899年）李鸿章重新起用，任两广总督。
光绪二十六年（1900年），义和团运动爆发，八国联军进攻北京。在战事不利的情况下，朝廷急调李鸿章从广东火速来京，“调补直隶总督，兼充北洋大臣”；之后，又命李鸿章为全权大臣，“与各国议结一切事宜”。《辛丑条约》签订后不久，李鸿章抑郁成积，一命归天。《清鉴》中说：“鸿章晚年，手办国际交涉事尤多。甲午之战，鸿章独主和，当时物议颇非之。然兵不夙练，不如主和为佳。事后思之，未可蔽罪鸿章一人也。”《清鉴》之论虽非至论，或有为李鸿章开脱之嫌，然犹可为“弱国无外交”之佐证；国弱如斯，固“未可蔽罪鸿章一人”，然李鸿章官居要职，身处庙堂之上，“兵不夙练”，亦难逃其咎。李鸿章死后，追赠太傅，晋封一等侯爵，入贤良祠，在京师建专祠。
清代，在京师为汉人官吏建专祠唯李鸿章一人。专祠建成后，光绪皇帝赐匾，亲书“功昭翌赞”四字，春秋两季，朝廷派员专门祭祀。
建设海军
客观上讲，无论是日吞琉球，还是法占越南，李鸿章都深切意识到，列强的威胁来自海上。因此，从19世纪70年代起，就开始提出“海防论”，积极倡议建立近代化的海军。1874年，李鸿章在海防大筹议中上奏，系统提出以定购铁甲舰、组建北、东、南三洋舰队的设想，并辅以沿海陆防，形成了中国近代海防战略。中法战后，鉴于福建船政水师覆败，清政府决定“大治水师”，于1885年成立海军衙门，醇亲王总理海军事务，李鸿章为会办。
1875年，命直隶总督、北洋大臣李鸿章创设北洋水师。1875年，李鸿章通过总税务司赫德在英国订造4舰炮船，开始清朝海军向国外购军舰的历史。1879年，向英国订造巡洋舰扬威、超勇。由于对在英国定造的军舰不满意，1880年，经过反复比较向德国船厂订造铁甲舰定远、镇远。1881年，先后选定在旅顺和威海两地修建海军基地。1885年，海军衙门成立，李鸿章遣驻外公使分别向英国、德国订造巡洋舰致远、靖远与经远、来远。1888年12月17日，北洋水师正式宣告成立并于同日颁布施行《北洋水师章程》。从此，近代中国正式拥有了一支在当时堪称世界第六、亚洲第一的海军舰队。北洋海军实力最为雄厚。1888年，北洋舰队正式组成，拥有军舰25艘，官兵4000多人，由淮军将领丁汝昌任海军提督。与此同时，旅顺口和威海卫两个海军基地竣工，整个北洋海防体系的建设宣告完成。李鸿章得意地说：北洋海军“声势已壮……入可以驻守辽渤，出可以援应他处，辅以各炮台陆军驻守，良足拱卫京畿。”但是自1888年以后，舰队经费大幅减少。清廷文恬武嬉，内耗众生，户部迭次以经费支绌为借口，要求停止添船购炮，时而正为海军技术突飞猛进之时，至1894年甲午战争爆发时北洋舰队已多年未置新舰，部分应进行之更新工程如更换新式火炮亦未能进行。原有的战舰已开始落伍，无论航速、射速皆落后于日本。自此，北洋海军的建设陷于停顿、倒退的困境。
甲午战争
1894年7月25日，清“济远”和“广乙”两船从牙山回旅顺，遇见日本三艘巡洋舰。当天，日本不宣而战，在丰岛海面对中国海军发动突然袭击，击沉中国运兵船“高升”号；日舰公然向中国船只开炮，拉开了中日甲午海战的序幕。紧接着，双方在丰岛海面开战。同时日本陆军向驻牙山中国军队发起进攻，终于挑起了这场侵略战争。8月1日，中日双方宣战。在开战之前，李鸿章还在做着最后的努力，希望能够借助列强的干涉来制止这场战争，但是列强对中日之间的这场战争都持观望的态度。8月1日（七月初一），中日政府同时宣战。甲午战争开始。
在甲午战争初期，李鸿章曾电令北洋海军提督丁汝昌，要他注意保存战舰以牵制日军。这是一种“保船制敌”的方略，与“避战保船”株守军港，是完全不同、也决不能混为一谈的两个概念。在甲午战争的过程中，李鸿章尤其坚决反对北洋海军株守军港。李鸿章连续多次电令无所作为的丁汝昌：“我海舰虽少，而铁甲坚利，则为彼所无，与其坐守待敌，莫若乘间出击，断其归路”，“此时救急利胜，舍断其接济、助台（指海岸炮台）夹击，更无别法，决无株守待攻之理！”此外，清廷也多次下达同样意图的作战命令。
但十分遗憾的是，李鸿章和清廷的意图和明确的作战命令，并没有被丁汝昌坚决执行。因为丁汝昌面对强敌徒有一腔热血却是束手无策。1894年甲午一役，北洋舰队覆没，淮军亦蒙受重创。战争中，李鸿章重用了陆军统帅叶志超和水师提督丁汝昌。在陆地上，清军武器装备并不弱于日军，平壤一战，当时驻守的清军35营共17000人，日军有16000多人，双方人数相当。总兵左宝贵料知叶志超贪生怕死，故以下犯上派人监视叶志超控制局面，8月16日，驻朝陆军在平壤与日军激战数昼夜后溃败，左宝贵战死，叶志超临阵脱逃，致使入朝清军溃败，而叶志超逃跑当时清军的伤亡小于日军。
8月18日，北洋舰队与日本海军主力在黄海大东沟附近海域遭遇，经过近5小时的鏖战，中国军舰沉没4艘，日本舰队亦遭重创。此后，清军在鸭绿江、九连城等战场与日军激烈交战，但终未能挡住日军的攻势。最终，旅顺、威海等重要海军基地失守，北洋海军最终还是落得一个株守军港全军覆灭的悲惨下场。在这场大战中，涌现了许许多多英勇的战士和将领。那些以身殉职的官兵，用他们的鲜血浇铸了铮铮爱国心，成为民族英雄，留下了壮烈的感人篇章。
随着战争的失利，清政府进一步加紧了乞降活动。光绪二十一年二月十一日，李鸿章受命，作为全权大臣赴日本议和。尽管行前清廷已授予李鸿章割地赔款的全权，但他仍期望“争得一分有一分之益”，与日方代表反复辩论。在第三次谈判后，李鸿章于回住处的路上遇刺，世界舆论哗然，日方因此在和谈条件上稍有收敛。三月十六日，李鸿章伤稍愈，双方第四次谈判，日方对中国赔款2亿两白银（原本是3亿两），割让辽东半岛及台湾澎湖等要求表示不再让步，日方和谈代表伊藤博文谓，李鸿章面前“但有允与不允两句话而已”。事后日方继以增兵再战进行恫吓。李鸿章等连发电报请示，光绪皇帝同意签约，命令“即遵前旨与之定约”。四月十七日，李鸿章与日本内阁总理大臣伊藤博文及外务大臣陆奥宗光在马关春帆楼签订《马关条约》，包括《讲和条约》十一款，《另约》三款，《议订专条》三款，以及《停战展期专条》两款。
甲午战后，李鸿章被解除了位居25年之久的直隶总督兼北洋大臣职务，投置闲散。
不履日地
甲午战争后，李鸿章赴日谈判。面对日方提出的苛刻条件，中方只有“允”和“不允”两种选择，而丝毫没有讨价还价的余地，李公一直磨到点灯时分，口干舌燥地要求再削减5000万两，实在达不到目的了，又说减少2000万两也行，最后甚至满眼含泪向伊藤博文哀求，看到我这把老骨头的面子上，多少减一点儿，算送给我回国的路费吧。可以说他是忠实地执行了清廷的电旨：“争得一分有一分之益”，但人家根本不为所动。老人家何等可怜！日方更以中方代表能否安全回国相要挟，李氏父子只得无可奈何地在《马关条约》上签了字。
据说他在签字前的最后关头，曾经老泪纵横地对使团的美国顾问科士达说：“万一谈判不成，只有迁都陕西，和日本长期作战，日本必不能征服中国，中国可以抵抗到无尽期。日本最后必败求和。”
也正是因为马关签约的强烈刺激，李鸿章认为是平生奇耻大辱，发誓“终身不履日地”。两年后李鸿章自欧美访问归来，乘坐的是加拿大总督免费提供的轮船，到达日本海岸再换船回国。日本政府听说李鸿章要经过日本，早早就准备了行馆，以贵宾的待遇接待李鸿章。可是任凭旁人怎么劝，李鸿章坚决不上岸，晚上还在船上休息。一直等到接李鸿章的船开来了，但是两个大船不能直接上下，需要乘小船再登上。李鸿章收拾好行李，准备上小船，抬眼一看这小船居然是日本船，还是拒绝上去。最后没有办法，只好在两艘轮船之间架了一块木板，75岁高龄的李鸿章才在随从搀扶下，毅然决然地蹒跚着步子，颤颤巍巍走了过去，实现了他的誓言。
在他去世的第二年，吴汝纶东游日本考察教育，看到李鸿章当年谈判时坐的凳子竟都要比日本人矮半截，不觉悲从中来，陪同的日本友人要他留下墨宝。他大书“伤心之地”。
李氏祠堂
西总布胡同属北京东城区建国门地区，是东单北大街路东从南往北数的第四条胡同。胡同自西向东沟通东单北大街和朝阳门南小街，长700多米。明代此地设有总捕衙署，称“总铺胡同”，清乾隆时称“总部胡同”，宣统时将胡同一分为二，以朝阳门南小街为界分为东、西总布胡同。
西总布胡同27号，旧时门牌15号，在胡同中段北侧，坐北朝南，大门在西总布胡同北侧，后墙在外交部街南侧。此宅原为李鸿章祠堂，名“表忠祠”，光绪二十八年（1902年）由李鸿章生前寓所改建而成。由大门、前殿、享堂、配殿等构成的二进四合院；大门、碑亭、前殿、享堂及东西配殿等主要建筑顶部均覆黑琉璃瓦；享堂三楹，为歇山顶斗拱建筑，前有月台三出陛；院墙砖砌，外抹红垩土，顶部覆灰色筒瓦。
1949年9月，李鸿章祠堂被辟为北平市第一人民教育馆分馆，后改为北京市第一人民文化馆分馆、东单区文化馆、东城区文化馆。1978年拆除前院建筑及大门，建成两层的东城区文化办公室的办公楼；现为北京东方文化经济发展集团有限公司办公用房，门牌仍为“西总布胡同27号”。1991年拆除后院享堂、配殿及剩余的院墙，建成四层楼房，东城区档案局和档案馆迁入至今，大门朝北，门牌为“外交部街甲28号”。
东南互保
东南互保指中国清朝末年八国联军之役期间，中国南方各省违背中央政府的命令，拒不同外国开战的事件。
在清室尚未向各国宣战之前，两江总督刘坤一、湖广总督张之洞、两广总督李鸿章、铁路大臣盛宣怀等即商议如何保存东南各省的稳定，避免列强有借口入侵；同时密议盘算倘若北京失守而两宫不测，当由李鸿章出任总统支撑局面。清室向11国宣战后，刘坤一、张之洞、李鸿章，和闽浙总督许应骙、四川总督奎俊、山东巡抚袁世凯，即和各参战国达成协议，称东南互保。他们称皇室诏令是义和团胁持下的“矫诏、乱命”，在东南各省违抗支持义和团的命令。
东南互保运动，保护了河北、山东以外的地区避免于义和团与八国联军战乱的波及；同时亦使地方的政治与军事权力进一步扩张，中央的权威大为下降。之后1911年辛亥革命各省在武昌起义后相继宣告独立，与地方势力崛起、中央权力式微关系密切。而中华民国成立后北洋军阀及各地方长期割据，则是源自强势人物袁世凯去世后，中央权力出现真空、各地派系拥兵自重，与东南互保并无直接关系。
最后谢幕
1901年9月7日，代表大清国与11国签订了中国近代史上著名的不平等条约《辛丑条约》的李鸿章，在签字回来后再一次大口地吐血——“紫黑色，有大块”，“痰咳不支，饮食不进”。医生诊断为：胃血管破裂。
李鸿章在病榻上上奏朝廷：
臣等伏查近数十年内，每有一次构衅，必多一次吃亏。上年事变之来尤为仓促，创深痛巨，薄海惊心。今议和已成，大局稍定，仍希朝廷坚持定见，外修和好，内图富强，或可渐有转机。
难以想象就要离世的李鸿章在写下“必多一次吃亏”这几个字时会是什么心情。他毕生致力的“外修和好，内图富强”的愿望此时说出来实在是一种前途渺茫下的伤心无奈。