“‘杀一儆百’！”林遵不以为然地说：“这是糊涂思想！现在都什么年代了，还要翻这本旧黄历。我们看不惯蒋介石、桂永清那种动不动就抓人杀人的做法，现在解放了，为什么还要随意抓人？”
“事情出在他们身上，而责任在我们身上。”林遵进一步严峻地说：“起义已经两天多了，我们始终没有给他们讲清道理，他们不明真相，他们为自己的前途，为自己的父母妻孥设想，都是合情合理。虽然采取了动刀动枪的手段是错误的，但是最后他们毕竟是听从了我们的劝告。”
“对这件事，我认为，”林遵继续讲：“第一，暂时不要对张部长讲，以免惊动三十五军和麻烦他们。他们不了解我们的情况，处理这个事件肯定有困难；第二，‘惠安’的事交吴建安去处理，我要跟舰长们讲：当长官的要宽宏大量。”
林遵和吴建安一起商量，不管认识觉悟的早晚，所有留下的“二舰队”人员都是起义人员。
四、成功举义
国民党海军司令桂永清对“二舰队”舰艇迟迟没有下驶的行动极为重视。而林遵为了迷惑桂永清故意布了很多迷阵，其中包括经请示“三野”同意各舰与“海总部”继续保持电台联络和暂不发布“二舰队”起义消息等措施。
23日午夜，桂永清给林遵来一电报，仍尊敬地称他的别名“尊之兄”，报文说：
“只要你能把舰带到上海，任何事情都有商量的余地。”
26日“海总部”分别给林遵及各舰舰长来电，命令各舰“即向上海集中”，“否则派机轰炸。”
与此同时，桂永清还动员一些机关人员，以同学、同乡的名义，给个别舰长来电。郭秉衡一人就分别收到了“海总部”训练处长王恩华和作战处长段一鸣的电报，内容相同：
万望吾兄速率舰下驶，勿做海军千古罪人。
对桂永清一伙的命令和劝说，林遵及各舰舰长都以“机器损坏，正在修理”等种种困难为借口，进行搪塞、周旋，致使桂永清历时三昼夜之久才判明“二舰队”没有按其命令及时下驶的真正原因。
桂永清判明“二舰队”确已起义之后，立即采取了武力威胁的措施。26日9点多钟，三架国民党轰炸机到舰队锚地上空盘旋。各舰都发出战斗警报，炮弹上膛，瞄准跟踪，严阵以待，由于飞机飞得太高，没有开火。敌机也没有投弹，转了两圈就向下游逸去。当日下午，桂永清又给林遵发来电报：
限你们在26日子夜通过江阴下驶。届时有空军在江阴掩护，幸勿延误。
林遵看完电报，知道这是桂永清的“最后通牒”，随后必将实施轰炸了。他立即和各舰舰长商量，拟定于27日驶进南京港，人员登岸，舰艇疏散；并派戴熙愉到三十五军联系，具体研究各舰疏散方案。
4月27日对“二舰队”官兵来说，是一个不平凡的日子。
各舰一清早就开始大清洁。七时正，庄严的红旗升上了各舰的主桅。接着各舰起锚，在“惠安”舰的率领下，二十五艘舰艇列成纵队，浩浩荡荡驶到下关，各自靠上指定的码头。
八时整，八兵团司令员陈士榘视察了“二舰队”舰艇。随后，各舰三分之二人员携带轻武器和贵重仪器下舰，其余人员随舰疏散。
疏散锚地分布如下：“惠安”在三叉河附近的头关江面；“安东”在东梁山附近江面；“永绥”在马鞍山附近江面；“吉安”和“太原”在采石矶附近江面；“楚同”在燕子矶附近江面；“江犀”和“美盛”在三江营附近江面；
“联光”在当涂附近江面。
28日9时45分，国民党轰炸机6架，飞至南京港江面盘旋一周后，分成两股，分别对在南京港上下游疏散的舰艇实施轰炸。各舰都组织火力反击。“永绥”、“太原”两舰，相距较近，火力较猛，使敌机不敢俯冲投弹，未能命中。但“惠安”和“楚同”两舰不幸被炸沉，“惠安”舰枪炮军士长何友生等六人英勇牺牲。
刘伯承司令员对“二舰队”各舰官兵英勇抗击国民党飞机的行动表示赞扬，并作了高度评价。他说：“‘第二舰队’一经起义就在根本立场上由反人民军队，转变成为人民服务的军队。所以，舰队起义后，国民党飞机就来轰炸，而‘第二舰队’就实行反击。这就表明这个转变。”
但是，野战军首长，司令部坚决贯彻党中央的政策，遵照毛主席的指示，忍痛定下了放弃舰艇，保存舰员的决心。
当晚（二十八日晚）三十五军军部通知各舰：“舍舰保人，各舰官兵全部离舰。”
二十九日各舰人员全部离舰。
三十日，敌机炸沉了“吉安”和“永绥”两舰。
五月四日，敌机又炸沉了“太原”舰。
至此“二舰队”起义舰艇只剩“安东”、“江犀”、“美盛”和“联光”等四舰。后来“长治”号起义，“安东”舰又被误为“长治”而被炸沉。
在鲜明的对照下，“二舰队”全体官兵无不痛恨国民党、蒋介石的凶狠残暴，无不感戴共产党、毛主席的宽厚慈爱。有人十分感动地说：以前在国民党那边，桂永清把我们看做草，现在投向共产党了，各级首长都把我们当成宝。从而很多起义官兵对自己的前途都充满了信心。
“二舰队”各舰人员上岸后，都集中在国民党海军总司令部旧址，司令、参谋和军官家属则住在附近的国防二部。
4月30日，林遵同志召集舰长、队长会议，研究并通过了由张家宝、陈务笃两人起草的向毛泽东主席、朱德总司令的致敬电。
致敬电充分表达了“二舰队”起义官兵的心情。全文如下：
中国人民革命军事委员会主席、中国人民的领袖毛主席中国人民解放军朱德总司令：
当我们开始走进中国人民解放军的行列之际，请接受我们最诚挚崇高的敬意。
我们是一群被国民党反动政府统治的海军。反动政府曾指挥我们以人民血汗换来的武器，来屠杀争取民族独立、民主自由的人民，保护卖国独裁内战反民的蒋家小朝廷。可是，我们时常想到，用人民血汗建立起来的海军，应该是用来捍卫国家独立与人民民主的，为什么要拿美帝国主义供给的武器，屠杀自己同胞，从事反人民的战争？我们怀疑、思虑、愤怒不平，想到有一天总会找到可能的机会回到人民的阵线，和人民站到一起。
这个期待的日子终于来到了。当人民解放军百万雄师胜利突破了长江，南京国民党反动政府逃窜的时候，我们舰队的舰艇集中在南京东北笆斗山下，二十三日在燕子矶高举义旗，参加了中国人民解放军。
怙恶不悛与人民为敌的国民党反动派，竟于我们起义后，不断驱使空军轮番轰炸，妄想阻止中国人民建立自己的海军。这更加暴露了国民党反对中国独立民主的狰狞面目，更激起了我们的愤怒，更坚定了我们为人民解放事业而奋斗的意志。今后誓愿在中国共产党与人民革命军事委员会和人民解放军华东军区领导之下，贯彻毛主席、朱总司令的进军命令、为彻底推翻在美帝国主义支持下的国民党反动统治，完成新民主主义革命而奋斗；为彻底改造自己，学习毛主席建设人民军队的原则思想作风，学习人民解放军一切优良的政治工作与指挥工作的制度，建立一支人民的海军而奋斗。
第二舰队少将司令林遵
永绥军舰舰长邵仑
楚同军舰舰长李宝英
忠安军舰舰长吴建安
江犀军舰舰长张家宝
吉安军舰舰长宋继宏
美盛军舰舰长易元方
联光军舰舰长郭秉衡
安东军舰副长韩廷枫
太原军舰舰长陈务笃
第五巡防艇队队长杜琛
第一机动艇队队长张汝
暨全体官兵同叩
四月三十日
5月19日在南京《新华日报》第一版上刊登了毛主席发给“第二舰队”全体官兵的复电和“二舰队”全体官兵向毛主席、朱总司令致敬电的全文。
毛主席，朱总司令复电的题目是：《中国爱国人民建设自己的海军和海防的伟大意志，不是任何反动残余所能阻止的》。电文如下：
林遵将军、邵仑舰长、
李宝英舰长、吴建安舰长、
张家宝舰长、宋继宏舰长、
易元方舰长、郭秉衡舰长、
韩廷枫舰长、陈务笃舰长、
杜琛队长、张汝队长和
第二舰队的全体员兵们：
庆祝你们在南京江面上的壮举。你们率领二十五艘舰艇，毅然脱离反动阵营，参加到中国人民解放军的大家庭来，这是值得全国人民热烈欢迎的行动。在巡洋舰“重庆”号于二月间起义并被国民党反动派于三月间炸毁以后，四月间又有你们的大规模起义，可见中国爱国人民建设自己的海军和海防的伟大意志，不是任何反动残余所能阻止的。希望你们团结一致，学习人民解放军的建军思想和工作制度，并继续学习海军技术，为中国人民海军的光明前途而奋斗。
毛泽东
朱德
一九四九年五月十八日
毛主席、朱总司令亲切的复电，给了起义官兵以巨大的鼓舞。
在这之前，5月11日下午五时，“二野”司令员刘伯承同志，根据党中央的指示，在原国民党“总统府”接见林遵同志、全体起义舰长和队长以及其他军官代表。接见时，刘伯承作了内容丰富、言词生动的讲话。他说：“中国现在只有两种军队：一种是帝国主义者、官僚资产阶级、封建阶级领导的反人民的军队；一种是无产阶级领导的人民大众的反帝国主义、反官僚资本主义的军队。……‘第二舰队’一经起义就在根本立场上转变成为人民服务的军队……。”
刘司令员最后说：“起义官兵一方面要认识过去曾是反人民的工具，另一方面要加强为人民服务的意志。因此，起义官兵要努力学习毛主席的建设人民军队的思想，为建设人民海军而奋斗！”
接见后，刘伯承同志和大家一起合影留念。随后“二野”司令部在龙门酒家，盛宴招待上述干部。当晚，“二野”政治部又举办了文艺晚会热烈欢迎“二舰队”全体官兵。这些欢迎活动都增添了他们起义的光荣感。
最令他们难忘的是1949年8月28日，毛泽东主席、朱德总司令和周恩来副主席在北京中南海分别亲切地接见了林遵同志等原国民党梅军高级军官。接见时华东军区海军张爱萍司令员兼政治委员在座。
周副主席对林遵说：“你们的起义协助解放军解放了南京。”
朱总司令也对林遵说：“这是正义的行动。”
8月28日下午，毛主席在一座小平房里同林遵等同志作了亲切的谈话。毛主席语重心长地说：
“我们人民军队白手起家，从无到有，从小到大，经过了大革命，八年抗战和三年解放战争的锻炼，今天已经发展成强大的陆军部队。其所以不仅没有削弱，而且能战胜国内外敌人，主要是人民军队是人民的，军队是人民的代表。我们依靠人民，为人民服务，人民拥护我们。所以三十年来，我们不仅没有被消灭。相反地，击垮了所有的强大敌人，最后解放全中国。”
“但是，我们空军还很年轻；海军根本没有。因此，对原国民党海军的起义和归顺，我们很欢迎。一些舰艇被炸了，同志们很难过，这种感情是好的；但是不要紧，只要有了人，问题就能解决。中国地大物博，我们一定能够把海军建设起来。”
“你们有科学知识，有技术，我们新海军（指从人民解放军陆军调来的同志）要向你们学习；人民解放军有优良的政治工作和战斗作风，你们也要向新海军学习。新老海军要团结，互相学习，共同为建设强大的人民海军而奋斗！”
接见后，毛主席还为海军亲笔题词：
“我们一定要建设一支海军，这支海军要能保卫我们的海防，有效地防御帝国主义的可能的侵略。”
党中央领导同志毛泽东、朱德和周恩来的接见和谈话温暖了林遵同志的心。消息传到南京，“二舰队”起义官兵无不欢欣鼓舞。他们相信，有了这样英明伟大的领导，新中国、新海军的建设和个人的前途都充满着希望，都闪耀着光辉。他们怀着建设强大人民海军的壮志，走上了人民海军各个战斗岗位。
中国人民解放军第三十五军司令部给原国民党第二舰队司令林遵的一封信。下面是信的全文。
林司令鉴：
来函敬悉。展阅之后，甚为兴奋，我们以万分热诚，向你们表示欢迎。贵舰队所走的这条路，是完全正确的，必须为建设人民的新海军而努力前进。
为圆满解决此项问题，请你今晚十二时到南京励志社来找我们，一切问题面商解决。
顺祝
胜利
军长吴化文
政治委员何克希
副政治委员张雄
政治部主任孔繁彬
一九四九年四月二十四日
参加起义讨论会人员及有关舰艇情况表