不过，欧洲所藏中国图书毕竟有限，况且整日奔波于各国图书馆之间，实在是费时费钱费力，绝非长久之计。1878年，辜鸿铭决定结束留学生涯，返回家乡工作。也许是天假之缘，就在一次外出途径新加坡时，辜鸿铭巧遇中西通才马建忠（马建忠，字眉叔，江苏丹徒人，青年时即受西方影响，抛弃科举道路，致力于西学。1876年被派赴法国留学，1879年得巴黎大学博士学位，回国后帮助李鸿章办理洋务。马氏学贯中西，不仅旧学基础扎实，还精通英法语文及希腊、拉丁文字），两人一见如故，把酒言欢，长谈三日。在辜面前，马建忠狂侃中国文化，旁征博引，神采奕奕，这令辜鸿铭大开眼界，心驰神往，大有相见恨晚之感。这次谈话，对辜鸿铭一生影响极大，他感到自己再也不能呆在家乡过悠哉悠哉的舒适生活，而应当去国内“恶补”传统文化。直到晚年，他还意犹未尽似的回忆这段往事：
在新加坡与马建忠的会晤，是我一生中最重要的经历。正是马建忠，使我改变成为一个真正的中国人。虽然我从欧洲回来已经三年多了，但我并未进入中国思想文化深处，还仍遗留着“假洋人”习气。……我同马建忠晤谈三天后，即向殖民当局提出辞呈，没有等答复，就乘坐第一班汽船回到我的槟榔屿老家。在那里，我告诉我的堂兄，即我们家那位家长，说我愿意蓄辨和改穿中国衣服。
自此，辜鸿铭打点行囊，踏上了“返祖归宗”的道路。
栖身红楼
辛亥首义，改朝换代，效命于清廷的辜鸿铭也只得哀叹“无可奈何花落去”，披着那条代表愚忠的辫子躲入租界当中，过着寓公生活。
1917年，主张“学术自由、兼容并包”方针的蔡元培因爱惜辜鸿铭的语言天赋，于是延聘辜担任北京大学教授，主讲英国文学。然而，栖身全国最高学府之后，辜鸿铭依旧是本性难移，隔三岔五的就闹出一些令人啼笑皆非的趣闻来。
上课的第一天，他拖了一条大辫子，用红丝线系上，戴了一顶红帽结里缎子平顶的瓜皮帽，大摇大摆地走上了文学院的汉花园红楼。到了教室后，辜鸿铭首先对学生宣告：“我有约法三章，你们受得了就来上我的课，受不了就早退出。第一章，我进来的时候，你们要站起来，上完课要我先出去你们才能出去；第二章，我问你们和你们问我话时都得站起来；第三章，我指定你们要背的书，你们都要背，背不出来就不能坐下。”全班同学听后，都认为第一、二章都容易对付，第三章有点儿困难，可是大家慑于辜鸿铭的大名，也就不敢提出异议。
可是，不久同学们却发现这位文化怪杰常常“不按套路出牌”。有一次，他讲授《晏子春秋》，不小心把“晏”字误写成“宴”字。学生当即向他指了出来。他很是窘迫，一边纠正，一边自言自语说：“中国汉字真讨厌，‘晏’与‘宴’不过是把‘日’的部位上下换了一下而已，字义就大不同了。英语中就没有这样调皮捣蛋的。”