当初，慕容备德在前秦任张掖太守，他的哥哥慕容纳与母亲公孙氏住在张掖。慕容备德追随秦王苻坚攻打淮南，临行前，给母亲留下一把金刀向母亲告别。慕容备德与后燕武成帝慕容垂在崤山的东边起兵，张掖太守苻昌就把慕容纳和慕容备德的几个儿子杀了。
他的母亲公孙氏因为年老得到赦免。慕容纳的妻子段氏因为有孕在身，也没有被处决。监狱看守呼延平，是慕容备德的老部下，偷偷地把公孙氏和段氏放走，带她们逃到羌中去了。
段氏生下儿子慕容超。孩子十岁的时候，公孙氏得了重病，临死前，她把金刀交给慕容超，对他说：“你将来如果能回到东方去，应该把这把刀还给你的叔叔。”
呼延平又带着慕容超母子投奔后凉国。吕隆投降后秦以后，慕容超又随着凉州的百姓一起迁到长安。呼延平死后，段氏为慕容超娶了呼延平的女儿做妻子。
慕容超担心自己被后秦扣押，就装疯卖傻，到处乞讨为生。后秦国的人都歧视他，只有东平公姚绍认为他很特别。
姚绍对后秦文桓帝姚兴说：“慕容超身材魁伟，气宇轩昂，恐怕不是真疯。希望您能让他当一个小官，把他拴住。”
姚兴召见慕容超，与他说话，慕容超故意答非所问。姚兴对姚绍说：“俗话说‘好皮不包傻骨头’，胡说而已。”于是作罢，把慕容超赶了出去。
慕容备德当上南燕国主以后，听说慕容纳有一个遗腹子在后秦，就派济阴人吴辩前去查访。吴辩因为同乡人宗正谦在长安依靠占卜为生，就通过他与慕容超取得了联系。慕容超不敢告诉母亲和妻子，偷偷地与宗正谦改名换姓逃回南燕。
他们到梁父的时候，镇南长史悦寿把消息告诉给兖州刺史慕容法。慕容法说：“在汉代的时候，有个占卜的人谎称自己是卫太子，怎么知道现在此人不是那样的呢？”因此对慕容超很不恭敬，慕容超从此与慕容法产生矛盾。
慕容备德听说慕容超来了，非常高兴，派三百名骑兵去迎接。慕容超抵达广固，把那把金刀献给慕容备德，慕容备德失声恸哭，不能自已。于是封慕容超为北海王，任命为侍中、骠骑大将军、司隶校尉、开府，并细心挑选当时的贤人，作他的僚属辅佐他。
慕容备德没有儿子，想让慕容超做自己的后嗣。慕容超入宫侍奉叔父，总是令叔父尽量开心，出宫则礼贤下士。从此朝廷内外的赞美声都归到他身上。
晋义熙元年（公元405年）八月，汝水枯竭，慕容备德为此十分焦虑，不久就卧病不起。慕容超请求为此祷告，慕容备德说：“人的寿命，全由上天决定，不是汝水所能制约的。”慕容超一再请求，慕容备德都不答应。
十月初一，慕容备德在东阳殿召见群臣，商议立慕容超为太子。过了一会，发生地震，文武百官非常惊恐，慕容备德也很不安，于是回到寝宫。
当天夜里，他病情加重，眼睛紧闭，不能说话。段后大声对他说：“现在召中书官写诏书，立慕容超为太子，可以吗？”慕容备德睁开眼睛点了点头。于是立慕容超为皇太子。
不久，慕容备德便去世了。后燕做了十多个棺材，夜间，分别从四个城门抬出去，偷偷埋在山谷里。十月十一日，慕容超登基，对犯人减轻或免除刑罚，改年号为太上。