古生物学研究表明，企鹅出现在5000万年前的第3纪，但是迄今为止仍未发现4500万年前的企鹅化石，因此进一步的论证陷入了停滞状态。谈及企鹅的起源，大家都很关心究竟是企鹅的祖先本身就不会飞呢，还是企鹅原本会飞，后来在进化中改变了生存方式呢？
科学家们指出，企鹅有一个突出的特征，说明它的祖先可能会飞，这就是因为它的身上存在着尾踪骨。
鸟类的祖先是蜥蜴型的，它们继承了一个鞭状的由脊椎骨组成的长尾巴。
在进化过程中，受流体动力和运动的影响，鸟的尾骨逐渐缩短，最终缩成一块小的骨节，用来支持呈扇形排列的尾羽，即尾踪骨。
从最早的始祖鸟到所有现代鸟类都有尾踪骨，企鹅的尾踪骨无疑是其祖先会飞翔的证据。
同时，企鹅的许多特征都表明它的祖先会飞翔。企鹅的鳍翅尽管变成了桨状，但仍属飞翼，这种腕和掌骨形成的联合结构适合于飞羽翮羽的附着，这正是飞翔所必需的结构。虽然企鹅早就没有翮羽了，但支撑翮羽的结构依然存在。不仅如此，企鹅胸骨的许多特征也和飞翔鸟相似，比如有明显的龙骨在企鹅的胸骨处凸起，这正是飞翔肌肉所附着的地方，而且，飞翔鸟的小脑很发达，这是由于在飞行中，它们需要迅速调节肌肉的活动及协调身体的动作，而企鹅的小脑也相当复杂而且发达，这也应该是祖先会飞的一个遗迹吧。此外，企鹅同翅膀发达的飞翔鸟一样，都是把喙插在翅下睡觉的，不会飞的鸟一般不会有这种姿势，这说明必然有某种关系存在于企鹅和飞翔鸟之间。
也有人不同意这种观点。科学家孟兹比尔认为鸟类的起源不是单一的，与其他鸟类不一样，它们是单独从爬行类动物演变来的，它们的祖先并不会飞翔。企鹅的鳍翅是一个爬行类的前肢在水下的直接应用，而不是所谓的翅膀的变异，它并不像飞翔的鸟一样经历过飞翔的阶段。
近年来，在研究南半球的企鹅和北半球的已经灭绝的海鸦的构造之后，鸟类学家们认为企鹅和美洲沿岸发现的海鸦化石之间可能有着密切关系。
海鸦化石有3000万年的历史，故有的学者提出企鹅起源于北大西洋海鸦，而这些海鸦都不会飞行。海鸦与企鹅的骨骼体形方面有许多相似之处，在适应水面游泳和潜水方面表现得尤为突出。孟兹比尔的理论似乎得到了论证，但仍存在一个问题，就是很难判断它们之间的亲缘关系。因为它们一个位于北半球，一个位于南半球，而且它们的化石几乎是在同一个时代出现的。
撇开以上理论不说，假设现今的企鹅真的是由会飞的海鸟进化而来的，那么，企鹅究竟从什么时候开始不会飞的呢？据说，在距今两亿年前，地球上有一个冈瓦纳古陆是由若干大陆组成的，冈瓦纳古陆开始分裂和解体，从中分出南极大陆，并开始向南漂移。此时，有一群鸟发现漂移的南极大陆是一块生活乐园，于是它们就降落到这块土地上。起初它们生活得很美满，可是随着这块大陆不断南移，气候越来越冷，生活在大陆上的鸟儿们的身体构造也发生了变化，以适应气候的变化。最终，南极大陆盖上了厚厚的冰雪，除了企鹅的祖先，原来种类繁多的生物大批死亡。在冰雪茫茫的陆地上，它们找不到可吃的东西，只好到茫茫的海洋里去寻找食物。它的翅膀退化后，就不会飞翔了，也渐渐开始直立行走，经过漫长的岁月，终于演变成现今企鹅的模样。
这种说法也有些科学根据，尽管听起来像故事。在南极洲，古生物学家曾发现类似企鹅的化石，它高约1米，体重约9千克，或许这个具有两栖动物特征的企鹅化石就是企鹅的祖先。对企鹅起源及其演变的科学解释由于缺乏足够的证据，目前动物学家仍无法完整地揭开这个谜。