1914年9月5日，德国U-21号潜艇用一枚鱼雷击沉了英国军舰“开路者”号，250名官兵葬身海底。1914年9月22日，德国U-9号潜艇在比利时海外用不到90分钟就击沉3艘12000吨级的英国装甲巡洋舰，舰上1500人死亡。到1915年末，德国潜艇击沉600余艘协约国商船。1916年和1917年，被击沉的商船总数分别达1100艘和2600艘。仅1艘U-35号德国潜艇就独自击沉226艘舰船，总计50多万吨。一战中，德国潜艇击沉商船总数达5906艘，总吨位超过1320万吨。据统计，一战中用潜艇击沉的各种战斗舰艇达192艘，其中有战列舰12艘，巡洋舰23艘，驱逐舰39艘，潜艇30艘。战争中各参战国共建造了640余艘潜艇，德国建造的潜艇就有300多艘，其中U型潜艇以卓越的水下机动性和作战能力在海上出尽了风头。
二战爆发后，潜艇成为主要的水下战舰。战前，各参战国共有潜艇496艘，战争中建造了1669艘，潜艇总数达2100余艘。战争期间，潜艇击沉的作战舰艇达395艘（含战列舰3艘、航母17艘、巡洋舰32艘、驱逐舰122艘），击沉的运输舰船达5000余艘，2000余万吨。德国依仗性能先进的U型潜艇，在大西洋海域有效地攻击了盟军的商船队和护航船队。指挥德国潜艇的海军上将卡尔·邓尼兹发明“狼群战术”（狼群战术是英国的称法，德国称作集结战术），用6-12艘潜艇组成水下舰队，白天尾随护航队，黄昏时进入攻击阵位，夜晚钻入护航队中用直航鱼雷实施近程攻击。1940年10月，一个由12艘潜艇组成的“狼群”击沉32艘舰船。1941年，德国用潜艇击沉盟军舰船总数达1150艘。到1942年上升到1600艘。1943年以后，盟军在舰艇、飞机上加装了反潜雷达，舰船被击沉数量降低了65%，到1944年只有200艘舰船被击沉。二战中，德国共建造潜艇1131艘，加上战前造的57艘，共1188艘。这些潜艇击沉了3500艘舰船，造成45000人死亡。到战争结束时，德国有781艘潜艇被盟军击沉。
邓尼茨认为破坏英国海上交通线必须将德国海军的发展重点改成潜艇。他指出，英国本土所需物资绝大多数仰赖于外海殖民地运回本土。每年消耗的物资中，石油的75%、铁矿石的88%、铜的95%、铅的99%、小麦的89%、肉类的84%和食油的93%都依赖进口，每年的海运物资总量超过6800万吨，每天航行在大海上的英国运输船多达2500艘。战略物资仰赖通商船队，打击它们能迫使英国投降，他认为能以300艘的潜艇舰队打败英国。
邓尼茨以“多艘潜艇集结起来攻击船队”为核心概念，创立出“狼群战术”，以压倒性的力量打击船队。执行狼群战术，关键在于无线电的沟通能力。在两次大战期间，德国开发了特高频发射器，无线电反干扰能力提升许多，而一战后发明的恩尼格玛密码机使得防窃密能力加强。邓尼茨采用威廉·马绍尔的想法，让潜艇处于非常接近水平面的位置和夜间发动攻击，此一策略使得潜艇无法被声纳所侦测到。
德国海军水面军力远低于英国皇家海军。德国海军总司令埃里希·雷德尔听到宣战消息后说：“现在，水面舰队能做的只有一件事，表现出懂得如何英勇赴死。”雷德尔的希望全寄托在水面舰建造计划中，认为这一计划将大幅提升德国海军的水面舰队力量，有效对抗皇家海军。然而该计划直到1945年都未完成。相比之下，邓尼茨认为，战争中，潜艇是德国海军的唯一选择。1939年1月，邓尼茨晋升为海军准将和潜艇指挥官。而战争爆发时，邓尼茨只有57艘潜艇，其中许多是短航程型，只有22艘远洋型能越洋出击。在雷德尔和希特勒的要求下，以潜艇舰队直接和英国舰队交手，作战结果成败参半，英国“勇敢”号航母、“橡树”号战舰和“巴勒姆”号战列舰被击沉。这些战果的代价是削弱了原本就很不强的潜艇部队，让狼群战术的进展更为缓慢。之后，潜艇舰队又被派去和水面舰队一同执行破交战。1940年7月到10月，因英国雷达和反潜设备缺乏，对水下杀手无法反制，被击沉149万吨物资，邓尼茨因为领导潜艇表现优异而晋升中将。到1941年，新交付的VII型U型潜艇对英国战时经济产生重大影响。虽然商船的生产速度已加快，但德国拥有更优秀的鱼雷、U型潜艇和逐渐增加的通商破坏舰。这段时间里，英国的损失仍居高不下。
1941年12月11日，希特勒对美国宣战，使大西洋海战的范围延伸到了美国东岸，邓尼茨立即策划“击鼓行动”，让U型潜艇在美国东岸攻击船只。美国反潜作战准备不足，战初即承受巨大损失。之后，至少有两次盟军成功打击了邓尼茨的潜艇部队。美国方面成功截取和破解了德国海军通讯（海军的恩尼格玛密码机）。邓尼茨于1942年2月1日下令潜艇舰队使用改进版本的恩尼格玛密码机，即“M4型”，拥有四旋转盘，盟军称“鲨鱼”，安全性大为提高。德国海军是唯一使用改良密码机的，其余德军，包括空军仍继续使用三旋转盘的版本。一时间这种变化造成盟军难以破译。邓尼茨经常参与潜艇部队研究，有时一天和幕僚人员接触70次，讨论每天行程、战略、燃料供应和其他细节。截至1942年底，由于VII型U型潜艇产量增加，邓尼茨终于能够进行大规模的潜艇群体攻击，以狼群战术使盟军的航运损失大幅上升，并有一段时间使英国的燃料和补给短缺。
1943年中旬，大西洋海战已不利于德国，但邓尼茨继续推动建造U型潜艇，并进一步研究潜艇技术，期望能扭转局势。但盟军新式的雷达、海空协同的反潜机和护航航母，使德军潜艇损失不断增加。
1943年1月，邓尼茨接替雷德尔担任海军总司令，同年授海军元帅。雷德尔辞职原因是和希特勒对水面舰的争论。巴伦支海战失败后，希特勒认为水面舰队不值得保留，要求拆毁所有舰队，雷德尔只好请辞，而邓尼茨则说服了希特勒保留舰队，但停止建造。它将水面舰队用以存在舰队，影响盟军部署。自1943年中以来，邓尼茨的潜艇损失并没有随着他的晋升而减少。他的副手艾伯哈特·戈德接替他担任潜艇舰队总司令，也无力扭转局势，只能放弃狼群战术，而改以单艘巡弋的战术。
邓尼兹发明了把潜艇集合起来，在数量上超过对方水面护卫舰只，然后猛扑的“狼群”战术，创造了潜艇袭击史无前例的战果，但是他却在大西洋海战中犯了一个致命错误。
1943年初，美英出动以陆地为基地的配备雷达的重型轰炸机从大西洋两岸驱赶“狼群”。德军潜艇规避到美英轰炸机航程之外的大西洋中部海域，继续猎杀。由于美英轰炸机航程够不到，这里似乎成为纳粹海军猎杀猎物的世外桃源。对此，盟国海军派出航母舰群去为轰炸机作接力机场平台。航程大增的美英海军给纳粹潜艇部队以沉重打击。
面对多艘航母及其众多舰载机，邓尼兹命令召回所有潜艇，全部给它们装上高射炮，决定用潜艇与盟军飞机决一死战。于是，一幅幅海战奇观陆续出现了：盟军舰载机对德军潜艇实施轮番猛烈扫射轰炸，浮出水面的德军潜艇高射炮火向着俯冲下来的美英飞机连连射击，双方都使出了浑身解数，激战空前惨烈。尽管不时有被击中的飞机载入大海，但源源不断的补充飞机很快又猛扑上来。然而，潜艇炮难与飞机的猛烈扫射轰炸匹敌。在1943年的6个月中，150艘德军潜艇被击沉，以致这段时间，大西洋水面上几乎天天有上浮的潜艇残骸和艇员尸体。1943年4月15日，一架盟军巡逻飞机偶然发现一艘德军潜艇。当时这架飞机还在半海里之外。发现敌情的德军潜艇紧急下潜。飞机立即从1.2千米外与海面成60度角向潜艇俯冲下来。被击伤的德军潜艇被迫浮出水面，用高射炮火反击。飞机一面躲避炮火，一面俯冲扫射，直到又一架盟军飞机赶来支援，才终于把潜艇击毁。
二战爆发时，德国海军舰艇虽略逊英国海军一筹，却建立了世界上最庞大、最先进的潜艇部队，兴盛时期曾发展为1000多艘潜艇。德军潜艇作为一张王牌曾在大西洋兴风作浪，几乎切断英国海上交通线。仅在开战第一年中，这支潜艇部队就击沉了盟国各型舰只471艘，总吨位达218.6万吨。这种疯狂的潜艇绞杀战在战争初期几乎使英伦三岛陷入绝境。正是由于潜艇在夺取制海权中发挥了巨大作用，使得纳粹德国认为海上作战有足够优势，一方面放慢了建造航母的步伐，一方面加剧了海空军权力之争。
戈林多次扬言：“一切会飞的东西都属于我！”邓尼兹屡建功勋，备受希特勒推崇，以戈林为首的“空权派”一面强烈反对海军拥有航空兵，唯恐因此而分散对空军力量专断权，一方面在战术配合上作梗，不派飞机前往支援海军作战。在这场权力之争面前，由于希特勒站在戈林一边，迷信其空军制胜论的观点，使海军雷德尔上将以及继任者邓尼兹为争取组建海军航空兵的努力多次失败。在这种情况下，纳粹德国海军没有岸基航空兵，更不可能拥有航母。在大西洋海战中由于得不到空军支援，德军潜艇不断受到重创。邓尼兹潜艇海底闪电战的失败使“狼群”被打断脊梁骨。纳粹海军终于走上穷途末路。
残酷战争让40000潜艇兵中的28500人无声无息地消失在大西洋冰冷的海底。纳粹德国潜艇损失情况：
U-1 1940年4月16日在北海西南海域被英国海军潜艇“海豚”号用鱼雷击沉，艇上无一生还。
U-2 1944年4月8日在帕拉阿以西海域被德国蒸汽拖网船撞沉，艇上有18名成员生还。该艇在1944年4月9日被打捞，随后解体。
U-5 1943年3月19日在帕拉阿以西海域下潜后失事沉没，有16名艇员生还。
U-7 1944年2月18日在帕拉阿以西海域下潜后失事沉没，艇上无一生还。
U-8 1945年5月2日自沉威廉港。
U-9 1944年8月20日在黑海被苏联飞机用炸弹炸沉。
U-10 1944年8月1日在但泽沉没。
U-11 1945年5月3日接到德国投降命令，自沉。
U-12 1939年10月8日在英吉利海峡多弗尔附近触发水雷沉没，艇上无一生还。
U-13 1940年5月31日在北海纽卡斯尔附近深水处，被英国海军“威斯顿”号巡洋舰击沉。
U-14 1945年5月2日为避免被盟军俘获，自沉。
U-15 1940年1月30日在北海被德国鱼雷艇撞沉，艇上无一生还。
U-16 1939年10月25日在英吉利海峡多弗尔附近海域，被英国海军驱潜舰“卡亚顿·威克”和“普菲林”号击沉。艇上无一生还。
U-17 1945年5月5日为避免被俘获，自沉。
U-18 1944年8月25日由于苏军的逼近，为避免俘获，在黑海自沉。
U-19 1944年9月10日由于苏军的逼近，为避免俘获，在黑海自沉。
U-20 1944年9月10日由于苏军的逼近，为避免俘获，在黑海自沉。
U-21 1940年3月27日搁浅。由于损坏特别严重，于1944年4月9日退役，在1945年拆毁。
U-22 1940年3月27日在北海怀疑触发水雷而沉没，艇上无一生还。
U-23 1944年9月10日由于苏军的逼近，为避免俘获，在黑海自沉。
U-24 1944年9月10日由于苏军的逼近，为避免俘获，在黑海自沉。
U-25 1940年8月1日在北海的Terchelling的地方触发水雷沉没，艇上无一生还。
U-26 1940年7月1日在北大西洋被英国海军小型护卫舰和岸基反潜机击沉。
U-37 1945年5月8日在圣得尔卑湾自行炸毁。
U-38 1945年5月5日投降前被彻底毁坏，1948拆毁。
U-39 1939年9月14日在赫布里底群岛西北海域攻击英国海军航母“皇家方舟”号失败后，被护航的英国驱逐舰用深水炸弹炸沉，全体艇员被俘。
U-40 1939年10月13日在英吉利海峡触发水雷沉没，艇上只有3人生还。
U-41 1940年2月5日在爱尔兰以南附近海域被英国海军驱逐舰“羚羊”号击沉，无一生还。
U-42 1939年10月13日在爱尔兰西南附近海域被英国海军驱逐舰“伊莫金”和“圣栎”号击沉，艇上共有20人生还。
U-43 1943年7月30日在亚速尔群岛西南方附近海域被美国护航航母“桑提”号舰载机用声导鱼雷击沉，艇上无一生还。
U-44 1940年3月13日在伊卡洛斯触雷沉没，艇上无一生还。
U-45 1939年10月14日在爱尔兰的西南方海域，被英国海军驱逐舰“英格尔菲尔德”、“伊凡霍”和“无畏”号用深水炸弹炸沉，艇上无一生还。
U-46 1943年10月从海军名册勾销，1945年5月3日自沉。
U-47 1941年3月7日在北大西洋罗科尔岛附近失事沉没，艇上无一生还。
U-48 1945年5月3日自沉。
U-49 1940年4月15日在挪威纳尔维克附近被英国海军驱逐舰“无惧”和“布来曾”号击沉。艇上除1人死亡外全部成为俘虏。
U-50 1940年4月6日在北海北部触发水雷沉没，艇上无一生还。
U-51 1940年8月20日在南特市西面的比斯开湾被英国海军潜艇“抹香鲸”号用鱼雷击沉，艇上无一生还。
邓尼茨的两个儿子皆战死。小儿子彼得作为U-954潜艇值更人员，在1943年5月19日战死；大儿子克劳斯死于1944年5月13日鱼雷艇突袭行动；女儿乌苏拉则嫁给潜艇指挥官。1945年4月20日，邓尼茨被任命为德国北方部队和民防司令。1945年4月30日，希特勒自杀。根据最后遗言，希特勒将赫尔曼·戈林和海因里希·希姆莱从纳粹党开除、撤去所有职务，任命邓尼茨为继承者，作为帝国联邦总统（并非元首）和德意志武装力量最高统帅，宣传部长约瑟夫·戈培尔成为政府首脑和德国总理。
希特勒认为陆军没有执行“战到最后一人”命令，而空军总司令戈林和盟军私下谈和，党卫军全国领袖希姆莱也和盟军私下接触，党卫军上将费力克斯·史坦那拒不执行攻击命令，都背叛了他，只有海军能信任。5月1日，戈培尔自杀，邓尼茨试图组成新政府。拟定并实行了大规模的撤退行动，代号“汉尼拔行动”，并希望和西方达成单方面停战，被欧洲盟军总司令艾森豪威尔拒绝。5月7日，邓尼茨授权汉斯·冯·弗里德、威廉·凯特尔和汉斯·尤根·史托普在柏林签署无条件投降书。