海军的主要部分是它的舰艇。通常分为战斗舰艇、登陆作战舰艇和勤务舰船几类。
战斗舰艇是装备有专用武器、直接进行海战的舰艇，包括水面战斗舰艇和潜艇。如果细分，那么按执行的基本任务不同，区分为航空母舰、战列舰、巡洋舰、驱逐舰、护卫舰（艇）、鱼雷艇、导弹艇、猎潜艇、水雷舰（艇）、反水雷舰（艇）和登陆舰（艇）等；按排水量、武器装备不同，分为不同的舰级；在同一舰级中按外型、构造和战术技术性能不同，又分为不同的舰型。一般排水量在500吨以上称为舰，小于500吨的称为艇。不过潜水艇不论排水量大小，习惯上都称艇。舰艇的动力装置现在除了常规动力外，不少已改为核动力型的了。
海军的舰艇和民用船只的区别不在吨位大小，主要是船体的坚固结构、航速、抗沉、耐波程度不同。再就是侦察、通信和导航系统，一般船只没有海军舰艇那样齐全、先进。民用船只一般情况下也不装备武器。