世界上第一艘潜水艇的名字已经无从考证。
1620年，荷兰物理学家科尼利斯·德雷尔成功地制造出人类历史上第一艘潜水船，它是人类历史上第一艘能够潜入水下，并能在水下行进的“船”。它的船体象一个木柜，木质结构，外面覆盖着涂有油脂的牛皮，船内装有作为压载水舱使用的羊皮囊。这艘潜水船以多根木桨来驱动，可载12名船员，能够潜入水中3－5米。德雷尔的潜水船被认为是潜艇的雏形，所以他被称为“潜艇之父”。
世界上第一艘投入实战的潜水艇是美国的海龟号
在1776年的美国独立战争中，潜艇第一次登上了战争舞台。美国耶鲁大学毕业生戴维特·布什内尔在华盛顿将军的支持下，开始研究用潜水船打击英军的方法，潜艇发展史上著名的“海龟”艇就这样诞生了。
“海龟”艇外形酷似海龟，艇内空气可供驾驶员呼吸半小时；在艇的上部还装有2根通气管，上浮时打开，下潜时关闭，从而可以补充新鲜空气。为了控制潜艇的上浮和下沉，艇内设有压载水舱，用手泵控制水柜内的水。为应付紧急情况，艇内装有一块90千克重的铁块，危急时刻只要抛掉铁块，潜艇就可以迅速上浮。“海龟”艇的运动通过水平和垂直方向上的两个靠人力驱动的螺旋桨来控制，武器则是挂在艇体外面的一个重约68千克的炸药包，攻击时要将其挂在敌舰外壳上。就是以现在的眼光来看，这也是一艘设计得很完备的水下兵器。
1776年，美国的水兵埃兹拉·李，驾驶这艘海龟号潜艇驶近了停泊在纽约港的英国舰只。因埃兹拉无法将炸药包固定在船底，只是在英舰附近的水面上爆炸了，英舰并未受伤。
取得第一个实战战果的是汉利号潜艇。
汉利号潜艇（H.L.Hunley）是美国南北战争时期隶属于南方邦联的一艘潜艇。汉利号曾在查尔斯顿湾口击沈北方联邦军的蒸汽战斗用帆船豪萨通尼克号（USSHousatonic）而声名大噪，是历史上第一艘在作战中击沈敌方战舰的潜艇，虽然在袭击成功后汉利号自身也因为不明原因沉没失踪，但它仍显示出水下作战的可行性，与相对地得面对的危险性。
