有确切记载，并得到人们公认的世界上第一艘能在水下航行的船只由荷兰人C·德雷贝尔于1620年发明的。德雷贝尔是名物理学家，他在英国制作了一艘木制框架，外包有皮革的小艇，艇峰外涂油，艇内有羊皮囊。向囊内注水，艇就下潜，可潜3－5米的深度把囊内水排出艇外，艇就能浮上水面。艇身有桨孔，由12名水手划桨行进。这是世界上第一艘人力潜艇，也是现代潜艇的雏形，它曾在泰晤士河成功地潜航了2个小时。
1775年，美国独立战争爆发。美国人D·布什内尔建造了一艘单人驾驶，以手摇螺旋桨为动力的木壳潜艇“海龟”号，能在水下停留约30分钟。1776年，“海龟”号潜抵英国战舰“鹰”号舰体下，全力固定炸药炸毁它，但未能成功。这是使用潜艇袭击敌舰的首次尝试。
1863年，法国建造了“潜水员”号潜力艇，它以压缩空气瓶内的压缩空气推动活塞式发动机作为动力，这是世界上第一艘机械动力潜艇。1881年，爱尔兰籍美国人约翰·霍兰建造了一艘安装有一台15马力汽油内燃机的“霍兰－II”型潜艇，这是世界上第一艘内燃机动力潜艇。这种潜艇还装备了鱼雷，曾在哈德逊河上成功地进行了试航。1884年，俄国工程师C·K·维捷斯基发明了使用蓄电池电动机的潜艇，艇上还装有潜望镜和空气再生系统。现代的常规动力潜艇在水面航行时使用内燃机，在水下航行时使用电动机，正是霍兰和维捷斯基等人的发明，为现代潜艇的诞生提供了动力装置方面的物质条件。
一般认为现代潜艇诞生是瑞典人诺德费尔特与英国人加莱德使用设计建造的“诺德费尔特－1”号开始的。这艘潜艇于1881年开始建造，1885年下水。它以蒸汽机为动力，当潜入水下时，锅炉熄火以剩余蒸汽作为动力。该艇还装有鱼雷发射装置。“诺德费尔特－1”号是当时比较大，也是比较成功的潜艇。
