Banyak ahli dan cendekiawan pada abad ke-16 sudah mulai mencari bentuk dan sistem untuk membuat kendaraan bawah air ini. Ilhamnya dimulai dari perahu atau kapal biasa. Kaitannya jelas, kapal atau perahu meluncur di atas air. Beberapa bagiannya berada di dalam air.
Lalu timbul pemikiran: "Bagaimana kalau semua bagian kapal dapat berada di dalam air, tapi tetap dapat meluncur dan dikendarai seperti kapal biasa ?!"
Lalu pemikiran dengan bantuan ilmu pengetahuan untuk membuat kapal selam muncul pada tahun 1578. William Bourne, seorang ahli matematika, merancang sebuah kapal dilapisi oleh kulit yang kedap air. Kapal ini dimaksudkan dapat didayung di dalam air, karena waktu itu belum dikenal adanya mesin.
Tapi kapal ini gagal diwujudkan. Gagasan serupa diteruskan oleh orang Jerman pada tahun 1620. Pembuatnya bernama Cornelis Drebbel, membuat kapal yang berhasil menyelam sedalam 360 sampai 450 centimeter, didayung oleh 12 orang.
Kapal selam sederhana tanpa dayung serta peralatan yang lebih maju dimulai oleh seorang anak sekolahan d Yale (Amerika Serikat), David Bushnell. Kapal selam ciptaannya berbentuk seperti telur, terbuat dari kayu.
Perlengkapan utamanya adalah pipa pernapasan ke atas permukaan air, baling-baling yang diputar dengan tenaga tangan, tangki yang mengelola daya apung dan tenggelam kapal selam ini (bila ingin menyelam, beberapa tangki diisi air lewat katup yang dapat diatur dengan kaki dan bila timbul ke atas air, air ini dipompa keluar dengan tangan), kompas dan sebuah pemberat agar kedudukan kapal tetap. Karena kapal ini kemudian dipergunakan untuk perang, maka kapal ini juga diperlengkapi dengan torpedo. Padahal ini baru tahun 1775 !?
Kapal selam dengan penggerak bukan manusia dimulai oleh Robert Fulton. Ia menggunakan mesin uap untuk menjalankan kapalnya. Dan untuk memudahkan kapal meluncur maju, kapal ini dibuat dengan bentuk cerutu. Kapal cerutu ini membawa 2 awak kapal dan sudah mampu menyelam beberapa jam.
Kapal selam yang lebih maju lagi dipunyai Angkatan Laut AS pada tahun 1900. Penciptanya bernama John PG Holland dan kapalnya dinamakan Holland. Panjang kapal 1.590 centimeter, dijalankan dengan tenaga mesin bensin dan listrik. Karena merupakan bagian peralatan militer, kapal ini dilengkapi dengan persenjataan, di antaranya torpedo, dengan lontaran tekanan udara.
Tapi dalam pemakaiannya, bahan bakar bensin sering membahayakan kapal itu sendiri. Kemudian untuk mengatasi masalah ini, dibuat mesin dengan bahan bakar yang lebih aman, yaitu solar, dengan mesin diesel. Ini terjadi pada tahun 1905 dan pelopornya adalah Inggris. Kapal selam bertenaga diesel ini kemudian menjadi bakuan kapal-kapal selam berikutnya. Sekarang ini ada kapal selam yang berkekuatan sampai 1.000-1.600 tenaga kuda pada dieselnya.
Setelah Perang ke-2 Dunia (P2D), peralatan dan kemampuan kapal selam maju lebih jauh lagi. Dalam perang itu -misalnya- kapal selam AL-AS juga menggunakan mesin diesel jenis Fleet. Kapal selam mereka panjangnya 90 meter, dengan awak kapal 85 orang, berkecepatan 20 knot di atas air dan 10 knot di dalam air, 10 buah laras torpedo terpasang di bagian depan dan belakang kapal, dengan kemampuan melepaskan 24 buah torpedo setiap laras. Setiap torpedo berisi sekitar 250 kiligram bahan peledak. Kecepatan kapal selam ini sesungguhnya bisa mencapai 45 knot, tapi dengan alasan keamanan kapal itu sendiri, kecepatan yang dipergunakan hanya 20 knot. Dengan kecepatan ini torpedo dapat dilontarkan dengan kecepatan 29 knot.
AS malah semakin menunjukkan kekuatan pertahanan laut yang semakin kokoh. Pada tahun 1954, AL-AS membuat sejarah baru, dengan meluncurkan kapal selam pertama bertenaga nuklir, bernama Nautilus. Pada tahun itu pula semua puncak kemampuan dan kecepatan kapal selam ditumbangkan olehnya. Nautilus pun menjadi kapal selam pertama yang berhasil melintasi Kutub Utara pada tahun 1958.
Ada puncak lain yang dibuat, tapi oleh kapal selam lain bernama Triton. Tahun 1960 Triton berhasil mengarungi seluruh lautan di dunia di bawah air. Kapal ini melintasi 66.970 kilometer dan mengarunginya dalam 84 hari saja. Bukan cuma itu, pada tahun 1960 AS juga telah mulai melengkapi kapal-kapal selam mereka dengan peluru kendali (rudal) antarbenua. Rudal balistik ini bisa melewati 1.930 kilometer dan menghancurkan negara yang dituju.
Tapi bukan AS saja yang punya kapal selam nuklir. Soviet juga punya. Bahkan menurut ahli-ahli militer dunia, Soviet punya armada kapal selam yang lebih banyak. Soviet punya sekitar 350 kapal selam, dengan sekitar 60 kapal selam dipersenjatai rudal balistik. AS cuma punya 135 kapal selam dengan 40 di antaranya bersenjata rudal balistik. Mereka berdua memang tukang perang, sehingga memang harus punya peralatan perang yang banyak.
Negara-negara lain yang lebih cinta damai sudah tentu punya peralatan yang lebih sedikit. Contohnya Indonesia, yang hanya memiliki 4 buah kapal selam, 2 buatan Soviet dan 2 buatan Jerman Barat. Yang lebih awal diberi nama Pasopati dan Bramastra, sedang yang disebut terakhir Nanggala dan Cakra.