潛艇最早可追溯到15-16世紀的列昂納多·達芬奇。據說他曾構思"可以水下航行的船"，但這種能力向來被視為"邪惡的"，所以他沒有畫出設計圖。直至一戰前夕，潛艇仍被當成"非紳士風度"的武器，其被俘艇員可能被以海盜論處。
16世紀，真實意義的潛艇出現。1578年，英國數學家威廉·伯恩(William Bourne)著書《發明與設計》描述潛艇。1620年，首艘有文字記載的"可以潛水的船隻"(submerible vehicles)由荷蘭裔英國人克尼利厄斯·雅布斯縱·戴博爾(Cornelius Jacobszoon Drebbel)建成，主要即依據前者的設計，推進力由人力操作的櫓產生。但有人認為那只是"縛在水面船隻下方的一個鈴鐺狀東西"，根本不能算潛艇。1620年至1624年，它有兩種改良型在泰晤士河上進行實驗。
史上第一艘用於軍事的潛艇出現於美國獨立戰爭。美國耶魯大學的大衛·布什奈爾(David Bushnell)建成海龜號(Turtle)，通過腳踏閥門向水艙注水，可使艇潛至水下6米，能在水下停留約30分鐘。艇上裝有兩個手搖曲柄螺旋槳，使艇獲得3節左右的速度和操縱艇的升降。艇內有手操壓力水泵，排出水艙內的水，使艇上浮。艇外攜一個能用定時引信引爆的炸藥包，可在艇內操縱系放於敵艦底部。內部僅容納一人操作方向舵和螺旋槳。1776年，海龜號企圖攻擊英國皇家海軍老鷹號(HMS Eagle)，雖未獲成功，但開創了潛艇首次襲擊軍艦的嘗試。
史上第一艘成功炸沉敵艦的潛艇在美國南北戰爭。何瑞斯·勞升·漢利(Horace Lawson Hunley)建成漢利號潛艇，乘員八人，手搖柄驅動。其前端外伸一個炸藥包，碰觸敵艦即爆炸。1864年2月17日晚上9時許，它成功炸沉北方聯邦的豪薩託尼克號(USS Housatonic)護衛艦，但自己卻也因爆炸產生的漩渦而沉沒。
潛艇發展至此，一直是由人力推進的，因此限制了潛艇的發展。而此時，蒸汽機已經發明並被應用到了鐵路運輸和水面艦船上。蒸汽機在潛艇上的應用，推動了潛艇動力裝置的發展，再加上潛艇設計者的不斷努力，終於出現了以機械為動力的現代潛艇。
19世紀80年代，潛艇日益進展，各國逐漸認識其重要性。美國、英國、法國、瑞典、意大利、德國和俄國等都熱衷於研發。1878年，英裔美國人約翰·菲利浦·霍蘭投入此項工作。1900年4月，美國政府購買其研製的潛艇霍蘭九號，並編入美國海軍。從此，潛艇正式成為一種海軍艦艇。1898年，法國人馬克西姆·勞伯夫首創以雙殼體結構建成了"一角鯨號"，儲存壓艙水在兩層船殼之間，優點是浮力大增。這後來成為蘇俄潛艇的一種類型。
18世紀末到19世紀末是潛艇研製的重要時期。1801年，美國人R.富爾頓建造的"鸚鵡螺"號潛艇，艇體為鐵架銅殼，艇長7米，攜帶兩枚水雷，由4人操縱。水上採用摺疊桅杆，以風帆為動力。水下采用手搖螺旋槳推進器推進。19世紀 60年 代，美國南北戰爭中，南軍建造的"亨利"號潛艇長約12米，呈雪茄形，用8人搖動螺旋槳前進，航速4節，使用水雷攻擊敵方艦船。1864年2月17 日夜，"亨利"號用水雷炸沉北軍戰艦"豪薩託尼克"號，首創潛艇擊沉軍艦的戰例。1880年9月，中國在天津建成第一艘潛艇，艇體形如橄欖，水下行駛，十分靈捷，可於水下暗送水雷，置於敵船之下。
1863年，法國建成了一艘"潛水員"號潛艇。艇體模仿海豚的外形設計，長42.67米，排水量420噸。使用一部功率為59千瓦(80馬力)的蒸汽機作動力，速度為2.4節，能在水下潛航3小時，下潛深度為12米。由於"潛水員"號採用了蒸汽機作動力，尺寸超過了當時所有的潛艇，成為了20世紀之前最大的一艘潛艇。雖然"潛水員"號潛艇的動力裝置有了質的飛躍，但它卻受當時設計水平的限制，當增加壓載使其浮力等於零時，潛艇下潛就失去了控制，水下航行的穩定性很差。另外，潛艇在水下航行時需要大量的空氣，而這在當時幾乎是無法解決的問題。於是，"潛水員"號最終以失敗而告終。
蒸汽機作為潛艇的動力失敗後，潛艇設計師們不得不另闢蹊徑，為潛艇尋找更好的動力裝置。1886 年，英國建造了一艘使用蓄電池動力推進的潛艇(也被命名為"鸚鵡螺"號)成功地進行了水下航行，航速為6節，續航力約80海里。從此，電動推進裝置為潛艇的水下航行展現了廣闊前景。
1875年，霍蘭將建造新型潛艇的計劃送交美國海軍部。但是，美國海軍對支付5萬美金建造的一艘名為"智慧之鯨"的小型手操潛艇的沉沒仍然記憶猶新，因此斷然拒絕霍蘭的計劃。遭到拒絕的霍蘭卻沒有因此而卻步，他很快就得到了流亡美國的由愛爾蘭一些革命者組成的"芬尼亞社"的大力資助。在"芬尼亞社"的支持下，經過3年時間的努力，霍蘭終於在1878年將自己的第一艘潛艇送下了水。
該潛艇被命名為"霍蘭-Ⅰ"號，是一艘單人駕駛潛艇。艇長5米，裝有1臺汽油內燃機，能以每小時3.5海里的速度航行。但由於潛艇水下航行時內燃機所需空氣的問題沒有解決，故潛艇一潛入水下發動機就停止了工作。雖然這是一艘不成功的潛艇，但霍蘭卻在它的身上積累了經驗，為下一步建造新的潛艇打下了基礎。
霍蘭研製的潛艇這時，"芬尼亞社"對霍蘭的潛艇研製提出了要求:所建造的潛艇，大到足以能有效地進行作戰，小到使其能夠塞進特製的商船船艙。這種商船要求可以裝成民船的模樣橫渡大西洋。當遇到敵艦後，特殊商船將潛艇放出以攻擊敵人。按照這一特殊要求，1881年，霍蘭建造成功他的第二艘潛艇，命名為"霍蘭-Ⅱ"號(也稱"芬尼亞公羊"號)。該艇長約10米，排水量19噸，裝有一臺11千瓦的內燃機。為解決縱向穩定性問題，霍蘭為潛艇安裝了升降舵。同時，他還在艇上安裝了一門加農炮，使得"芬尼亞公羊"號潛艇既能在水下發射魚雷，又能在水面進行炮戰。"芬尼亞公羊"號的建成給公眾以極大的鼓舞，在潛艇發展史上也被認為是一個重要的里程碑。
19世紀80年代末期，潛艇的發展引起了更多國家的興趣。1893年，長約45.7米、排水量為266噸的"古斯塔夫·齊德"號潛艇在法國下水了。它以電動機帶動螺旋槳推動。在當時各國所出現的潛艇中，它是最先進的一艘。
"古斯塔夫·齊德"號潛艇的成功促使霍蘭更加努力了。但就在霍蘭全力以赴投入他的第三艘潛艇製造之中時，"芬尼亞社"的一些成員對霍蘭無終止的試驗喪失信心，並在一天黑夜將"芬尼亞公羊"號以及建造中的第三艘潛艇偷偷地運走了。從此，霍蘭與"芬尼亞社"分道揚鑣。
失去了"芬尼亞社"的資助，霍蘭只得暫時停下潛艇的研究而到一家汽槍公司擔任了描圖員的工作。但是不屈的科學家永遠不會為困難所嚇倒。在朋友們的大力支持下，他興辦了"肛魚潛艇公司"。這時他與炮兵上尉扎林斯基合作，又建造了他的第四艘潛艇"扎林斯基"號。1886年，當"扎林斯基"號建成下水時，因滑道倒塌而全艇被毀。"扎林斯基"的失敗，反而使霍蘭有了暫時的喘息餘地。
幾乎就在霍蘭失敗的同時，西班牙卻有一個名叫艾薩克伯爾的海軍上尉於1889年設計了一艘由時機推進的潛艇。不幸的是，因為艾薩克伯爾與上司不和，其上司竟然不顧國家利益而否定了他的計劃。
美國政府得知這一消息後，為了在與西班牙的競爭中取勝，由海軍部於1893年舉辦了一次潛艇設計大賽。霍蘭大這次大賽中技壓群雄，榮登榜首。大賽的勝利使霍蘭於1895年接到了製造一艘潛艇的定貨單，並從美國海軍部得到了15萬美元的經費。於是霍蘭又開始了他的第五艘潛艇的設計。
為了建造一艘像樣的潛艇，霍蘭從一開始就注意解決那些潛艇史上阻礙潛艇發展的問題。為此，他反覆研究並數易方案，終於建成了他的第五艘潛艇――"潛水者"號。該艇長26米，擁有水面航行的推進裝置--蒸汽機動力裝置和水下潛航的推進裝置--電動機。 "潛水者"號由此成為了潛艇雙推進系統的鼻祖。但是，美國海軍部出於戰爭的需要，在"潛水者"號建造期間，就要求霍蘭能夠使"潛水者"號用於水面作戰。但霍蘭卻認為，按照這種要求是不會製造出滿意的潛艇的。於是，霍蘭放棄了"潛水者"號的建造工作，歸還了海軍部的經費，開始用自己的錢來設計建造一艘新潛艇。
1897年5月17日，時年56歲的霍蘭終於成功地製造出了"霍蘭-Ⅵ"號潛艇。該艇長15米，裝有33.1千瓦(45馬力)汽油發動機和以蓄電池為能源的電動機，是一艘採用雙推進的最新潛艇。在水面航行時，以汽油發動機為動力，航速可達每小時7海里，續航力為1000海里。在水下潛航時，則以電動機為動力，航速可達每小時5海里，續航力50海里。該艇共有5名艇員，武器為一具艇首魚雷發射管(有3枚魚雷)和2門火炮(向前、向後各1門)，火炮瞄準靠操縱潛艇艇體對準目標。該艇能在水下發射魚雷，水上航行平衡，下潛迅速，機動靈活。這是霍蘭一生中設計和建造出的最後一艘潛艇。為了紀念這位偉大的先驅者，人們將其稱為"霍蘭"號。雙推進系統在該艇上的運用，使這艘潛艇取得了潛艇發展史上前所未有的成功，從而奠定了霍蘭作為"現代潛艇之父"的地位。
但是霍蘭的成就並沒有給他本人帶來任何好處。由於美國海軍部一些官員的偏見和挑剔，這艘潛艇不僅未被海軍部採用，反而使這位大發明家受到了惡毒的嘲諷。無情的打擊使時年63歲的霍蘭憤然辭職。從此，一代潛艇巨匠被迫停止了其心愛的事業，並最終因肺炎病逝，終年73歲。
儘管"霍蘭"號潛艇取得了輝煌的成就，但在19世紀末20世紀初，法國在潛艇這一領域也同處領先地位。1899年，由法國科學家勞貝夫於設計的"納維爾"號潛艇在法國下水。
"納維爾"號與其他潛艇不同處在於，該艇在其內殼之外又包上了一層外殼。這使得"納維爾"號既有一個酷似魚雷艇似的外殼，又有一個按照潛艇要求設計的內殼，艇員及所有裝備都裝在耐壓的內殼之中。內外殼之間的空間被充作壓載水櫃，並以此控制潛艇下潛和上浮。當該艇排除壓載水櫃中的水之後，即可像魚雷艇一樣具有良好的適航性，使得其水面航行的速度達每小時11海里，續航力為500海里;當壓載水櫃中注滿水之後，"納維爾"又將與早先潛艇一樣，它的水下短距離航速可達每小時8海里，即使在水下航行數小時，其水下航速也可達每小時5海里。
萊克從親戚那裡借來一筆錢，經過努力，於1893年建成了他的第一艘潛艇--"小亞古爾爸爸"號。"小亞古爾爸爸"號也許是潛艇史上自"海龜"艇以來最不像樣的潛艇。它看上去像一個特大的木櫃子，長4.2米，高1.5米。艇體以松木板內襯帆布墊建造而成。艇體上方有個小艙蓋，艇底安有三個木頭輪子(前面一個，後面兩個)。輪於是由手搖曲柄帶動行走的，"小亞古爾爸爸"艇與其他潛艇相比獨具匠心。它沒有用於注排水的羊皮口袋或水泵、水箱等，而是採用裝載足夠重的壓載物使之沉到海底，接著在海底用輪子滾動推進，如果要上升到海面，只要把壓載物拋掉，艇體即可上浮。
不過，萊克最初建造潛艇並非為了軍事目的，而完全是被迷人的海底生物所吸引。他從建造"小亞古爾爸爸"一開始，就想到能從潛艇中走出來，以便採集海底生物。所以他在潛艇中安裝了空氣壓縮設備，並設置了一個空氣閘艙。萊克使壓縮空氣設備所產生的空氣壓力與艇外海水壓力相等，這樣打開空氣閘艙的艙門，人們便可以穿著潛水服從艇中走出來，而海水卻不會湧進閘艙。人們將這種使海水不能湧進艇內而人能從艇的艙口自由進出的閘艙門叫做氣門或水門。在氣門的幫助下，萊克和他的夥伴，在迷人的紐約灣海底，採集了大量的海洋生物，度過了許多愉快的時光。
亞古爾號潛艇之後，萊克開始對"小亞古爾爸爸"號不斷地進行改裝，並於1897年完工。改裝後的潛艇命名為"亞古爾"號。該艇無論在水上或水下航行，都由一臺22千瓦(30馬力)的汽油發動機來推動前進。由於汽油發動機工作時需要空氣，所以萊克在艇上裝有可伸出水面的吸氣管和排煙管，同時取消了固體壓載物，而用壓載水箱來帶動潛艇的沉浮。為了改善潛艇的適航性，萊克又在吸氣管和排煙管外包上一層外殼，使"亞古爾"號外形類似於現代潛艇上層建築(即潛艇的指揮台)的第二層艇殼。經過改裝後的"亞古爾"號潛艇的上浮與下潛都是較為穩定的，並能在一個適當的深度上將內燃機水下工作時所用的通氣管伸出水面，從而延長了潛艇水下滯留時間。
1898年，"亞古爾"號潛艇僅靠自身的動力，從諾福克航行到了紐約，成了第一艘在公海遠航的潛艇。萊克的第二艘潛艇"保護者"號也於1901年下水。他很想將潛艇奉獻給自己祖國，用於對敵作戰。萊克潛艇的最大特點就是艇員可以在水下自由出入潛艇，因此完全可派人進行水下作戰、掃雷和佈雷。但美國海軍部卻拒絕了萊克的好意。萊克只好到國外去尋求他自己的位置，從而埋沒了一代潛艇發明家的才華。
19世紀的最後10年中，潛艇已成為至少是具有潛在威懾力量的武器了。但是由於當時的英國、美國等海軍大國對潛艇仍持懷疑態度，總認為潛艇只不過是弱小國家用於偷襲的武器，為此阻礙了潛艇的發展。但是，當1898年法國的"古斯塔夫·齊德"號潛艇用魚雷擊沉了英國戰列艦"馬琴他"之後，英國人終於醒悟了，強烈要求英國政府趕快行動，以抗衡法國人正以驚人速度建造潛艇的海上新威脅。同樣德國和俄國也在無意之中領悟到潛艇可能將成為一種實用性武器而投入到建造潛艇的熱浪中。在第一次世界大戰前幾年的時間裡，潛艇終於愈造愈大，愈造愈好，並且以前所未有的速度增加著。但是由於潛艇發展到此時，仍然開不快、行不遠，魚雷帶得又很少，更因為不能在水下長期潛航，所以，它所擔負的只能是保護本國海岸、在基地附近的巡邏的任務。
20世紀初，潛艇裝備逐步完善，性能逐漸提高，出現具備一定實戰能力的潛艇。這些潛艇採用雙層殼體，具有良好的適航性，排水量為數百噸，使用柴油機-電動機雙推進系統，水面航速約10~15節，水下航速6~8節，續航力有明顯提高;武器主要有火炮、水雷和魚雷。第一次世界大戰前，各主要海軍國家共擁有潛艇260餘艘，成為海軍重要作戰兵力之一。
閱讀更多 武器的小知識 的文章
