從「伏羲始乘桴〔fu浮〕」(《物原》)和「伏羲氏刳〔ku枯〕木為舟」(《周易·繫辭》)等遠古傳說來看，最早的船隻——筏和獨木舟在原始社會末期已經問世。大自然各種常見現象的反覆出現，啟迪著我們祖先的思想。早期的人類以捕魚、打獵為生。捕魚需要下水，打獵也常常過河。我們的祖先發現，木頭和樹葉可以漂浮在水面上。於是，有人走進水中，抱著一塊大木頭試了試。結果，不但沒有沉下去，而且木頭還把人托出水面。這樣，人們就學會抱著木頭渡水了。但是，人的雙手抱著木頭怎能捕魚呢？後來，人們把砍下來的樹榦，用石斧和火，將一面削平、挖空，造成了第一隻獨木舟。我們的祖先在造出獨木舟的同時，還發現把幾根樹木捆紮在一起，也可以產生更大的浮力，載著人行駛在水面上。這樣，就有人製成了木筏。比起獨木舟來，木筏的使用面積大，製作起來更容易一些。有了木筏，人們往返河流的兩岸，在水中運行，再也不是什麼困難的事了。受到木筏的啟發，人們想到了自己身邊其他能夠做成筏的東西。只要能浮在水面上，並且能結紮在一起的東西，他們都要拿來試一試。於是，人們又製成了竹筏、草筏和羊皮筏等。特別是其中的竹筏，更受到人們的歡迎。竹子這種材料，質地堅韌，重量輕，中間空，浮力大，容易捆紮，並且不怕水長時間浸泡，用它製作成竹筏，又方便又耐用。把幾隻竹筏串成一排能運大量的東西。獨木舟和筏是遠古祖先最簡陋的也是最重要的渡水工具。有了這樣的渡水工具，我們的遠古祖先就能進行水上捕撈和遷徙航行了。
關於遠古祖先製作獨木舟和筏的故事，古書上曾有記載。其中大禹製作獨木舟的神話就非常有趣。傳說在遠古的堯、舜時期，古老的神州大地上洪水滔天，淹沒了大片土地，先民的生存受到極大的威脅。為此，禹的父親鯀〔gun滾〕接受帝堯的命令，治水九年，處處堵截，處處圍擋，很是辛苦，但是沒有成功。後來禹又接受舜的命令負責治水，他吸取了前人的經驗教訓，採取了以疏導為主，輔之以攔蓄的綜合治理方法。禹嚴格要求自己，「三過其門而不入」，處處以身作則。禹為了指揮治水工程，需要造一隻大型的獨木舟。他聽說四川有一棵特大的梓樹，直徑達一丈多寬，就帶著木匠去伐。樹神知道後化成一個童子阻止砍伐。禹非常生氣，嚴厲地譴責樹神，砍下大樹，並把它中間挖空，造了一條既寬大又靈巧的獨木舟。禹乘坐這艘獨木舟指揮治水工程，經過13年的努力，終於治服了洪水。
當然，傳說和神話不等於現實，但是它卻在一定程度上反映了某些事實，就是在原始社會末期已經發明了船。今天，不少考古新發現也在不斷證實著以上的事實。在浙江餘姚河姆渡新石器時代遺址的考古發掘中，有木槳出土，說明至遲在大約7000年前就已經有獨木舟。在距今5000年左右的浙江杭州水田畈和吳興錢山漾的新石器時代的遺址中，也都有木槳出土，說明當時獨木舟已成為浙江地區的水上重要交通工具。目前，在我國歷史博物館中，珍藏著一條古老的獨木舟，身長11米，寬0.9米，據測定製成於6000年前。它是1958年江蘇武進縣民工挖河發掘出來的。在我國各地考古發掘中，先後出土的獨木舟已達20多隻。從這些古代遺物中可以看出當時的獨木舟的形體，大致有三種：一種是頭尾方形，沒有起翹，接近平底；一種是頭尖尾方，舟頭起翹，尾部平底；一種是尖頭尖尾，都有起翹。後來的船型有方頭方尾、尖頭尖尾和尖頭方尾之分，船底有平底和尖底之分，可能即是從它們演化而來的。
隨著人類文明的不斷進步，人們在努力尋求著變革水上交通工具的辦法。我們的祖先在實踐過程中對獨木舟和筏不斷加以改進，開始在獨木舟的四周加上木板以增大容量，原來的獨木舟就變成船底了。在長期的演變過程中，圓底獨木舟逐步變成了船底的中間部分，通連首尾的主要縱向的木材就變成「龍骨」了。這樣就變成尖底或圓底的木板船，而原來平底的獨木舟也就逐漸演變成平底木板船底中心線上的一塊板了。在這過程中，人們對筏也進行了改造，在筏的四周安上木板，逐步演變成另一種木板船。這時事物起了質變，完全不同於獨木舟和筏的新船——木板船就出現了。據考證，木板船的發明可能是很久遠的事情了，至少不能晚於夏朝。從考古學家在河南偃師二里頭遺址中發現的夏朝的鑄銅和冶煉作坊，以及銅錛、鑿等金屬工具來看，夏代的生產力有了飛躍發展，再加上當時已有了規、矩、準繩等木工生產工具，建造木板船的各種條件已經充分具備。到了商朝，生產力又有了提高，人們開始較普遍的使用金屬工具建造木板船，並進行較大規模的商業活動了。應該說，由獨木舟和筏發展到木板船，這是造船史上的飛躍。它開闢了航海及河運史上的新時期。
船舶的發展有一個漫長的歷史過程。最早出現的木板船叫舢板，原名「三板」。顧名思義，可以推測它最初是用三塊木板構成的，就是一塊底板和兩塊舷板組合而成。幾千年來，人們在實用中不斷對三板船加以改進，逐步使它完善，並且不斷有所創新，導致了千姿百態、性能優良的各種船舶的產生。除了舢板這種單體木板船外，當時人們還受木筏製造原理的啟發，造出了舫(〔fang訪〕，《說文》：「舫，並舟也。」)，把兩艘以上的船體並列連接起來，增加了船的寬度，提高了船的穩定性和裝載量。「舫」也稱「方」、「枋」、「方舟」、「方船」、「枋船」，有時也寫作「航」。它的製作方法，起初是用繩索把兩隻船捆在一起。後來，又演進用木板或木樑放置在兩隻船上，用木釘、竹釘或鐵釘釘在一起，兩船之間也保留一定間隔，而不一定要船舷跟船舷緊靠在一起了。除了由兩隻船體構成的舫外，在歷史上還出現過由多隻船體構成的船隻。這種船行駛平穩，上面可以建造廬舍，成為統治階級出遊時候的專用船。周代對乘船有嚴格的等級規定：天子乘坐「造舟」，諸侯乘坐「維舟」，高級官員乘坐「方舟」，一般官吏乘坐「特舟」，普通百姓只能乘用「桴」。「造舟」由多隻船體構成，「維舟」由四條船構成，「方舟」由兩條船並成，「特舟」是單體船，「桴」就是木筏和竹筏。
木板船航行時遇到的一個突出問題，就是它的抗風能力較差。只有當抗風浪能力較強並能藉助大自然風力進行遠距離航行的木帆船出現後，人類的航海活動才能更為主動。關於帆的發明，傳說是大禹受到一種叫鱟〔hou後〕魚的啟發。鱟魚的形狀很奇特，身體扁而寬，眼睛長在背上，嘴長在肚腹之下，而背上生有高七八尺的鰭〔qi齊〕。每當有風吹來的時候，它的鰭就收攏起來了。不論自然界是否有這種鱟魚，但是帆的發明，很有可能是人們受到自然界某種東西的啟發。
春秋戰國時期，我國南方已有專設的造船工場——船宮。諸侯國之間經常使用船隻往來，並有了戰船的記載。戰船是從民用船隻發展起來的，但是戰船既要配備進攻手段，又要防禦敵方進攻，因此它在結構和性能上的要求都比民用船隻高。可以說，戰船代表著各個時期最高的造船能力和技術水平，也從一個側面反映了當時的經濟力量和生產技術水平。吳國水軍的戰船是當時最有名的，它包括「艅艎〔yuhuang余皇〕」、「三翼」、「突冒」、「樓船」、「橋舡〔船〕」等多種艦艇。艅艎又寫作「余皇」，是王侯乘坐的大型戰船，戰時作為指揮旗艦。據古書記載，艅艎船首繪有鷁〔yi益〕鳥的圖案，有優良的航行性能。水軍的主要戰艦是三翼，即大翼、中翼和小翼。其中大翼長10丈，闊1.5丈，可以載士卒90多人，有較高的航行速度。吳國就是憑藉這些戰船先後在漢水和太湖大敗楚、越兩國的。後來勾踐卧薪嘗膽，越國滅吳時的戰船已經發展到300艘之多。