在原始社會末期，由於生產的發展，財富的增加，私有制的形成，父權父系制終於取代了母系制。所謂父權父系制，即丈夫在家庭中承擔起對子女的供養任務，財產按父系繼承，世系按父系計算。隨著人口的增殖，生產力的提高，家庭成員個體的生產能力也得到增強，於是父系氏族逐漸分裂為若干由男性後裔組成的父系大家庭，這就是歷史上所謂的父系家庭公社。
父系大家庭，實行家長制。這個家長實際上是氏族的族長。家長負責管理整個氏族公社的一切事務，組織領導生產活動，掌握財政大權，負責氏族家庭成員的生產和生活知識與技能的傳授，並通過對家庭成員進行傳統習俗的訓練來鞏固家長的統治。這種原始社會的氏族大家庭教育，只能算是我國古代家庭教育的萌芽狀態。
在我國原始氏族公社解體，進入階級社會後，經歷了一個相當長的宗族制階段，然後才逐步過渡到家族制。宗族在很大程度上仍然保持著氏族的遺風。《禮記·大傳》說：「同姓從宗，合族屬。」所謂「同姓」，就是父族的意思；所謂「從宗」，就是由同一男性始祖的族人共同構成一個生活共同體。在宗族制時期，個體家庭開始出現，但它們沒有從宗族系統中遊離出來，而是依附和隸屬於宗族。宗族作為血緣共同體，不但有共同的宗廟、宗邑、墓地，而且有共同的財產。宗族的首領是大家長，擁有統領和管理與教育該宗族成員的絕對權力，是全宗族父系父權的集中代表。宗族的嫡長子叫宗子，宗子繼承始祖的爵位。宗子之下的個體家庭的家長，依附於宗子，在漫長的歷史過程中逐步形成了一整套相當完備的宗法制度。
在宗族制時期，一宗族的成員總是聚族而居，有著共同的生活方式和共同的文化傳統。宗族的家教主要由宗子負責，教育內容包括生產、生活、軍事、祭祀等方面。其中祭祀共同的祖先，是宗族大家庭的主要教育內容。《禮記·祭統》說：「禮有五經，莫重於祭。」為什麼如此重視祭祀呢？因為尊祖祭祀活動，能強化同宗族成員之間的血緣倫理關係，以便形成同姓同德、同德同心、同心同志的社會群體心理和觀念，維護宗族制和共同保衛宗族的整體利益。在宗族家長制時期，儘管存在個體家庭，但這些個體家庭的家長對家庭成員的教育，是與整個宗族家長實施的教育一致的，如果說有什麼區別的話，只是個體家庭的教育把宗族家長的教育落實到每個個體家庭成員，使他們成為合格的宗族家庭的成員。
宗族制度在我國奴隸社會初期開始形成，經過夏、商兩代得到發展。相傳夏禹傳子啟，是宗法制統治階級王位繼承的宗法政治的開端。商代時，宗族制度已相當嚴密，宗族長統率若干分族，分族之下又有若干「類」、「丑」。所謂「類」是血緣宗族的分支，而「丑」則是包括眾族屬和在戰爭中俘虜過來的奴隸。在商代已經實行宗法，有大宗、小宗之分，因此這時的宗族家庭教育開始有比較明顯的等級區別。