晉國分裂最主要的原因，是晉國公族（國君的宗族）的勢力在晉獻公時大大削弱了。為什麼晉獻公時晉國公族勢力會急劇衰減呢？這是因為晉獻公大規模地屠殺了晉國公族。晉獻公為什麼要大規模地屠殺晉國的公族呢？
原來，晉獻公的曾祖父曲沃桓叔是晉穆侯的幼子，晉穆侯的長子是法定的晉國國君繼承人。按照周代宗法制的規定，太子是國君的嫡長子一支，稱為大宗，國君的其他兒子稱為小宗。大宗是家族的當家人。
晉穆侯死後，太子繼位，史稱晉文侯。晉穆侯的小兒子被封到曲沃（今山西曲沃），稱為曲沃桓叔。曲沃土地肥沃，非常有利於農業的發展，曲沃桓叔又特別注意收買民心（桓叔是時年五十八矣，好德，晉國之眾皆附焉。《史記·晉世家》），因此其力量迅速發展壯大，當時就有人說：「末大於本而得民心，不亂何待！」整體實力的迅速提升讓曲沃桓叔開始窺伺晉國國君的位置。經過曲沃桓叔、曲沃庄伯、曲沃武公祖孫三代的奪權，曲沃武公最終殺死了大宗的晉侯緡，奪得了晉國國君的位置。
曲沃桓叔這支小宗的奪權之路並不順利，前後經歷了三代近七十年的努力才得以成功。此間，周天子兩次插手，派兵干預，不許曲沃桓叔一支篡權。晉國國內的宗法勢力也不允許曲沃桓叔一支進入都城。但是，曲沃桓叔這一支終因實力強大而奪權成功。
經歷過多次失敗之後，曲沃武公汲取了周天子兩次出兵干預的教訓，一方面殺死晉侯緡，一方面派人送給周釐（xǐ，喜）王大量的「寶器」，公開對天子行賄。這一招還真靈，有錢能使鬼推磨。周釐王這次一反常態，不但不派兵征討曲沃武公，反而封武公為晉國國君，使小宗的曲沃武公代替了大宗的晉侯緡成為得到中央政府認可的晉國國君。
其實，周天子承認曲沃武公為晉國國君亦是無奈之舉，並不僅僅是行賄的結果。因為此時的周天子早就失去了號令天下的能力，不管他承認不承認，曲沃武公都已憑藉實力掌控了晉國，而他的承認只能表明東周的宗法制社會正處於走向全面崩潰的窘境。
但是，周天子的這種做法等於把天子、諸侯、卿大夫的秩序規則整個給廢掉了。如果上帝死了，任何作為都可以被允許。如果維持秩序的權威失靈了，整個天下就會陷入一場大亂。周天子承認曲沃武公可以繼承晉國君位，就突破了整個天下政治倫理秩序的底線。今後沒有什麼事情不可以做了，只要有實力。規則是人定的，實力才是硬道理。
曲沃武公死後，他的兒子晉獻公繼位。
晉獻公的曾祖父曲沃桓叔是晉文侯的弟弟，這一支屬於晉國公族的小宗，本沒有資格繼承國君寶座，而現在這支小宗奪得了整個晉國。晉文侯的嫡系子孫有一大批人，他們都是公子，在宗室和大臣中勢力很大，所以晉獻公非常害怕晉文侯後世諸公子反奪權。晉獻公八年（前669），他的大臣就勸他誅殺群公子以保住君位（士說公曰：「故晉之群公子多，不誅，亂且起。」乃使盡殺諸公子。《史記·晉世家》）。
晉獻公為了保住自己的君位，大開殺戒，晉國的公族遭到了一場毀滅性的大屠殺，從此，晉無公族。晉無公族究竟意味著什麼呢？這對異姓貴族來說可是一件大好事，因為公族是最顯赫的貴族，他們總是霸佔著最有權勢跟油水最豐厚的官職，他們的存在對異姓貴族的升遷跟勢力壯大是一個很大的限制。晉無公族，這些異姓貴族便有了發展的空間和機遇。