梁思永於1930年夏季在哈佛大學獲碩士學位後歸國，此時梁啟超去世一年余，清華研究院也已解體一年，梁思永舉目四望，物是人非，恍如隔世，其傷感悲痛之情無以言表。正在北平的李濟感念梁氏家族與自己的交誼，主動把梁思永介紹給傅斯年。從此，梁思永正式加入了中央研究院歷史語言研究所考古組行列，開始了後半生的考古學術歷程。
梁思永入所不久，著名地質學家丁文江從來華考察的法國傳教士、古生物學家德日進神父處得到線索，說中國東北中東鐵路一線，有人發現黑龍江昂昂溪附近有個新石器時代遺址。這個線索傳到蔡元培與傅斯年耳中，蔡、傅二人立即意識到該遺址在歷史和現實政治中的重要意義，遂產生了派人前往調查的願望。當時傅斯年正醞釀組織力量撰寫《東北史綱》，其理由正如傅氏所言：「中國之有東北問題數十年矣。歐戰以前，日俄角逐，而我為魚肉。俄國革命以後，在北京成立《中俄協定》，俄事變一面目，而日人之侵暴愈張……日本人近以『滿蒙在歷史上非支那領土』一種妄說鼓吹當世。此等『指鹿為馬』之言，本不值一辯，然日人竟以此為其向東北侵略之一理由，則亦不得不辯。」
正在這個節骨眼上，見梁思永學成歸國，蔡元培與傅斯年站在國家、民族立場上，立即決定搶在日本人全面發動侵華戰爭之前，派梁氏前去實地調查、發掘，以地下出土歷史實物來書寫歷史，藉此塞住日本人邪妄的嘴巴，消解其為進攻佔領中國而瘋狂叫囂的「滿蒙非支那領土」的謊言。
這年9月19日，梁思永打點行裝離平向東北進發，頂著正在黑龍江地區流行的鼠疫，冒著時斷時續的戰火，於28日與助手從容來到偏僻荒涼的昂昂溪五福遺址開始調查、發掘。此時該地天氣已特別寒冷，梁思永到達昂昂溪，巡視第一、二、三、四沙岡，很快發現了古代遺址並與助手攜帶發掘工具進行田野考古發掘。因地勢偏僻，每次往返於鄉村駐地與遺址之間，都必須脫掉鞋襪，褲腳卷到大腿根部，光腳趟著冰涼的積水而過。繼9月30日在第三沙岡發掘一座墓葬後，又在各沙岡開探坑，尋找遺址和墓葬線索，相繼在五福遺址水淀里親自發掘了四處沙岡與一座墓穴，發現了300多件石、骨、陶器。10月3日，因突降大雪，天寒地凍無法開工，發掘工作只好暫停。
梁思永將發掘器物作了初步研究，交與當地政府部分保存，取道熱河回北平，以便沿途考察其他地方的史前遺址。10月21日，梁氏由通遼出發，經過開魯、天山、林東、林西、經棚、赤峰、圍場，抵達熱河，歷時38天，跋涉上千里。其中在天山發現查不幹廟遺址，在林西發現林西、雙井與陳家營子等遺址。在赤峰城東北發現赤峰遺址。梁思永於塞外5處新石器時代遺址採集了大量陶片、石器等文物標本，以一個考古學家的眼光，對沿途地理環境作了考察，於11月27日回到北平。
經過對熱河與東北三省發掘材料對比研究，梁思永根據共同出土打制石器及印文陶（至少在熱河）的特點，把西遼河以北之熱河，同松花江以北之東三省劃為一區；遼河流域（廣義的）為一區（其特點是盛出磨製石器），進行了條理清晰的文化區系劃分。隨著對黑、熱二地史前文化材料鑒別、比較和認識，初步得出了「昂昂溪的新石器文化不過是蒙古熱河的新石器文化的東支而已」的結論。
一年之後，即1932年10月，梁思永在《歷史語言研究所集刊》第四本第一分冊，發表了長達44頁近7萬字，外加插圖、寫生達36版的大型考古發掘報告《昂昂溪史前遺址》。從此，松嫩平原嫩江中下游沿岸廣泛分布的以細小壓琢石器為主的原始文化類型，被稱作「昂昂溪文化」，並在中國和世界古代史上佔有重要地位。梁思永此次科學考古發掘和研究報告的問世，為嫩江流域古代文化的研究奠定了理論基礎和科學依據。特別在石器研究中，對在熱河特別是查不幹廟和林西、赤峰等一帶採集到的細石器（當時稱為幺石器）、石核制器、陶片等概念和分類標準，進行了創新性的時代劃分，為後來的研究樹立了科學典範。與此同時，由傅斯年撰寫的《東北史綱》第一卷於1932年11月在北平出版，以大量的事實所列四項理由否定了日本人妄倡邪說者的鬼話。而《史綱》的第一條就是「近年來考古學者人類學者在中國北部及東北之努力，已證明史前時代中國北部與中國東北在人種上及文化上是一事。」從而擴展為「人種的，歷史的，地理的，皆足說明東北在遠古即是中國之一體。」由此事實依據，駁斥了日本人「滿蒙在歷史上非中國領土」理論，並利用「民族學、語言學的眼光和舊籍的史地知識，來證明東北原本是我們中國的郡縣；我們的文化種族和這一塊地方有著不可分離的關係。」發出了「東北在歷史上永遠與日本找不出關係也。史學家如不能名白以黑，指鹿為馬，則亦不能謂東北在歷史上不是中國矣」的大海潮聲。傅斯年這個聲音與梁思永的發掘報告相為呼應，給日本「指鹿為馬」者當頭一棒，為國人大出了一口志氣，日本小鬼不得不在事實面前縮頭貓腦，改轍易張，另外編造侵吞中國的謊言了。
李濟主持的殷墟第四次發掘工作開始後，在北平休整的梁思永接到指令，告別新婚剛剛三個月的愛妻李福曼，意氣風發地來到了安陽。
此前，殷墟附近有許多滿布陶片的遺址，只因不出甲骨文而不被重視，當李濟主持第四次發掘時，感到有發掘附近這些遺址的必要。於是決定在殷墟遺址的東南部，靠近平漢路一個明顯鼓出地面、名叫後崗的地方進行發掘，並把該區劃為第五區，發掘工作由剛剛加盟而來的梁思永獨立主持。
由於梁思永是當時中國學術界唯一一位真正受過考古學訓練的獨特「海龜」，在田野考古發掘中，無論是思維方式還是技術技能，都比其它「海龜」和「土包子」學者更勝一籌，即是李濟亦不能與之匹敵。
在發掘中，梁思永帶領吳金鼎、劉燿、尹煥章等幾名年輕學者，採用了西方最先進的科學考古方法，依照後崗遺址不同文化堆積的不同土質、土色、包含物來劃分文化層，成功地區別出不同時代的古文化堆積，以超凡卓絕的曠代才識，發現彩陶——黑陶——殷墟文化三者之間以一定的順序疊壓著。這一奇特的現象引起了梁思永高度警覺，他以科學的思維方式和獨特的學術眼光意識到：既然彩陶文化代表著安特生所發現的仰韶文化，那麼黑陶文化是否代表著城子崖的龍山文化？如果假設成立，則意味著龍山文化不僅局限於城子崖一地，所涉及範圍應更為廣闊，並代表著一種普遍的史前文化。這一極富科學眼光的洞見，無疑找到了解開中國史前文化之謎的一把鑰匙。面對史語所同仁「天天夢想而實在意想不到的發現」，李濟等考古學者感到城子崖遺址是獲取這把鑰匙的關鍵所在，實有再度發掘、以詳察內容及充實材料的必要。於是，傅斯年決定暫緩編印殷墟發掘報告，派梁思永率一部分考古人員赴城子崖遺址再度展開發掘，以驗證此地黑陶與安陽殷墟所出黑陶是否為同一種文化。
1931年秋，梁思永率領吳金鼎、王湘等人由安陽轉赴山東城子崖，開始繼李濟之後第二次發掘。發掘的結果再次證明，殷墟與城子崖兩地的黑陶文化基本相同，這一文化範式，證明了梁思永此前天才式推斷的正確。——正是由於這次意義非凡的發掘，以鮮明亮麗的事實證據，糾正了瑞典學者安特生將仰韶與龍山兩種文化混在一起，並輕率地得出「粗陶器要比著色陶器早」的錯誤結論，進而推動了殷墟發掘中「地層學」這一先進考古技術方法的運用，使當時與後世學者認識到必須將殷墟文化與其他文化進行比較分析的重要原則，從而為中國考古學發展的科學化和規範化樹起了一座里程碑式的坐標。
城子崖發掘結束後，梁思永又率隊返回安陽。在以後的幾次發掘中，於殷墟西部的同樂寨發現了純粹的黑陶文化遺址。這個發現使梁思永堅信在後崗關於仰韶文化——龍山文化——商（小屯）文化三疊層按存在先後時間劃分的科學依據。這一偉大發現，「證明殷商文化就建築在城子崖式的黑陶文化之上」。梁思永對後崗三疊層的劃分，成功地構築了中國古文明發展史的基本框架，使中國考古學與古史研究產生了劃時代的飛躍。自此，乾涸的歷史長河沿著時間的脈絡重新開始流淌，梁思永也由於這劃時代的發現一舉成名，奠定了中國考古學史一代大師的地位——這一光輝成就，正應了其父梁啟超當年的願望。只是命運多蹇的梁任公早已身赴黃泉，無法與之舉杯同慶了。1932年春，在李濟主持的第六次殷墟發掘中，發現了殷墟宮殿基址，這一發現無疑較單純地發現甲骨更具有科學考古價值和意義。從1932年秋到1934年春，由董作賓、郭寶鈞、李光宇、劉燿、石璋如為主力隊員的考古學者，在殷墟進行了第七、八、九次連續性發掘，並把目光由小屯轉移到後崗和洹河北岸的侯家莊南地、南台等處，發現了夢寐以求的王陵區，而商代王陵之所在，此前從未見諸史籍記載。