梁思成受到他父親梁啟超的巨大影響。他父親的顯赫、其思想和對他的關懷塑造了梁思成。兒子對父親的孝順仍然是每一個中國孩子的基本美德，但是對思成來說其原由卻非同一般。他的父親是1898年維新運動的領袖，當時，日本在1895年出人意料地打敗中國，而1898年初帝國主義列強奪取勢力範圍，使中國面臨被瓜分的危險。這年夏天，梁啟超和他的老師康有為在一起，支持年輕的皇帝試圖通過激進的改革來拯救中國。維新由於保守派的政變而失敗後，他流亡到了日本。當時他還是一個二十五歲的廣東青年，一個早熟的學者和活動家，卻以其風行一時的著作正在成為同輩中出類拔蘋的精神領袖。
當時只有熟悉儒家經典的學者才配擔當使中國思想界現代化的重任，這種變革只能從儒家內部開始。這就使梁啟超具有了改革家的資格。他在日本出版了一系列的中文刊物，向具有革命思想的一代中國儒家學者介紹西方的學說。
他不到二十歲就同一位貴州女子李蕙仙結了婚，她比他大四歲。他們的婚姻是由她的長兄安排的。他是一位考官，對年輕的梁啟超在一次舉人考試中表現出來的才華十分激賞。除了她是她的階級中一位普通女子以外，她的其他情況鮮為人知。她的腳當然是纏過的，她的思想也同樣受到束縛。儘管同一位以探索和開拓更廣闊的世界為己任的丈夫生活在一起，她還是滿足於恪守自己的傳統。1893年她在廣東生了他們的第一個孩子——女兒思順。五年之後她帶著孩子到日本，和流亡中的丈夫團聚。
在梁啟超那些動蕩的歲月之後，在日本的生活是相對安定的。女兒是掌上明珠，但對一位男性繼承人的迫切需要也是明擺著的。妻子很快又懷孕了，生下一個盼望中的男孩。但他生下來不久就死了。她當時已經三十多歲，只給這個家添過一個六歲的女孩。她的基本職責是很清楚的。於是她急於給梁啟超尋找一個能夠幫助傳宗接代的第二個妻子。那個年輕姑娘有十六七歲，既健康又活潑，只是不識字，一雙大腳也沒纏過。她是一個丫頭，小小年紀就買來，在家裡作為僕人養大。這個女人是做妻子的煞費苦心挑選的，她應該既能生養健康的孩子，又明白她在梁家低賤的地位及侍候人的職責。
然而最後還是李蕙仙生了一個男孩作繼承人。思成於1901年4月20日在東京出生。他活了下來並擔當起作為長子的責任，這種責任他在今後的困難歲月中一直承擔著。三年以後那第二夫人又生了一個男孩思永。男孩子們在孩提時代一同玩耍，進入青年時成為好朋友，成人以後他們都是馳名的學者。
那妻子生了第二個女兒思庄以後就不再生了。那第二夫人卻一直懷孩子，直到1929年梁啟超去世，緊接著他的第九個兒子在出生時夭折。在多年特別多產和有影響的寫作以後，父親的生命在五十六歲時過早地結束了。他一共有過十四個孩子，他們長大以後都成為有用的公民，其中有些還作出了出色的貢獻。
那第二夫人比妻子又多活了許多年。她畢生在梁家是一個在病中和健康時照拂每個人的主心骨，而作為回報，她也受到每個孩子的尊敬和愛戴。她來到這個學者家庭的時候還是文盲，乾脆就等她的第一個孩子出生才和他一起上學。她學會了讀書並且讀得富有表情。她不僅精通看護和管理家務，而且學會了游泳、滑旱冰、滾鐵環、編織、鉤花邊，會打橋牌、麻將，還學會了針灸。
對梁啟超來說，1898年到1912年流亡日本的年月充滿了各種活動。他繼續寫作、編輯和發表他的政治見解；他學習日本語並閱讀西方書籍的日文譯本。他廣泛地旅行，到夏威夷、新加坡、澳大利亞、加拿大和美國去會見華僑。思成對這些年的回憶是在一個安靜的家庭環境中的日常生活，和兄弟姐妹、堂兄弟姐妹們一起玩耍，由日本僕人照看，但進華僑學校。1964年他寫給一家日本出版物的一篇文章的片段用他自己的話來描述當時的情景：
我從橫濱時開始記事。我父親那時在編一本知識分子刊物新民叢報，我們就住在印刷所的二樓。我每天到華僑辦的大同學校附屬幼兒園去，教
師全是日本女人，她們都十分慈祥和溫柔，就像媽媽和姐姐一樣。
日本地震很多。每次發生地震的時候，那日本阿姨就抱我下樓，因為我媽媽是纏過腳的，下摟不太方便。
我大約六歲的時候，我們搬到了須磨。我們在那裡住在一座華僑所有的別墅里，它有一座大花園，連著一片直通海濱的松林。我父親把這地方
叫做「雙濤園」，因為我們在這裡既能聽到波濤聲，又能聽到松林中的風聲。
我同我的堂兄弟姐妹們從家裡徒步走到通往神戶的鐵路車站，去神戶同文學校上學。鐵路售票員對我們很好，即使我們只有一天沒去上學，他
們也會擔心，第二天一定要問問發生了什麼事。
暑假的時候全家都到海濱去游泳。一位退休的海軍軍官教孩子們潛泳。有一年夏天，父親的老師康有為來看他們了。孩子們不喜歡他的來到，因為他老是大聲而激烈地同他們的爸爸辯論。他們在海濱進行報復，潛泳到他身邊偷偷揪他的鬍子（注1.）。
1911年革命勝利推翻了清政權，也使梁啟超不再需要流亡。他在1912年帶著全家回到中國。
他們在天津的家是河邊義大利租界里一所西式的房子。它是由石頭和灰磚砌成，兩層的樓房有許多屋子，住得下日益膨脹的梁家以及許多親戚和客人。後邊還有附屬房屋，是廚房、倉庫、病房，以及伺候梁家和維修房子所需的眾多僕人的住房。
梁家從日本回來以後，又有了第二座，甚至更大的房子。由義大利建築師設計，用白色石頭砌成，這所房子有三層樓。上面兩層是給學者做藏書室用的，下層則是起居室、大廳、餐室，以及其它接待客人的地方，當然，更重要的是他的書房。根據中國學者的傳統，梁老先生給他自己取了一個奧秘的名字或者「雅號」，來標明他的著作。他取的是「飲冰老人」，而在他的新書房門上掛上一塊牌匾，叫「飲冰室」。這個「飲冰」的標籤顯然是出自中國古代哲學家莊子的典故：
葉公子高將使於齊，問於仲尼……。子……曰：「凡事若小若大，寡不道以歡成。事若不成，則必有人道之患；事若成，則必有陰陽之患。若
成若不成而後無患者，唯有德者能之。」……今吾朝受命而夕飲冰，我其內熱與！吾未至乎事之情，而既有陰陽之患矣；事若不成，必有人道之患。
是兩也，為人臣者不足以任之……（注2）
梁啟超在面臨現代社會的許多難題的時候，顯然是認識到古代賢人子高的憂慮及其飲冰解決辦法的，而他在國學研究方面很可以和古代的子高媲美。
在他們的天津家中，有一種思成很喜愛的家庭習俗。當父親在家的時候，全家每晚六點半都要坐在一張大圓桌的周圍。「當孩子們在大約二十分鐘內匆匆吃完晚飯時，父母親則啜飲著老酒。飲酒是慢吞吞的。大約總有一個小時，父親會談論他正在寫作的題目：詩人或其他人的傳記、歷史、政治哲學、古典文學、儒家學者、以及其他學派的學者。這時候他重又集中注意國學的研究。他早年頗為關注的外國問題，現在很少談論了。」
幾年以後，有一次，在中學念書的第四個兒子思忠問了一個不大得體的問題：「為什麼一個著名的中國愛國者要在一個通商口岸的外國租界里安家並造起書房和圖書室？」父親回答說：「別把私人的事情同國際事務攪在一起。除了我的家庭以外，我眼前主要關心的就是我的圖書室。我需要我的書，我必須使它們保持能用的狀態。比起放在可能被某些憤怒的學生不明智地放火燒掉的易燃的宮殿來，放在附近港口城市的外國租界里可能更安全些。而要使用這些書，我必須有時住在它們的旁邊。」
儘管他的學術和政治活動吸引了他的很多注意力，梁啟超還是非常認真地履行了他父親的職責。在他對待孩子們的行為中，愛的情感起著重要的作用，但他同時又遵守儒家的傳統，認為兒子（當然女兒也一樣）必須特別孝順父親。梁老先生對他的智慧高超滿懷信心，他關心的是把他的子嗣導上正確的思想和行為的軌道，給予他們恰當的教育以適應他為他們想好的職業，並使他們有一個好的婚姻。
在他的書信和其他個人作品（由他的朋友丁文江在他死後彙集成冊，即1958年在台北出版的《梁啟超年譜》）中，他說得很明白，儘管他愛著全家，但他最鍾愛的還是他頭生的女兒和長子——思順大姐和思成。
當梁家從日本回到中國時大姐已經十八歲，早就該籌辦她的婚事了。
梁啟超為她選擇的丈夫是一個叫做周國賢的從東南亞回來的年輕華僑。他既會中文又會英文，他十九歲時就受到康有為的注意並被他用為秘書。後來他在歐洲讀書。在他回國時梁啟超把他從康有為那裡要過來，任為翻譯兼秘書，並安排了