解思忠1946年4月23日生於山西運城，一歲時父死財空，全家在西安依靠母親做工艱難度日；解放後，政府曾救濟給麵粉、布匹，有兩個姐姐還被社會福利機構收養。由於在城市生活難以為繼，母親便於1950年底拖兒帶女回到闊別10多年的原籍山西萬榮，先投奔娘家，後來才回到老家北牛池村。老家只有一位繼祖母，已多年沒有聯繫，「土改」中又被劃為「地主」，此時就更是難以求助，全家只好依靠母親務農繼續艱難度日。
解思忠6歲上學，因家窮買不起課本，便借用上一年級學生使用過的舊課本。當時學校要求每個學生準備兩支毛筆，一支粗點的寫大楷，一支細點的寫小楷；而他只有一支姐姐用過的大楷筆，寫小楷時便用大楷筆的筆尖小心翼翼地去寫。由於害怕老師會歸咎於沒有按要求準備毛筆，他的毛筆字寫得格外認真；每張都有許多大楷字被老師用紅筆在旁邊「畫圓圈」，小楷字則有許多被老師用紅筆在旁邊「點瓜子」，即點上形如瓜子的頓點，都是表示寫得好。
12歲那年，解思忠到10多里遠的縣城去上中學，從此便離家獨立生活。當時家中依然困難，為了省錢，他長期自帶乾糧，入學校的「水灶」——每月交兩元錢，只喝食堂的開水；一天三頓飯幾乎都是開水泡饅頭，再放些鹽，連鹹菜也不買。冬天，饅頭冰凍後用手掰不開，就在門邊磚牆的稜角上用力去砸，邊砸邊把散落在地上的小碎塊揀起來放進盛著開水的碗里——後來水就變涼了。到夏天，饅頭很快會長出綠毛，他用手擦一擦便吃了下去；有時甚至會霉變成白色的鬆散物，也只好就那樣吃下去。
從上初中開始，解思忠便開始利用假期和課餘勤工儉學；有時到建築工地上當小工，有時採集洋槐樹籽去賣。初中畢業剛參加完升學考試，他就和一個小夥伴進山割草，餓了啃乾糧，渴了就用手掬著喝窪地上積存的雨水；傍晚，兩人用獨輪車把割的草運出山，晚上就在附近一個同學家的土炕上和衣而睡。一個假期下來，割草賣了30多元錢，解決了上高中後的學習費用。
回顧童年的艱苦生活，解思忠在《素質與命運》一書中曾這樣寫道：「我深深感到，貧困是人生寶貴的精神資源，從中可以學習到許多書本里學習不到的東西——從某種意義上說，是兒童成長不可缺少的精神鈣質。正是由於童年的磨難，使得我此後無論是在何種艱苦的環境之中，都沒有因物質生活貧困而退卻過。」
解思忠從小學習成績優秀，小學畢業後本來可以保送上中學，卻由於當時家人對有關政策規定不了解，而想當然地按繼祖母的成分將家庭出身填報為「地主」（一直到1984年在建設部工作期間入黨時，組織上才明確可暫填寫為「未劃」），故與保送無緣。從此，他便背上了沉重的思想包袱。值得慶幸的是，由於從小受母親的教誨，後來又受一位中學老師的影響，他一直保持著強烈的進取心。
上初中時，解思忠曾把白居易一首詠凌霄詩不僅背了下來，還用毛筆題寫在家中的牆壁上。這首詩的大意是：凌霄這種植物，本身不能自立，往往攀援於其它植物而「凌霄」，但當遇到大風時，卻往往避免不了「朝為拂雲花，暮為委地樵」的可悲命運。他之所以如此喜歡這首詩，就是有感於自己「低人一等」，又沒有可以攀附的社會關係，只有依靠自強、自立。
解思忠上學的那個年代，還沒有現在的九年制義務教育，從小學四年級初小畢業升高小就開始淘汰了，高小畢業後升初中又是一次淘汰；而最嚴酷的一次淘汰是1961年初中畢業升高中——由於國家正值困難時期，壓縮招生比例，當地的錄取率僅為百分之十幾。這樣層層淘汰的結果，使得小學畢業時一個班的同學中，最後只有他一人上了大學。
升入高中後，面對更為激烈的競爭，解思忠學習也更為刻苦。他的俄語成績在幾門功課中較為落後，為了趕上去，平時幾乎一直把俄語課本卷著塞在褲口袋裡，只要有片刻空閑，就拿出來看看；書頁被翻得又軟又薄，毛茸茸的，幾乎要粘在一起，只好把蠟燭熔化後滴在側面鑲一道硬邊，才能勉強揭開；第一冊書學完後，便如同一摞布片，從任何一個角度都能毫不費力地捲起來。高二第一學期期中考試，他的俄語成績以100分在全班獨佔鰲頭。此後，他一直把這個分數保持到畢業；每次考試交卷後，老師當堂看過就張貼在教室後面，作為標準答案。
1964年高中畢業後，解思忠儘管由報考文科改為報考理工科，卻還是考取了第一志願——同濟大學，走出了哺育他長大成人、又給他留下太多難忘記憶的黃土高原，遠赴東海之濱的上海，開始了他的大學生活。
解思忠在大學學的是城市建設工程專業。通過前兩年的基礎課學習，完成了理工科的基本訓練，具備了一定的科學素養；尤其是高等數學這門課，使他獲益非淺。在兩個學年的學習中，他的高等數學成績一直保持著5分；參加工作後時過多年，還把《高等數學習題集》有選擇地做了一遍。他在《素質與命運》一書中曾這樣寫道：
數學以其嚴密的推理和高度的準確，培養了我的邏輯思維能力和窮追深究的思維習慣，使我每每為紛亂如麻的世事所困擾時，最終都能理出個頭緒來。數學是一種訓練思維的體操，是一門人生的智慧之學。我從數學的受益不僅在於人生，而且還在於文學。在許多人眼裡，文學與數學幾乎是絕緣甚至相悖的——文學寓思維於形象，數學寓思維於抽象。我的體驗卻不完全是這樣。大多數的文學作品誠然以狀物寫神為主，但高超的立意、透骨的剖析、合理的布局和準確的描繪，莫不需要一定的抽象思維能力。
1966年夏天，解思忠即將升入大學三年級的時候，「文化大革命」爆發了。他的家庭出身問題當時雖已向有關方面提出，卻尚未做出結論；所以，仍然被視為「黑五類子女」，拒之於「紅衛兵」組織的大門之外。由於壓抑、苦悶，他盡量遠離學校和人群以逃避運動，當了一名「逍遙派」。當時，所能採取的最好辦法就是借「大串聯」外出；所以，可以免費乘車時，他獨自一人云游四方；後來停止免費乘車，他又與一位同學背起行囊，結伴而行，從上海出發，途經嘉興、杭州、紹興、諸暨等地，徒步走過了浙江、江西兩省，一直到停止「大串聯」。
在外出「大串聯」期間，解思忠雖然日行百里，卻興緻勃勃，並觸景生情，寫了許多詩詞。例如：他1966年11月在大連海濱寫了一首《觀海》：「波平萬頃碧，濤生千堆雪；吾欲投其里，欣然化魚鱉」；1966年12月在黃河茅津渡口寫了一首《望黃河》：「黃水渾然去，勾我野人情：岸邊結草廬，披髮卧夕陽」。
結束「大串聯」返校後，解思忠在一位從事美術工作的朋友指導下，從臨摹《芥子園畫傳》入手，潛心學習國畫，主攻寫意花鳥與山水；在此期間，還欣賞了許多繪畫、書法作品，閱讀了一些藝術方面的圖書。後來，由於「戰備」要求，他不得不中斷學習，和其他同學一起被「疏散」到上海市郊的農村。儘管此後他再也沒有練習過國畫，卻一直保持著對中國書畫的濃厚興趣。
1970年夏天，按照「面向農村，面向廠礦，面向邊境，面向基層」的分配方針，最後兩屆大學畢業生絕大多數被分配到邊遠地區的基層單位。解思忠被分配到地處寶雞市的陝西省第七建築公司，在施工隊「接受工人階級再教育」，與從農村招來的農民工一起做小工，幹些挖土、搬磚、拌灰漿之類的力氣活。
1971年秋天，工地由於暫時沒有技術人員，把一座45米高的煙囪砌得彎彎曲曲，構成重大工程質量事故；公司召開了現場會，決定拆除重砌，並指定解思忠在繼續做小工的同時，負責該項工程的施工技術。對既沒有施工經驗、又得做小工的解思忠來說，這的確是個考驗。由於他的敬業與嚴謹，竣工後經儀器測量，垂直誤差居然為零，在公司一時傳為佳話；他自己也因此而很快被任命為施工技術員，在同一批分配來的40多名大學生中最早結束「接受工人階級再教育」。
1972年初，解思忠接受任命後離開寶雞市和剛組建的小家庭，來到地處秦嶺腹地的略陽鋼鐵廠工地。建築工地的生活本來就艱苦，由於地處山區，在艱苦之外還增加了單調，幾乎沒有什麼文化生活。工地食堂的早餐和晚餐從來不變，都是饅頭、玉米面粥和同一種廉價的鹹菜；中餐很少有葷菜，大約每個月才能吃到一次肉。在礦區施工時，他一度住在山坡上用席子和油氈搭建的簡易工棚里；床前荒草叢生，窗外青苔壁立，每天只有五六個小時能見到太陽。
儘管生活艱苦，解思忠和周圍的工人卻相處得很融洽。他對工人很尊重，經常教他們看圖紙，給他們講授建築施工知識；工人對他也很尊重，不僅在工作上支持，而且在生活上也給予關照。他在《素質與命運》一書中曾這樣寫道：
從懂事起，我就長期生活在農村，無論是家庭的社會地位，還是家庭的經濟狀況，都處於社會的