張作霖的祖籍一說是山東，一說是河北。實際上，他祖上是山東人，後遷到河北河間府。他的祖父叫張永貴，種地的農民。老頭兒土裡刨食，靠天吃飯。可在清朝末年，刀兵四起，狼煙滾滾，內憂外患，民不聊生，種地的農民沒法過，只靠春種秋收土裡刨食，連肚子都填不飽。咋辦呢？後來一打聽，有人跟他說：「你闖關東吧。關東大地人口稀少，土地肥沃，來錢的道兒很多，咱們的很多鄉親都去了，都混得不錯。」老頭兒一聽，好吧，樹挪死，人挪活，就推車挑擔，帶著兒子張有財走上「闖關東」的艱難歷程。「關東」是滿清政府的「龍興之地」，自從清朝入關之後，根本不允許漢人移民。但是進入近代以來，俄、日等外部勢力強勢介入，愛新覺羅的老祖宗們在地下也慢慢沒了清靜之日，與其拱手讓與外人，不如滿足內地失地百姓的願望，及時填補，「十年生聚，十年教訓」，興許可以制衡列強，迎來中興之日。
但對於尋求活路的草民來說，「闖關東」說起來容易，闖起來太難。兩眼一抹黑，投誰去啊，只能是瞎撞。半年以後，張永貴父子找了個落腳的地兒——海城縣（今遼寧省海城市），在小縣城的西關外小窪子村落了戶。這地方還不錯，地有的是。父子租了幾畝薄田，搭個馬架子，一家人安頓下來，先天條件確實比關內強了不少。可是只靠種地，仍然不行，好在張永貴有木匠活的手藝，打個箱子柜子、桌椅板凳不在話下，喬遷喜事收拾個門窗，遇上白事打個棺材，臨時拾掇個車棚，這些都會。所以農閑時候張永貴就到村莊鎮店去做活掙錢，農忙時再回來收成。老頭兒這麼一忙活，幾年之後光景就變了些，手頭有點兒積蓄了，這算是老張家為家族攢下的第一桶金。張永貴用辛苦錢買了十畝地，蓋了三間房，雞鴨鵝狗豬也都養上了，小日子過得還算可以。有財眼看也成人了，張永貴託了個保媒的，給兒子娶了當地一個姓邵的姑娘，結婚之後邵氏生了個閨女。但不久，邵氏百病纏身，竟然死了。沒個女人日子沒法過，老人又托媒人又花錢，在小黑山二道溝找了老王家的姑娘，挑良辰擇吉日，小夫妻成了親，又過上日子了。王氏是個賢內助，不但賢惠，而且活計也好。給張有財生了三個兒子，大兒子取名張作泰，二兒子叫張作福，三兒子是張作霖。按照遼寧人當地的習慣，小兒子都叫老疙瘩，所以張作霖又叫張老疙瘩。
本來小日子過得還不錯，但是張有財卻不是個省油的燈，一開始幫他爹種地、幹活，時間長了有點兒富餘錢了，就不走正道了。那個時候，遍地都是賭局。張有財背著他爹，經常出入賭場，老想撈點兒外快，十個賭九個輸，能贏得來嗎？慢慢地張有財就把這個家業給造得七零八落。他爹氣得罵他：「有財呀，敗家子，你哪是我兒啊，你是冤家啊！」爺倆兒沒少干仗。到頭來，張有財愣是把他爹活活給氣死了。老頭兒去世，張有財眼淚瓣都沒掉，心裡還高興呢：「哼，早該死，省得有人管我，現在剩我一個人了，一家之主，想幹什麼幹什麼，誰也管不了我了！」爹都管不住，媳婦兒更是管不了，張有財是無恃無恐，把錢揣在腰包裡頭，大搖大擺地進出賭局，身上帶多少錢就送進去多少錢，直接就成賭棍了。有時候輸打贏要，蠻不講理，耍胳膊根兒拉破頭。很多人都怕他，因為他是個臭無賴。可時間長了得罪的人就太多了。
有一次在寶局，張有財遭遇一個叫蘭二混子的，碰巧了也是個無賴，滿身都是刺，在賭的過程中輸給張有財十兩銀子，當時沒錢，講明白欠賬，過幾天給。可拖來拖去，拖到年根兒了，錢也沒給。張有財一琢磨，十兩銀子那是錢哪，我過不去年關了，這錢得要。見頭也要，見尾也要。可這蘭二混子軟磨硬泡就是不給，把張有財氣急了，買了把殺豬刀，在磨刀石上磨得飛快，用布裹上，把刀插在腰上。心說我再見到你，不給我錢，白刀子進去紅刀子出來，我拼了！
冤家路窄，快過年了，正好這兩人在河灘碰著了，蘭二混子正往前走的時候，張有財一眼看見他：「站住。」
「唉，我當誰呢，張大哥，有事？」
「有事，你裝他媽什麼大瓣蒜！欠我十兩銀子什麼時候給？」
「那能黃得了嗎？大哥，容期緩限，兄弟手頭也挺緊張。這麼辦，初五之前我肯定給，包括利錢，您看怎麼樣？緩兄弟一步。」
「不行，今天給錢不給錢吧？你要說不給，你看這是什麼？」「噌」，張有財把刀子拽出來了。
「唉，別胡來啊。人命關天，殺人償命，欠債還錢，你，你可不興胡來。」
「你不給錢我就捅了你……」話沒說完，張有財上去就是一刀，敢情蘭二混子還有兩下子，平常凈干仗了，一看刀子來了，往旁邊一閃，刀子走空了，他一伸手，把張有財的腕子抓住了，往懷裡一帶，底下抬起來就是一腳。
「啊……」只聽得張有財一聲慘叫。
蘭二混子那一腳，尋思把張有財蹬一個坐蹲，然後轉身就跑。哪知道這一腳使的勁太大了，正好蹬到襠裡頭，「咔嚓」一下，就見張有財叫過之後刀子落地，翻身栽倒，雙手捂著肚子，在河灘上就骨碌開了，時間不長，腿一蹬，沒氣了。
蘭二混子一看，心裡害怕了：「我的媽，死了，這要打了官司，我得掉腦袋。」他看看沒人發現，跑吧。就這樣張有財死在這河灘上了，五天都沒人發現，大冬天的，都凍成冰棍了，誰沒事上這兒來？後來被一個路過這兒的老頭兒發現了，認出之後，趕緊到他們家報信兒。他媳婦兒一聽，五雷轟頂，怪不得好幾天沒回來，以為他不定跑哪兒賭去了，鬧了半天他死了。領著孩子到河灘一看，當時就昏過去了。街坊鄰居也來了不少，大家苦勸，搶救，怎麼辦？找兇手，哪兒找去？知道誰幹的？就這樣，吃個啞巴虧，買了個「狗碰」（窮人買不起大棺材，買薄皮兒棺材，拿釘子釘釘，把人裝裡頭，碰到野狗、瘋狗要拽死屍的時候，拿腦袋一碰，嘩啦，那棺材就散架子了，「狗碰」之名由此而來）給裝殮了，挖了個坑，就埋到河灘邊上了。
這個事後來還引起不少笑話。張作霖後來發跡，做了大帥，了不起。有的人就出來說了：「你知道為什麼張作霖發跡了嗎？他爹埋那地方好啊，河灘邊上，那是龍穴啊，那是埋真龍天子的地方，給他爹埋那兒了，他們家能不發跡嗎？真是，我爹怎麼沒叫人踢死埋到龍穴呢！」——還有這樣的貨呢。
王氏領著孩子回家了，怎麼過？不管自己的男人爭不爭氣，畢竟是一戶人家，還指著他掙倆錢。他不在了，喝西北風啊。一家人哭得昏天暗地，這日子太難了，實在不行，就得指望這仨孩子。大兒子張作泰是個窩囊廢，挺大眼皮，要看人得用手撩著眼皮，三腳踹不出個屁來。二兒子張作福跟他爹一個樣，一說話就一個謊，出入賭局，偷偷摸摸，什麼壞事都干，經常夜不歸宿，也指不上。要說能指上的就這個老疙瘩。張作霖從小就心重，老陪著他娘，他娘一看怎麼辦呢，給他找點兒出路吧，也沒錢供孩子念書，就讓他做小買賣。張作霖當過貨郎賣零碎，還賣過包子。有時候那包子蒸得也不好吃，沒人要，張作霖賣著賣著嗓子都喊破了，一看沒人要，也餓了，乾脆自己吃吧。天天包子賣不出去，他就自己吃。他娘一看，還不如不做這買賣，不夠他吃的。實在不行了，帶著孩子回娘家吧。到了小黑山二道溝，見到爹娘一哭，當爹娘的都疼兒女，一看女兒命苦，在家待著吧，管吃管喝。老人行，但是兄嫂可不容，兄嫂一看，這幹嗎啊，嫁出去的姑娘潑出去的水，你領著這麼些人回來我們供得起嗎？本來我們日子勉強對付，你這一來我們的日子完了，一落千丈。摔盆，摔碗，罵閑雜，說風涼話。王氏終日以淚洗面，沒法過了。怎麼辦？要自殺。幸虧鄰居有個老太太挺好，嘮閑嗑就說：「咳，算了吧，人這一輩子都是命中注定的。我看你年紀輕輕，長得又不老，找個人家不就得了，你要樂意的話我給你保保媒。咱們那個路口二道溝那兒有一個吳獸醫，叫吳老二，技術還挺好，日子過得挺富裕，樂意的話我給你保保媒，他原來那媳婦兒兩年前就死了，還沒兒沒女。」一開始王氏不願意，抹不開面兒，後來也就願意了。挑良辰擇吉日，夫妻拜了花堂。過了門去，吳獸醫心地良善，對這幾個孩子視如己出，當親孩子一樣疼愛，特別是喜歡張老疙瘩。張作霖個兒不高，眼睛有神兒，特別聰明，誰不喜歡這樣的孩子啊？夫妻一商議，萬般皆下品，唯有讀書高，得念書，人沒知識不行。生活環境雖然艱苦一些，但得想方設法供老疙瘩上學。托出人來，補了個名字，交了學費，老疙瘩上學了。但這張作霖幹什麼都有興趣，就是不愛念書，往那兒一坐，老師一講課，他腦仁疼。怎麼辦呢？逃學。經常早上起來吃完飯走了，沒上學校，卻跑到樹根兒底下聽書去了。他那個鄉有個說書先生，姓耿，沒事在大樹底下招一伙人在那兒說大鼓書。張作霖拎著書包擠進去，往前邊一蹲，聽得是津津有味。什麼《瓦崗傳》《秦叔寶》《程咬金》《水泊梁山》，越聽越愛聽。等到快放學的時候，夾書包回家了。