二、流落异乡的泥瓦匠
1894年，中日甲午战争爆发，腐败无能的清政府遭到惨重失败，日本乘机疯狂进犯辽南，辽河下游战火纷飞。为逃避兵祸，张作相一家辗转他乡，历尽磨难。战乱过后，家计日窘，为了谋生，张作相给一个族叔张永清当帮工。这位族叔待他很好，特别是族兄张作正与张作相脾气相投，二人感情甚笃。
1897年，张作和16岁，族兄张作正为仇者控为通匪之嫌，被捕人狱，因查无实据在沈阳获释。张作相迎至锦州，二人乘大车回杂木林村的途中，路经狮子岭，遇上一伙土匪，其中有个叫郭玉的与张作正有仇，他朝车内开了一枪，将张作正打死。死前，张作正嘱咐张作相要为他报仇。
张作相知道郭玉还会杀人灭口，不得不离家外出谋生，流落到辽西锦州一带。农忙时给人打短工，农闲时就到城里给人做泥瓦活。后来有人说张作相是泥瓦匠出身，概缘于此。
三、随从张作霖
张作相深感世道不平，逐渐产生了不惜铤而走险也要出人头地的想法。于是他返回锦州义县一带，联络了5个志同道合的好友，年龄最大的不过20岁，最小的18岁。他想方设法伺机为族兄张作正报仇。
当张作相得知张作正的仇人郭玉在冯振西（哨官）手下当了哨长后，张作相就让同村友人冯树春去投哨官冯振西，并在他手下也当了个头目，伺机行事。一天，冯树春与郭玉外出开会，半路上乘郭不备，开枪把郭打死，给张作正报了仇。为逃官府缉拿，张作相、冯树春等十几人逃到双阳甸南山大庙内。
翌年(1902年)，张作相率二三十人到新民府八角台村投奔张作霖。张作霖见张作相与他同姓同字甚喜，遂纳之，视如兄弟，并与张作相、张景惠、冯德麟等成立了200多人的“保险队”，以维护地方治安的名义，活动于辽西一带。当时辽西各地多有练勇保险队，大小不一，而强者凌弱，众者欺寡，五相吞并。一次，张作霖被困于山麓，形势非常危急，张作相冒枪林弹雨，只身冲入，把张作霖救出重围。从此二人结下患难之交，情同手足。1902年10月，张作霖率部二三百人被清廷收编。张作霖被任为新民府游击马队管带（营长），张作相为哨长，旋升哨官，随张作霖驻新民数年。
1906年，盛京将军赵尔巽在奉天设立负责训练新军的督练公所和负责整顿地方旧军的巡防营务处，将全省旧军编成八路巡防队，张作霖任前路统领（团长），张作相为骑兵一营管带。
1907年，张作霖因剿内蒙古陶克陶部有功，又兼任了中路巡防营统领，在此期间，张作相与张作霖等八人结拜为把兄弟，按年龄顺序是：右路巡防营统领马龙潭，后路巡防营统领吴俊升，中路巡防营帮统孙烈臣、张景惠，左路巡防营统领冯德麟、汤玉麟，前路兼中路巡防营统领张作霖、张作相。这就是奉系集团的最初成员。
1911年5月，赵尔巽为提高巡防营战斗力，在省城设立讲武堂，张作相与张景惠、汤玉麟奉命由洮南起身，前往省城奉天受训。
1912年，张作相先后为二十七师骑兵团长、炮兵团长，并晋授陆军少将。
1916年，张作相升任陆军二十七师步兵五十四旅旅长，并被委为法库、康平、彰武三县剿匪司令。1918年，奉军入关，张作相奉命率五十四旅进驻静海、独流一带。是年冬季，被调为暂编奉天陆军第五混成旅旅长，并代理二十七师师长。
1918年9月，段祺瑞任命张作霖为东三省巡阅使。1919年初，张作相升任东三省巡阅使署总参谋长兼卫队旅旅长、奉天警备总司令。同年秋季，升任二十七师师长，晋升为陆军中将。
1919年2月，因增编陆军混成旅需要军官，张作霖以原二十七师军官为基础，重新建立讲武堂，定名为东三省讲武堂，张作霖始为堂长，后由张作相兼任堂长。第一期于1920年2月毕业，张学良及张作相的次子张廷枢均于此期毕业。张作相向张作霖建议，由张学良接替他兼任的巡阅使署卫队旅旅长的职务。
1920年，张作霖派许兰洲为援陕司令，失利归来，仍待以客位，并免去张作相东三省巡阅使署总参谋长之兼职，委许继任，张作相专任二十七师师长。后张作霖以张作相遽离左右，深感不便，乃任张作相为东三省巡阅副使。张作相以位高坚辞，后委为东三省巡阅使署及奉天督军署总参议，核阅两署文牍，并办练兵事宜，位亦在总参谋长以上。
四、主张保境安民
张作相为人稳健保守，对奉军每次入关，都持反对态度，认为这样做劳民伤财。他主张闭关自守、开垦荒地、振兴实业，广立学校、训练精兵，以便养精蓄锐，坐视关内各派互斗，待其力尽吁请，再兴义师，既可出师有名，也可一战成功。1922年春第一次直奉战争时，张作相与张景惠均不主战。他们认为奉军力量
不能掌握北京全局，不如捧曹锟为首，自己居实力地位。当时，杨宇霆主战最力，张作霖采纳了杨的意见。
由于奉军素质甚差，指挥失误，第一次直奉战争奉军失败，张作霖急于提高奉军战斗力，1922年7月底，成立“东北三省陆军整理处”，作为整军经武的最高执行机构，以孙烈臣任统监，张作相与姜登选任副监。同时，张作相还兼任镇威军第三路军总司令。
1924年，孙烈臣病死。张作霖命张作相带陆军二十七师五十四旅，前往吉林省任督军，当时称为“东三省保安军驻吉副司令”。
张作相原任的东三省巡阅使署总参议的职务，由杨宇霆接任，二十七师师长由张学良接任。
吉林省督军虽是独挡一面的“封疆大吏”，名义上比东三省巡阅使署的总参议要高，但实际上不如东三省总参议有实权，张作相对此并不计较。
1925年，张作相升任吉林军务督办兼吉林省省长，晋级为陆军上将。同年2月，兼任东省铁路护路军总司令。
由于奉军几次入关、张作相都持反对态度，主张保境安民，所以在第二次直奉战争和1925年奉军与孙传芳的东南五省联军的战争，张作相都留在关外，负责奉军总预备队的工作。
1924年9月第二次直奉战争时，张作相为第四军军长，汲金纯为副军长，率奉军总预备队集结于兴城和绥中两地，另一部分置于锦县附近待命。
第二次直奉战争奉军大获全胜。1925年10月15日，孙传芳以五省联军总司令名义，通电反奉，发动了第二次江浙战争。
此时，张作相仍负责奉军后方总预备队工作。任第五方面军的军团长，第五方面军下辖十一、十二两个军，张作相受命扼守京奉路锦、绥一带的防务，巩固后方。
