搜劫行李，辱及妻女，故当皖直分裂，他便反过来为直冯效力。他最大的功劳是沟通说合苏（李纯）、赣（陈光远）、鄂（王占元）三督联盟，使直系组织灿然大备。
徐世昌斥为祸水的第二人，便是段祺瑞的“灵魂”、“智囊”徐树铮。徐树铮好大喜功，专擅把持，其咄咄逼人之势，令黎元洪、冯国璋、徐世昌三位总统，及其以次所有的国务总理、各部总长、各省督军、总司令都觉得受不了，咸认为年来党派之纷扰，南北之乖戾、外债之丛脞、强邻之压迫，都是徐树铮为之厉阶。这其间当然也有小徐代老段受过的地方，但是众口一词，怨谤丛集于一身，遂使徐世昌不得不把他视为北洋团结的障碍，必须除之而后快。民国七年六月十四日，陆建章到天津活动，奉军响应和议，徐树铮邀他“来寓候谈军情”，竟然拔枪将他杀了，这人权焰薰天，蔑视法律，比专制时代尤有过之。徐世昌当时并不在位，不过他侧目而视，心中早已认定，小徐不除，北洋团结必无希望。
大总统心情如此，形诸于直皖之战前夕的两系电战，直系口口声声，攻讦徐树铮卖国借债，任意妄为，称之为悍夫骄将，误国殃民，可说一字一句，实获徐大总统之心。而段祺瑞则一路护短，再三左袒，由于小徐一人，丧失了徐大总统的信赖，全国民心的趋从，尤其加深了各省份的离心离德，因此，直皖之战未起之前，有心人即知胜负已定。
但是民国九年之初，吴佩孚的处境却非常危险，他孤军远戍南岳衡阳，面临皖系健将、湖南督军张敬尧的沉重压迫，侧面有湘军整军经武，徐图恢复，正面是北洋政府的死敌广州军政府，说他是四面楚歌，确不为过。尤其是张敬尧在长沙横征横敛，第七师的部队公然奸淫掳掠，杀人越货，搞得湖南暗无天日，民怨鼎沸。湖南人私底下讥称张敬尧为“运输司令”、“张毒”（督）、“毒菌”（督军），可是张敬尧却一概不闻不问，只顾埋头扩充武力。他的弟弟张敬汤助桀为虐，自号“小诸葛”，帮他把第七师扩充为四万人。张敬尧又派他的义子张继忠任第五团长，人称“少帅”，亲到山东招收散兵股匪，把他们带到湖南来明火执仗，杀人放火。此外，他更迎来倪嗣冲的安武军、张宗昌的鲁军和北洋军范国璋、李奎元两师各一部，又有三四万人之众，拥有十万雄兵的张敬尧，对于仅有一师三旅的吴佩孚，在直皖两系破裂在即、翻脸的前夕，当然是莫大的威胁。
更令人担心的是，由于张敬尧、吴佩孚一邪一正，积积不能相容，两位大帅之间的关系，搞得非常之坏。民国八年五月，全国各地风起云涌的爱国运动，传播到了长沙，湖南省垣学生，竞起罢课游行，高呼“取消二十一条”、“争回青岛主权”的响亮口号。张敬尧为了讨好主子，竭力压制，他采取了逮捕、戕害以至解散学校的残酷手段。长沙学生悲愤莫名，呼救无门，于是推选了一批代表，计有男生三百余人，女生五十余人，成群结队，在五月九日那天到了衡阳，去向湘民敬爱的吴大帅申诉。当日，吴佩孚不但亲自接见，而且降阶相迎，对这些热血青年亲切和蔼，殷勤诚恳，他听完学生代表和泪以俱的倾吐，顿即心直口快地说：
“张督军这个做法是很不对的。民主国家，任何人都有权对于国是发表意见，青年爱国，尤其值得嘉许、赞助，怎可以严厉压制，肆意摧残？请各位放心，我立刻便打电报到长沙，力促张督军恢复各级学校，释放被捕学生，禁止压制行为，我相信我的电报一去，必定可生效力。不过，各位远道而来，我吴某很想略尽地主之谊，请各位在衡阳小住三天，参观游览。”
于是，学生们欢声雷动，被吴佩孚真诚的态度曲意抚慰，感激至于泪下。吴佩孚派些年轻的官佐，专门陪伴这批学生，到处参观游玩。三天后，他还招待全体学生参加会餐，为他们饯行。席间，酒酣耳热之际，吴佩孚更戏剧性地出示张敬尧的覆电：“拜纳嘉言，一切照办。”直到这时，学生代表方始恍然大悟，吴佩孚留他们在衡阳玩三天，实际上是为顾虑他们的安全，必得张敬尧允予遵办的电报到了。他才放心让学生们回长沙，这一份情意极其可贵。当场又有不少人为之感动落泪。自此以后，吴佩孚爱护青年之事当然是不胫而走，传诵遐迩，使他得了更好的口碑。
便在那一年的秋天，张敬尧四十初度，他的部下大事铺张，准备为他做寿，居然成立了筹备处，打算在长沙各界，大打一次抽丰。吴佩孚得到消息，大不以为然，他拍一次电报给张敬尧，他说：
“届期当亲率全军，晋省庆贺。”
一句话吓得张敬尧惊惶失措，立即下条子，停止筹备，不做寿了。这件事在表面上看，他固然是从善如流，听从了吴佩孚的忠告，暗底下当然难免把吴佩孚恨入骨髓。张吴失欢，越演越烈，吴佩孚不能不视张敬尧为他的心腹大患。