祖、曾祖、祖父都曾做过知县、通判，因为父亲死得早，家道中落，他为生计所迫，跑到河南项城县衙门去当书吏。那时候袁世凯正在家里当大少爷，花天酒地，又好交游，徐世昌和袁世凯很谈得来，袁世凯也识得徐世昌是人才，光绪十一年（1885年），他送徐世昌一笔旅费，让他晋京赴考。果然便在光绪丙戌这一科，他中了进士。
袁世凯不曾出道以前，徐世昌尽在翰林院打转，最高职位，做到国史馆武英殿协修官。袁世凯小站练兵，他才当了营务处总办、练兵处提调、兵部侍郎、政务大臣、会办练兵大臣、署兵部尚书。光绪三十一年八月，清廷派六大臣出洋考察宪政。被革命党员吴樾甩了一个炸弹，徐世昌便是六大臣其中之一。
那一枚炸弹，吓得徐世昌不敢出洋，不久，又授巡警部尚书，补军机大臣，方略馆副总裁，经筵讲官。光绪三十三年，清廷改制东三省，将原来的最高军政长官盛京将军改为东三省总督，徐世昌便去做了第一任总督兼管将军事务。
东三省的驻军，曩昔只有旗兵，旗人当兵是世袭制，多年承平，当兵的只晓得吃粮拿饷。到了咸同年间，旗营等于名存实亡，因此闹得遍地盗匪，民不聊生，尤有俄国日本，强邻环伺，乘虚而入。清廷不得已，调左宝贵一军驻扎盛京（即奉天，亦即沈阳），嗣后统兵大将，或为满人或为汉人，但是兵士俱为山东登州、蓬莱、青岛三府的健儿。山东人出关谋生的特别多，足迹且远至朝鲜，与此大有关联。
光绪二十年甲午（1894年），赵尔巽在任，由朱庆澜领军，日俄战亟，马玉岜的武卫前军进驻榆关（也就是山海关），分兵锦州，严加防范。在这时候，赵尔巽收降胡匪张作霖，积功升到都司，他的部下扩编为防营，也有相当的力量。不过，徐世昌接任东三省总督后，始终认为东北境内，没有一支正规部队，实不足言抵御外侮，卫戍地方，因此，他取得袁世凯的同意和支持，奏报清廷，请将驻扎保定的北洋第三镇，全部开到东三省，划长春为驻防地。
清廷允准所奏，第三镇开拔在即，吴佩孚、张福来正在整理行装，忽然听到消息，袁中堂可以让第三镇出关戍守，只是他要留下依为肱股的段祺瑞。因为当年秋天，按照编练新军的预定计划，北洋新军要在直隶省河间府举行秋操，亦即时今之大演习。新军秋操分南、北两军对阵，段祺瑞早经袁世凯内定为北军总司令。
果不其然，未几，命令下来，段祺瑞调任新成立的北洋第六镇统制官。这一个北洋第六镇，可以说是仓促编成的，它以第三镇的一部，加上武卫右军和自强军编余部队，扩编而成。新设的第六镇，便驻扎在近畿的南苑。
北洋第三镇的官兵，都在议论纷纭，袁中堂会派谁来接任第三镇的统制官？其结果，清廷派的是凤山。
凤山，字禹门，汉军镶白旗人——也就是说，他的祖先，曾在明朝末年，投降满清，被编入右翼镶白旗军，因此凤山本来姓刘。他是“翻译举人”出身，袭佐领，充任骁骑营翼长、印务章京、参领，总办东门巡捕分局，副都统、京旗兵统领、西安将军，在满人之中，他可以说是久历戎行，比较知兵的一个。袁世凯小站练兵，当直隶督练公所成立以后，凤山便由清廷直接任命，督练近畿陆军。袁世凯和徐世昌关系密切，尽人皆知，第三镇既是袁世凯的嫡系部队，远戍关外，在徐世昌的节制之下，当然容易发展。大概是从这个时候开始，清廷对于袁世凯掌握重兵，已经有点猜忌，趁袁世凯奏调段祺瑞为第六镇统制，干脆派这满人中的一员悍将凤山，把袁世凯的基本队伍接收过来。
凤山率领第三镇一万余名官兵，浩浩荡荡，开出榆关，第三镇的驻防地是吉林长春，吴佩孚所属的第十一标第一营，扎在南岭黑嘴子。当时，和他一起在守田小组从事情报工作，同生死，共患难的孟恩远，已经贵为吉林翼长，吉林省军一概归他指挥。孟恩远开府永吉，和长春相距只有两百多里，火车往来方便得很。但是吴佩孚从来不会想到，哪天跑一趟吉林，看看老朋友，说不定孟恩远能给他较好的安置。那一年他三十三岁了，纵然只是一名统带，吴佩孚愿意自己努力奋斗，一步步地爬上去。
东北三省自从日俄之战过后，遍地灾黎，民生凋敝。胆大些的便铤而走险，加入胡匪。所谓胡匪大都是明火执仗，公然行劫，他们喊的是“劫富济贫，替天行道”的口号，可是富户都变成穷人了，为了生活，他们便见着什么抢什么。徐世昌决心肃清全境匪患，因而才奏调大军，并且责成张作霖、马龙潭、吴俊升、冯麟阁等编组防营，不过由于张作霖等部熟悉地理和胡匪内部情形，而且这几个防营尤其骠悍善战，清剿任务多半落在他们的身上，第三镇在长春驻扎，除了下操巡查，简直就没事可干。
统制官凤山在长春住了一段时期，深感这样的戎马生涯，等于投闲置散，他越来越不耐烦，一再地奏请调回关内，清廷后来终于应允了他的要求。这里头有两层原因：一是当初调凤山任第三镇统制时，袁世凯表现得十分恭顺与坦然，使清廷渐渐地又疏于防范；其二则为革命党人纷纷在华南