家认为，如果白天去抢救张啸林，稽征局里有几枝老爷后膛枪，难以得手，不如等傍晚时分，巡警们都下了班，再冲将进去，打他个措手不及。
大家计议已定，随即挑选了数十个流氓，到了晚上，杜月笙和李阿三率领流氓一齐冲入稽征局，救出了张啸林，然后一哄而逃。
张啸林脱险回家，休养了数日，打听到捕他的头目“金狮狗”原是一个手段非常残忍的家伙。为了要报仇雪恨，他就请三十六股帮流氓头子“吊眼阿定”助他一臂之力。
“吊眼阿定”见“金狮狗”倚官仗势，勒索船商们的钱财，也非常看不入眼，于是答应了张啸林的要求。
一天上午，金狮狗照例出来巡查商船，正独自走到江边时，突然前后窜出十几个人，不问情由，把他掀倒在地，一顿拳脚，又七手八脚地把他拖到江边，一声号子，奋力往江里一抛。
此时，江畔正好泊来一艘大粪船，只听“扑通”一声，金狮狗被抛到大粪船中。虽然保住了一条命，但已饱尝了大粪的滋味儿。金狮狗爬出大粪船时，张啸林等人早已逃得无影无踪了。
上海呆不下去了，张啸林只好携着妻子又回到了杭州。
1919年8月14日，浙江督军杨善德病故，卢永祥由淞沪护军使升迁，护军使则由卢系大将何丰林继任，江翰廷任护军使署秘书长，刘吾圃任警察厅主任秘书，俞叶封调任缉私营统领，张载阳升任浙江省省长。
由于这批分居要津的大官，与张啸林有私交，张啸林便有了强硬的靠山，他觉得，又该来上海了。上海这片天地比杭州广阔多了，能使自己得到更大的发展。
到了上海。听说以前的老朋友杜月笙已在黄公馆发迹了，便马上拜访，并要求杜月笙把自己荐在黄金荣的门下。
黄金荣在得知张啸林与浙江省省长张载阳、督军卢永祥等关系密切后，也想招徕张啸林入伙，黄金荣与张啸林一见如故，引为知己。于是在1919年，张啸林将全家迁至上海。
就这样，上海三大亨的雏形形成了。
从此，黄金荣集团不仅以租界的政权为护符，在流氓争霸冲突中立于不败之地，而且又进一步获得了军阀的庇护，势力更加膨大。
“三大亨”格局形成后，近代上海又出现了一大批由他们衍生出的小流氓。这些流氓聚众结伙，触角伸到上海社会生活各个角落，横行霸道，为非作歹。当时在各自地盘上称霸的流氓主要有以下几种：
（一）码头霸
旧上海黄浦江畔建有许多卸货码头，雇佣了许多搬运工人。青红帮出身的工头，在外国人指使下，凭借流氓势力成了码头霸主。其中势力较大的有：绰号“大刀关胜”的沈关生，三井煤栈码头霸头李茂龄，人称“码头春宝”的张春宝。这些人手下徒弟均在一千人以上。码头工人劳动强度很大，霸头不劳而获收取搬运费的60%，工人仅得少量报酬，谁敢不服，就会被恶势力殴打驱逐，甚至有生命危险。此外，霸头还在码头上横行不法，欺诈旅客，将码头上木板改为活动板，旅客下船时只要将行李放在码头上，稍有不慎，如转身叫车，行李便不翼而飞，事后霸主与得手的徒弟分赃。
（二）人贩霸
上海流氓贩卖人口有两种：专贩男孩，叫“搬石头”；专贩女孩，叫“摘桑叶”。贩男孩的后台老板，是前海宁路虹口汇司捕房刑事股探长尚武，他出身青红帮，手下徒弟两千余人，与潮州帮三合会勾结，将人口拐卖到广东。贩女孩的头目中，尤阿根势力较大，曾任公共租界老闸捕房刑事股总探长，青红帮出身，手下有数千名徒弟。他们把女孩拐到手后，卖给福州路一带十几家妓院。温州人陈鹤明充当蛇头，勾结上海潮州帮三合会等，贩卖人口去国外。1930年至1936年间，仅向南美一地，就贩运五万多人。
（三）渔市霸
1934年前，上海渔市集中在小东门法租界一带。每天从外地云集许多装鱼船到渔行码头卸货。每天清晨，全上海菜场渔贩数千人，到小东门向渔行批购。上海海鲜业同业公会黄振亚，本系无业游民，只因拜了黄金荣为师，便利用黄的势力拉帮结伙，欺行霸市，垄断货源价格，成为渔市一霸。
（四）菜场霸
旧上海菜场也有恶霸。30年代最热闹的菜市，要数虹口三角地菜场和法租界麦兰区菜市。菜场内摊位位置不同，会影响生意好坏，有些流氓头子乘机垄断牟取厚利。法租界有个徐海涛，曾拜杜月笙为师，他狗仗人势垄断好的摊位，每月转租给别人，可净得千元。
（五）人力车霸
人力黄包车是旧上海主要交通工具之一，当时人力车霸主多数是大流氓顾竹轩的徒弟。法租界有个探长金九龄，手下有徒弟三千人，仅在陕西南路一带就有人力车一百多辆。租车人一旦生意不好，就会被取消租车资格，甚至惨遭毒打。
（六）走私霸
旧上海走私特别严重，多由青红帮组织操纵。这个组织规模庞大，与海关、外商轮船公司、租界警务司等关系密切。外