有升必有衰
在1927年前，黄金荣与杜月笙的关系甚为密切。杜月笙在黄门十数年摸爬滚打，为黄金荣打天下，毫无二心。黄金荣也投桃报李，1924年将华格臬路（今宁海西路）上的一块地基送与杜月笙和张啸林，建起了杜公馆和张公馆（今宁海西路幼儿园等）。但1927年后，黄、杜矛盾日深，并逐渐公开化。
杜月笙实力的迅速上升和黄金荣的老衰，也许可以看作是导致双方矛盾的起因。
在黄、张、杜三大亨中，黄金荣的作风向来保守，且较为贪吝，进入国民党统治时代后，尽管有门生蒋介石这一最佳背景，但随着年迈体衰，对整体局面的控制已经心有余而力不足了。从巡捕房退休后，逐渐退居幕后。黄金荣爱钱，但他赚钱的方式也是老式的。他的产业主要是早年经营的舞台戏院和一些房地产。他始终认为坐收房租，远较投资于工商业要牢靠稳妥，因此他不愿意搞什么股份合资开店设厂，因此，终其一生，没有和人合营过一项现代工业企业。
而杜月笙正值盛年，野心勃勃，有着强烈的权势欲，而且工于心计，善于审时度势，还舍得挥金如土，笼络人心，有一套颇为高明的处世手腕。他看准了以租界为靠山的流氓势力与国民党结盟中所占据的有利地位，即国民党急于利用他们，却又无法制约他们，只能用名利实惠来笼络讨好他们，而国民党当局的青睐，又是抬高自己的社会地位和扩展势力的最有力杠杆。
因此杜认定，充分利用自己对国民党统治者的特殊政治价值，积极参与政治活动，尽量向国民党靠拢，借助于它的政权力量，乃是乘机跻身上流社会并飞腾达的最佳途径。为此，他使尽浑身解数，向政界、财界进军，取得了意想不到的效果和成功。
就是在黑社会势力与南京政府结合、社会地位青云直上的过程中，杜月笙脱颖而出，超越黄金荣，成为上海流氓帮会世界中最煊赫的角色，并使其个人的权力“合法化”。
关于三大亨之间角色的升变，老报人徐铸成曾有一段回忆文字：1922年时在无锡读中学时，只听说上海有一个黄金荣，十分了得。后来有上海三大闻人的说法，排序当然是黄、张、杜；20年代后期，则改为黄、杜、张；30年代又变成了杜、黄、张了。
杜月笙地位上升后，在与黄金荣的关系方面，最初也是最显著的变化便是对黄杜月笙、张啸林等上海名人金荣称呼的改变。
当初杜月笙踏入黄公馆时，还是个20来岁的小后生，与年长20岁且已执掌上海半壁天的炙手可热的黄金荣相比，自然晚了一辈，因此，杜月笙亲切地称黄金荣为爷叔，称林桂生为师娘，这一称呼叫了十多年。直到1920年，53岁的黄金荣看中了露兰春，不惜抛弃帮助自己打天下的林桂生。而且因为露兰春，被卢永祥之子绑架，后杜月笙单刀赴会救出黄，黄因感激，而与杜以兄弟相称。
自杜月笙帮助黄金荣躲过露兰春事件的难关始，没有几年，上海滩形成了黄、张、杜三大亨的新格局。到“四一二”事变以后，杜月笙更是超越黄金荣而逐渐成为上海流氓帮会世界中的第一号人物。
黄、杜矛盾的深化，在于黄金荣在杜月笙超越自己的时候，失去了平常之心。特别是20年代末、30年代初，黄金荣在上海政治舞台上的衰退与如日中天的杜月笙，形成鲜明的对照。这一矛盾在法租界的华人董事问题上也有充分的表现。
法租界的华人董事最初是虞洽卿和陆崧侯，屡因虞洽卿拒绝而改由吴宗濂担任。1926年法国总领事那齐雅正式承认华董，次年他聘陆伯鸿、朱炎、魏廷荣、陆崧侯和吴宗濂五人为华董。这时，羽毛丰满了的杜月笙于1927年1月将法租界商业总联合会改组为法租界纳税华人会。1928年1月，张啸林被选为华董，杜月笙等为顾问。
1929年1月，法租界纳税华人会新选委员在贝勒路（今黄陂南路）一号该会会所举行就职典礼，黄金荣与张啸林、魏廷荣等为执行委员。而杜月笙不仅是纳税华人会的执行委员，而且还担任了法租界商界总联合会的主席，而张啸林则是法租界纳税华人会执委会主席，地位均超过了黄金荣。
次年11月，法租界纳税华人会选举华人董事，杜月笙以三十票与张啸林、魏廷荣、朱炎、陆伯鸿等五人当选，而黄金荣仅得五票，排在未当选者之首，连金廷荪也担任了专门顾问。
对于这些帮会内部的势力盛衰的更替，黄金荣总有些不甘。当然如果细致地分析，造成黄、杜矛盾深化这种局面的主要因素，恐怕主要不是花甲之年的黄金荣，而是他的数千徒众。
由于黄门弟子在报社的不少，黄金荣便要求他们着手收集杜月笙的违法言行，并予以攻击。《新闻报》的杭石君就秉承老头子的旨意，在报上有计划地攻击杜月笙经营烟、赌的事实。杜月笙深知舆论的威力，和与黄金荣公开闹翻的严重后果，立即到黄公馆谢罪，将搜刮来的钱分赃给黄金荣，直到抗战爆发。以平息可能发生的冲突。
而且，在平时，黄金荣也总是找机