彻底消灭共产党。陈果夫此时已不在组织部任职，其代理组织部长一职由他推荐右派人物吴倚沧担任，组织部的大权仍然由他所控制。7月，蒋介石指令成立全国“清党委员会”，陈果夫、陈立夫都没有在委员会中担任职务，但他仍极力把自己的亲信安插进“清党委员会”，在7名“清党”委员中，就有曾养甫、段锡朋、吴倚沧、郑异、肖佛成等5人是他们所信用的人，对他们是惟马首是瞻，所以，二陈兄弟实际上是“清党”运动的主持者。
国民党政界，尔虞我诈，相互残杀，蒋介石却似一僧人般坐看风云起。“清党委员会”成立后，在二陈指挥下进行工作，陈果夫事事过问，事事插手，整个“清党”的程序，由他一手安排，以至蒋介石下野后，陈果夫依然能暗中操纵各地的“清党”运动。
1928年初，蒋介石重新上台，他接受陈果夫的建议，其首要任务仍然是继续“清党”，“乃欲移其势力之重心于党部”，基于此目的召开的国民党二届四中全会，就是要使“清党”的理论、组织、方法、程序更加完备，更加系统，更加严密。
在二届四中全会上，陈果夫是一个十分活跃的人物，他多次发言，陈述自己对“清党”的主张，他强调，要使“清党”运动收到实效，必须与整理党务结合起来，把整理党务作为“清党”的一个重要内容，他认为，以前虽然也整理过党务，但收效不大，这次应该彻底整理，为此，他与蒋介石、丁惟汾一起拟定了一个整理党务的提案交会议讨论。他还强调，要为“清党”制定法律条文，基于此，他还与蔡元培等提出了《制止共产党阴谋案》等，陈果夫参加拟定的提案几乎占了会议所有提案的一半，这些提案，对“清党”的理论、方法、程序进行了系统的阐述。
为什么要继续“清党”呢？陈果夫等认为：“清党时间倏逾半年，共产党之逆迹固以大暴国中，本党之精神亦日就淹没”，现在国民党的组织形式、工作方法、所持理论均沿用过去国共合作时的一套，“是昔者以共产党操纵国民党，今则以国民党继承共产党”，因此，“非将容共期中之理论与方法，一举清之不可”。继续“清党”就是要清除共产党的理论与方法。
如何“清党”，整理党务呢？陈果夫等的提案作了具体的布置。
第一，关于基本理论。陈果夫等攻击共产党的理论“为破坏，为阶级斗争，为反科学，为虚伪不择手段，为以民众为工具，为分裂三民主义为三个一民主义，为造成全民恐怖，为使中国产业由落后而至于绝灭，为遮断中国在国际间取得平等优裕之机会，为打破国民革命军的基本力量以培植爪牙”。因此要彻底清除，“一反其义”。他们提出国民党要树立自己的理论，即树立被他们篡改了革命内容的“三民主义”，为此，要“制定管理党报及党的一切刊物条例”，以利于宣传“三民主义”。
第二，关于组织。陈果夫等主张：“废除容共期内一切民众运动方式”；“严厉取缔农工间武装集团及潜伏暴动性之秘密结合”；“各地畸形农工集团一概取消”；“取消省党部以下一切畸形、残破的党部”；“省党部未正式成立时，由中央指定各省登记委员，专办全省党员登记，限期完成整理党籍工作”，“废止中央及各级之农民、工人、妇女、青年、商民等部，只设组织、宣传、训练三部，于必要时得设特种委员会辅助之”；“厉行监察委员会职权，监察委员会得指导中央及地方特种刑事法庭”。
第三，关于整理党务的方法。陈果夫等提出：整理党务要经过四个阶段，即总登记、总考查、彻底训练、彻底改组各级党部。先由中央成立考查委员会，考查各地曾任省级及与省同级党部的委员；再由中央选派指导员组织各省党务指导委员会；然后由省党务指导委员会选派指导员组织各县市的党务指导委员会，分级考查各地的国民党员。凡经登记合格者为预备党员；凡经考查合格者为正式党员；凡经长期考查与训练合格者为基本党员，在此基础上成立各地的国民党党部。
这些“清党”的方案提出后，陈果夫不遗余力，在会议的各种场合反复解释、说明，使二届四中全会通过了他们的提案。会议决定首先改组国民党中央机构，开除撤销共产党员和所谓“附逆”共产党的谭平山等人的国民党籍和国民党中央执监委员职务，选举蒋介石等36人为国民党中央执行委员；在国民党中央取消农民、工人等五个部，只设组织、宣传、训练三个部，并决定对各地的国民党党部进行整理，对党员重新登记。陈果夫由于在全会上的出色表现，他被选为中央监察委员会委员，在会议闭幕后，他又被任命为中央民众训练委员会委员、常委，主持该委员会的工作。