科是国民党最核心的组织，是党的耳目，宣扬特务活动是保卫党的安全、国家的安全、领袖的安全并与党国命运息息相关的事业，只有优秀的党员才能从事这一光荣的工作等。正是在二陈的悉心培育下，调查科的特务被豢养成一帮阴险、狡猾、残忍、冷酷的极端恐怖分子。
蒋介石建立特务组织的主要目的是为了反共。1928年12月11日，蒋介石在庐山召开“剿共”会议，电召陈立夫参加。陈立夫即匆匆赶往庐山，在会上，陈立夫积极为蒋出谋划策，最后制定了湘鄂赣三省“剿匪”方略，决定对这一地区实施军事“围剿”。同时，陈立夫自告奋勇，在上海、南京、武汉等地区率领他的特务配合军事行动，加紧进行反共活动。蒋介石当即表示赞许，并命令他抓紧进行。陈立夫接受使命回南京后，即开始了一场旨在对中共地下组织进行大破坏的反共活动。
陈果夫与陈立夫分头指挥调查科的特务，对共产党展开了大规模的侦查、检举、密报、跟踪、绑架、逮捕、屠杀，这一时期，革命力量受到极大摧残。调查科在从事这些罪恶活动时，常常是直接指挥警宪机关协助进行。当时，南京首都警察厅督察长陈独真曾任过陈果夫的保镖，他能独当一面，负责首都警察厅的工作，也是由于陈果夫的提携，因此，对二陈兄弟是百依百顺。这样，调查科便与警察厅紧密结合在一起。调查科发现情况后，总是利用警察厅的名义，借故检查户口，深夜闯入被认为有共产党嫌疑的进步人士的私宅搜查，如发现进步书刊，便予没收，甚至当场施行逮捕。
调查科除了与警察厅配合工作外，还常与宪兵司令部一起行动。蒋介石多次指示调查科要和宪兵司令部密切协作，而陈立夫与宪兵陈立夫不仅控制着一党的政权，而且还控制着文化领域。司令谷正伦的关系更是超出一般。陈立夫被称为特务魁首，谷正伦被誉为宪兵之父，陈立夫主张特务工作要依靠宪兵，谷正伦则强调“宪兵常务、特务一元化”，所以谷、陈气味相投，关系十分密切。有一次，陈立夫应邀到南京宪兵学校对特务教育班第二期学员讲《唯生论》，他在台上高谈阔论，而谷正伦则在台下“洗耳恭听”，陈立夫一讲就是两个小时，谷正伦也立正“恭听”了两小时。这种恭顺态度使陈立夫深受感动，二人的关系进一步加深。后来，陈立夫还派其亲信徐恩曾为谷正伦担任宪兵司令部的顾问，这样一来，调查科与宪兵司令部可以不分彼此，宪兵、特务实际上是一家人了。所以，调查科可以肆无忌惮地随意抓人，抓来的人大都送往宪兵司令部监狱关押，而宪兵司令部对这些随意抓来的人往往不加审理，则以“反革命”论处，这种滥杀无辜的特务行径，对中国人民犯下了不可饶恕的罪行。
陈立夫主持调查科的时间不长，便被调任南京国民政府军事委员会机要科主任兼国民复兴委员会秘书长。但他对调查科这块肥缺是不肯轻易放下的，必欲牢牢控制在自己手中，因此在他离任时，便与其兄陈果夫商量，提拔他的亲信张道藩担任调查科长。
张道藩，贵州盘县人，早在天津读南开中学时，便与就读于北洋大学的陈立夫相识。1919年赴欧，考入英国克来佛穆学院，后又考人伦敦大学斯来德艺术学院学美术，并于1923年加入国民党，毕业后又赴法入巴黎艺术学院深造。1926年6月回国后出任广东省政府农工厅秘书，此时，与陈果夫、陈立夫搞到一起。由于他机警善辩，顽固反共，深得二陈信任，成为CC派中的核心骨干，所以陈立夫卸职后便由他主持调查科。
张道藩担任调查科长的时间也不长，很快便升任国民党中央组织部秘书兼蒋介石侍从室秘书，于是，二陈又安排其亲信吴大钧继任其职。吴大钧主持调查科一段时间后，二陈觉得不够满意，1929年8月，陈立夫担任国民党中央党部秘书长后，便将吴大钧调出，担任秘书处所属的中央统计处处长，然后再调另一亲信叶秀峰担任调查科长。
叶秀峰是江苏扬州人，与陈立夫是北洋大学同班同学，后来又一同赴美国留学，二人称兄道弟，私交极深。陈立夫让他主持调查科，是想让他当傀儡，但不久，陈立夫便发觉叶秀峰并不能俯首帖耳听他的话，不几个月便将他撤下，干脆派他的表弟徐恩曾取代其职务，出任调查科第五任科长。