中常会秘书处在1926年5月以前由中常委互推3人组成，后因二届二中全会决议于中常会暂设主席1人，于是秘书处也改为秘书长制。1927年1月，北伐军进驻南昌后，取消了秘书长制，重新恢复3人担任常务秘书，分管文书、会务、财务。在特别委员会时期，又曾一度改为秘书长。三届一中全会正式决议实行秘书长制，由1位中常委出任，取消3位中常委分别负责的制度。

二届五中全会之后，秘书处设置7科办公，即议事、文书、统计、交际、会计、庶务、卫生，另有档案整理处以及《党务月刊》编辑委员会。秘书处负责综理不属于中央党部各部会的全部事务，主要有收发登记、批核攥拟、记录发布、编纂印刷、整理保管、绘制统计、往来交际、用品购置分配、缮修营造党费捐项出纳、编制预算决算等事宜。

开始时，秘书长并没有要求一定是中常委，所以陈立夫可以担任秘书长，及至丁惟汾、叶楚伧相继出任秘书长时，要求秘书长一定是中常委，负责处理日常党务工作。中常会开常务委员会议时，秘书长列席，负责整理中央党部各机构报告，提交中常会，安排会议议事日程，因此，秘书长在党中央的地位崇高，负有具体领导中央党部党务的职责。

出任中央秘书长的有陈立夫、丁惟汾、叶楚伧3人。三届一中全会选任的陈立夫，年仅30岁，自留美回国后，就跟随蒋介石办党务。丁惟汾在1904年就参加了同盟会，是国民党耆宿，长期从事党务工作，虽然曾参与“三民主义大同盟”的反蒋活动，但三大后被蒋介石收编，进入了南京中央。叶楚伧是国民党元老、西山会议派干将，也被收编，转而拥蒋。从三人政治倾向分析，不难看出，秘书长长期由蒋系或是亲蒋人士担任，对党权运作有很大的影响，“中央党部秘书长有左右事情的影响力，而且对整个党部都有这种力量”。