北伐完成，孙中山规定的军政时期即告结束，训政阶段自应开始。而所谓训政，就是要以党代军，来负起指导政府和训练民众的责任。因此，南京方面部分国民党人在二次北伐后，很快就开始依照《国民政府建国大纲》中的规定，提出训政和党治的问题来了。
在这方面，最为积极的就是自认为国民党元老的胡汉民。还在1928年初，身在海外的胡汉民得知国内北伐和清党进展顺利，就曾雄心勃勃地表示，对北伐和清党，“弟无能为役”，“盖革命事业，其始必以军事为政治之核心”；但军事胜利之后，军事同志即应将此核心“以互让互励精神移之至政治方面”，以便分工合作，完成建设之使命。6月3日，眼看二次北伐即将完成，人尚在欧洲的胡汉民致电南京国民政府代主席谭延闿，强调应在二届五中全会上提出：“北伐完成，当依总理建国大纲，期主义之实现。”而主义实现的关键在于：“（一）以党统一，以党训政，培植宪政深厚之基。（二）本党重心，必求完固，党应担发动训政之全责，政府应担实行训政之全责。（三）以五权制度作训政之规模，期五权宪政最后之完成。”
胡汉民依据《国民政府建国大纲》提出建议，主张继承孙中山的遗志，推动训政的实现，以达到恢复党权，结束北伐以来备受各方抨击的军权凌驾于党权之上的局面。他指出：一切权力应由党集中，由党发施，不仅党外无党，且党外无政，政外无党。政府由党负保姆之责，由党指导，由党拥护。在人民未经政治训练及未完全了解三民主义以前，唯有党能代表全国人民负建国之大任，也唯有党能领导全国人民向实现三民主义的目标前进。而为有利于党治的实施和避免治权过于集中，胡汉民还特别提议将本应实行于宪政期间的五院制提前至训政阶段，国民政府为五院会集之总枢纽，即合五院之组织而总称之为国民政府。五院主席即为政府常务委员，并于五常委中指定一人为政府主席。注意到国民党中央这时规定实行的还是委员制，不难了解，胡汉民的上述主张十分明显地是想要以党治来限制北伐以来过于膨胀的军权。