1927年5月7日，国民党中央政治会议第89次会议议决建立上海特别市，直隶于国民政府。同日公布《暂行条例》，设市长1人，参事若干人，下置财政、工务、公安、卫生、公用、教育、土地、港务、工商、公益等10局。7月7日市政府正式成立。1928年7月3日公布《特别市组织法》，改设秘书处及财政、土地、社会、工务、卫生、教育等7局。1930年6月20日，上海特别市改为行政院直辖市。1937年11月12日上海失陷。

历任市长：

黄郛（1927年5月18日任），浙江上虞人，蒋介石结拜兄弟，辛亥元勋。他曾于1924年参与冯玉祥发动的北京政变，代理内阁总理并摄行总统职权，主导驱逐溥仪出紫禁城‌。

张定藩（1927年8月26日任），江西南昌人，新桂系赣籍将领。

张群（1929年3月27日任），四川华阳人，蒋介石核心幕僚，新政学系首脑。

吴铁城（1932年1月6日任），江西九江人，孙中山亲信，辛亥元勋，新政学系骨干成员。

俞鸿钧（1937年7月27日任），广东新会人，新政学系外围成员。他在抗战时期稳定金融体系，赴台后又推动台湾初期经济发展，故被誉为“财经救火队长”‌。

1945年8月上海光复，市政府重建。1947年11月27日行政院公布上海市政府《组织规程》，市政府隶属于行政院。设市长1人，秘书长1人，参事6人，下置民政、财政、教育、社会、地政、卫生、工务、公用、警察等9局，以及总务、会计、统计、人事、新闻、审计、侨务、调查等处。1949年5月27日上海解放。

历任市长：

钱大钧（1945年8月14日任），江苏吴县人，蒋介石“八大金刚”之一，长期担任其核心幕僚（如侍从室主任、侍卫长）‌。

吴国桢（1946年5月14日任），湖北建始人， 他在抗战期间协助宋美龄开展外交与宣传工作，并深度参与空军建设等关键事务，被称作宋的“第一助手”‌。

陈良（1949年5月5日任），浙江临海人，日本青山农业大学、北京陆军军需学校毕业。1949年5月上海解放前夕，原市长吴国桢因战局恶化提前辞职逃离，国民党当局急需稳定上海行政体系，陈良作为市政府秘书长被临时推上代理市长职位‌。

赵祖康（1949年5月17日代），上海松江人，道路工程专家、市政规划专家，与詹天佑、茅以升并称为中国交通工程三杰。他在上海解放前夕短暂担任上海代理市长，在此期间，他接受中共地下组织的指示，维护社会治安、恢复交通秩序、确保市政部门的档案财产免遭破坏，并协助军管会顺利接管。