三国吴赤乌二年，孙权析太末县南境置平昌县，盖因县治以东十五里，两山前后平垒如“昌”字而得名。晋太康元年，改平昌为遂昌。此后宋齐梁陈四朝皆沿袭如故。

清初遂昌县图

唐武德八年，废遂昌县建置，其地并入松阳县。景云二年，括州刺史孔琮将松阳以西地界恢复遂昌县。

遂昌由于僻处万山之中，环山傍水，一直未建城垣。以遂昌县境内形势而言，扼守山间关隘远比守卫县治要好的多。县南有贵义岭隘，县西有龙鼻头隘、坑西隘等，县北有新岭隘、北界隘（被誉为平昌锁钥）等。

清末遂昌县治图

明万历二十一年，遂昌迎来了新任知县汤显祖。现在人皆以汤显祖为文学家、戏剧家。实则汤显祖为王阳明的四传弟子，其在政治上的举措亦响名于当世。

1932年国民政府陆军部测绘遂昌县治

到任遂昌后，针对老虎伤人，凶徒无赖犯案后自由逃逸的情况，汤显祖设立四座城门：东门迎恩、南门南明、西门镇西、北门朝天，以土城垣围合。并组织人力捕杀老虎十七只。（邑人项应祥著有《新建土城记》，汤显祖亦有记）

1941年浙江省遂昌县图

汤显祖在任五年间，遂昌县风气为之一新。但万历二十六年，朝廷将派税使来遂昌以压榨金矿开采，汤显祖无力阻止，愤恨之下辞官归乡。之后百年，土城尽皆塌毁。

1941年遂昌县城区图

清康熙五十六年，知县何其伟建四门城楼，改东门名为来紫，南门名为丽正，西门名为阜成，北门名为拱极。

二战末美军航空测绘遂昌县周边地形

清初设把总一员，辖汛兵四十五员，县治设民兵一百十七人，另有马埠巡检司弓兵二十二人。康熙四十九年增设守备一员，千总一员，兵员三百。