舊上海特別市政府大樓位于長海路399號體育學院內，由著名中國建筑師董大酉設計，朱森記營造廠承建.大樓前有廣場，外觀3層，連屋頂里的夾層共4層，鋼筋混凝土框架結構,仿宮殿式建筑，大門前兩旁有石獅一對。
1929年7月中華民國上海市政府第123次會議通過了一項計劃，即《大上海計劃》。1929年10月1日，市政府決定公開征集設計圖案并懸賞3000元。1930年2月獲獎圖案正式揭曉，1931年6月隆重開工。1932年1月中旬，工程即將竣工之時，“一。二八”戰事爆發，工程被迫停工。1932年3月，停戰。該工程又立即于7月重新開工，于1933年10月10日正式落成。上海淪陷后，市府大樓先后被日寇，汪偽霸占作為辦公地。抗戰勝利后，國民黨市政府遷入原租界，市府大樓改作國立體專。1949年后這里曾為上海市行政干部學校的校舍，體專，華東體院，1956年改名為上海體育學院院部辦公樓。
舊上海特別市政府為第五批上海市文物保護單位。