早期历史：信号山在清代被称为“大石山”，是青岛村的所在地，曾是胡姓族人的“山场”。

德占时期：1897年德国侵占青岛，首先强占信号山，将其作为制高点，并把枪口对准清政府的总兵衙门，迫使清军撤离。德国人在山上建起青岛最早的无线电台，设立指挥船舶进出胶州湾的信号导向台，将此山命名为“齐格纳山”“狄特里希山”等，还在山上建立了“占领纪念碑”。

图片来自免费图库

日占时期：1914年日本第一次占领青岛后，改名为“神尾山”，并在迪特里希碑的主碑中央加刻了“大正三年十一月七日”几个字，以显示其“战胜国”身份。

图片来自免费图库

收回主权后：1922年中国收回青岛主权，1923年，胶澳商埠督办公署将此山正式定名为“信号山”。

图片来自免费图库

建国后：1984年，青岛市人民政府决定将信号山改建成山头公园，1987年建成开放，1989年续建旋转观景楼。2002年，信号山被评为“青岛市新十佳景点”；2003年被省旅游局评定为国家3A级旅游景区；2023年，信号山公园被列入《青岛市具有历史价值的公园保护名录（第一批）》。​