为适应对外开放和旅游的发展，市政府决定将此山开辟为公园。1983年4月9日动工，1985年3月24日竣工开放，建筑面积800平方米，是我市第一座古典风格的山头园林公园。

　　主建筑“览潮阁”三层八角，高18米，和前海栈桥的迴澜阁遥相呼应。阁内有螺旋式楼梯，外设护栏平台，人们可沿平台绕阁一周，饱览“蓝天、碧海、青山、绿树、红瓦，黄墙”这一青岛的独特风貌。山之西坡有一挑檐式云角亭，因站在亭内足以一览碧波荡漾的江泉弯，而取名为“碧波亭”。东面是四角的“拥翠亭”，其风格和“碧波亭”相似。上述三处的匾额，皆是著名的艺术大师吴作人先生所题。“拥翠亭”下面是顺山势而建的飘台式三层楼宇，二层设茶厅雅座，可容游人小憩。

　　“览潮阁”和“拥翠亭”连接处的正面，有一直径2米的白色雪花石浮雕“鱼”，以象形字组成，线条拙朴、典雅，是小鱼山山徽。北廊壁上镶嵌着长9米，高2.67米的瓷板釉彩壁画《八仙过海》，其设计获全国美展一等奖。]东廊壁上镶嵌着长9.1米，高2.67米的大型瓷板釉彩壁画《蒲松龄宇宙》，描绘了蒲松龄故居和《崂山道士》、《促织》、《席方平》等聊斋故事情节，构图丰满，韵味深长。整个小鱼山公园围绕“海”的主题，突出了“鱼”的图案造形，构思新颖，使古典园林呈现出时代的气息，使自然美，建筑美和艺术美融为一体，在建筑风格上颇具特点。

　　小鱼山公园的树木以五角枫为主，为配合园林建筑，种植了黑松、银杏、樱花、千首兰、月季等各种绿树和花木，顺山势修建的游览小路掩映其中。