小青岛位于青岛湾栈桥东南，是青岛湾中一座孤立的小岛。面积约一点二万平方米，海拔高度只有17米，距离堤岸
720米。岛子小巧如螺，山岩峻秀，林木蓊倩，因此得名为小青岛。清乾隆十六年（公元1751年）的《灵山卫志》，载：“小青岛在滩子口对岸，入海者必由之道”。淮子口即胶洲湾内入海口一段水域的称谓。小青岛又名“琴岛”，因该岛形如琴，水如弦，风吹波间铮铮如琴声，故又被人们称为“琴岛”。
小青岛原为一孤岛，清光绪二十六年（公元1900年），德国人在小青岛之巅建了一座灯塔，高155米，塔为白色，呈现八角形，是国内外船只进出胶州湾的重要航标。40年代初，小青岛东西筑有防波堤与陆地相接，北面亦筑起一段防波堤。
30年代初，小青岛曾被辟为“小青岛公园”，设有茶厅、花圃、石凳、石椅、架了牌坊，辟建了道路，修筑了游艇码头，游人可登船前往。日本二次侵占青岛后，成为日军驻地，此后一直被作为军用。自80年代后期，经规划建设，重对游人开放。前人写了一首描绘小青岛风情的诗，被解放前后多种旅游类书刊收录：“领略青山不在多，水中一岛小如螺。云鬟别有飘萧态，似向风情浴晚波。”