Đền Ngọc Sơn được xây trên hòn đảo phía bắc Hồ Gươm cách bờ bắc khoảng 200m, bờ đông khoảng 50m. Hòn đảo nhỏ này vốn là một cồn cát của khúc sông Nhĩ Hà (sông Hồng) xưa, có diện tích 2067m vuông, nhô cao hơn một nước 0,7m.
