Đền còn có các tên gọi khác như Tứ vị Hồng Nương (theo tên các vị thánh được thờ tại đền), hay đền Yên Thuận Hạ (theo tên địa danh cũ và để phân biệt với đền Yên Thuận Thượng ở 25 Hàng Than).

Đây là nơi thờ Tứ vị Thánh Nương: Thái hậu họ Dương, và ba công chúa nhà Nam Tống (Trung Quốc) do chạy trốn quân Nguyên Mông nên đã trẫm mình xuống biển tự vẫn. Xác của các vị trôi dạt đến cửa Càn Hải (xã Phương Cần, huyện Quỳnh Lưu, tỉnh Nghệ An) và được nhân dân thờ phụng.

Tương truyền, Tứ vị Thánh nương thường hiển linh, phù hộ cho dân chài đi biển an toàn và đã phò trợ các đời vua Trần Anh Tông, Lê Thánh Tông dẹp giặc ngoại xâm, giữ yên bờ cõi. Vì thế, các đời vua sau này đều sắc phong “Quốc mẫu Hoàng Bà Đại Càn Quốc gia Nam Hải Tứ vị Thánh Nương Thượng đẳng thần” và lập đền thờ phụng ở nhiều nơi trên cả nước, trong đó đền Tứ Vị ở phố Hàng Than ngày nay là nơi thờ vọng.

Trước đây, đền có mặt bằng kiến trúc kiểu chữ “Nhị”. Ngày nay, đền mang dáng dấp kiến trúc thời Nguyễn. Hậu cung gồm 3 gian 2 chái chạy dọc, mái lợp ngói ta, xây tường bao khép kín, phía trước mở hai cửa tả - hữu thông với hàng hiên.

Tại đền Tứ Vị hiện còn bảo lưu một số di vật có giá trị như 2 câu đối và 1 cửa võng sơn son thếp vàng, trang trí theo phong cách nghệ thuật thế kỷ XIX; 12 pho tượng Mẫu mang phong cách nghệ thuật thế kỷ XIX - XX, 1 quả chuông đồng, 2 bức cuốn thư, 3 bộ khám thờ, 7 bộ long ngai, 1 giá gươm, 4 lọ lộc bình men trắng mang phong cách nghệ thuật thế kỷ XIX - XX. Đặc biệt, tại đền còn lưu giữ bộ tranh thờ gồm 5 bức vẽ lụa cổ thể hiện trình độ nghệ thuật cao cùng 5 đạo sắc phong có niên hiệu sớm nhất là Tự Đức năm thứ 6 (1853) và muộn nhất là Khải Định năm thứ 9 (1924). Ngoài ra, trong đền còn có tấm bia “Trần Thị bi ký” dựng năm Thành Thái thứ 14 (1902) ghi lại sự linh ứng và công lao của Tứ vị Thánh Nương đối với đất nước.

Vào ngày 16 tháng Giêng hằng năm - ngày hóa của Tứ vị Thánh Nương, nhân dân trên địa bàn lại tổ chức lễ thánh với nhiều phong tục còn được gìn giữ đến ngày nay như tránh đọc các chữ húy, không được mặc áo đỏ; mỗi kỳ kỵ nhật phải biện rượu để cáo miếu rồi mới cáo kỵ. Lễ vật gồm 1 thủ lợn, 1 mâm xôi đầy, trầu cau, rượu trắng...

Theo Quỳnh Ngọc (HNMO)