Động Kim Quang là một hang động khá rộng nằm về hướng Nam núi Bà Đen. Từ chân núi đi theo triền núi khoảng 500 mét là đến hang động này. Tuy ở cách chân núi không xa, và ở độ cao chưa tới vài trăm mét, nhưng địa hình nơi đây khá hiểm trở. Muốn vào đến hang động, từ chân núi phải vượt qua một vực sâu khoảng 4-5 mét, rộng hàng chục mét và trải dài như một con suối.
Đây là nơi đóng quân của huyện đội Tòa Thánh gồm 60 đồng chí mang số C34. Động Kim Quang được xem là căn cứ địa bất khả xâm phạm của lực lượng quân giải phóng. Theo một trong những người thuộc thế hệ đầu tiên đến sử dụng động Kim Quang làm căn cứ cách mạng, kể lại rằng “Thời điểm đó, bà Chánh, người phụ trách trông coi các chùa trên núi Bà Đen đã cử một nhà sư, thường gọi là ông Tư đến ở trong động để tu, giữ động và đặt tên là động Kim Quang. Sau Đồng khởi, lực lượng cách mạng phát triển mạnh mẽ, cần có địa bàn thuận lợi hoạt động, nên vận động ông Tư về chùa khác ở vùng đông dân cư tu hành, để cách mạng sử dụng khu vực núi non hiểm trở này làm căn cứ hoạt động. Ông Tư đồng ý xuống núi và đi về chùa khác tu hành”.