Ngay nơi chân cầu thang đưa lên hang đá chính có một bức tượng Murugan đứng khổng lồ - cao 42.7 mét, cao nhất thế giới, làm bức tượng này tốn 24 triệu rupees tức gần 340,000 đô la, dùng 1550 mét khối xi-măng, 259 tấn sắt cây và 300 lít sơn vang mua từ Thái Lan. Bức tượng này đã được khánh thành vào tháng Giêng năm 2006 sau 3 năm thực hiện công trình này. Tượng đứng Murugan là trọng tâm của lễ hội hàng năm của cộng đồng người Hồi Giáo Tamil, có tên là Thaipusan (Thaipusan Festival). Lễ hội thu hút những nguời hồi giáo tử khắp nước và cả từ các nước như Ấn Độ, Úc Châu, Singapore. Buổi lễ cử hành từ sáng sớm tinh sương tại ngôi đền Sri Mahamariamman ở Kuala Lumpur rồi những dân hành hương đi thành hàng dài kéo tới Batu Caves hành lễ tám tiếng đồng hồ nữa tại nơi đây, họ dâng hiến những hũ sữa to lớn bằng xành hay bằng đồng lên thần Murugan. Những người lực lưỡng khiên trên vai những cái kiệu hoa chở những vại đồng hay xành chứa sữa (có tên gọi là kavadi) để dâng lên thần vị thần chiến tranh là Lord Muruga. Nhiều người biểu diễn những mục kinh hoàng: họ lấy nhiều xiên xắt xiên qua má môi hay mũi từ bên này qua bên kia không hề hấn gì. Có người lại để cho người khác lấy những giáo nhọn đâm sâu vào lưng hay vào ngực, trông thấy sợ phát khiếp!
Trước khi bước lên cầu thang để leo lên hang có ngôi đền, các người hành hương phải đi xuống con sông Sungai Batu (Rocky River) gần đó tắm rửa sạch sẽ đã. Những kẻ kênh kiệu – có kiệu nặng trên 100 ký - phải dừng ở chân cầu để nghỉ trước khi làm cuộc hành trình kho nhọc là leo hơn 200 bực thang để lên tới cái đền chính. Còn những kẻ xiên má mũi môi hay mang những cây giáo lủng lẳng trên lưng hay trên ngực thì được các giáo sĩ vẩy tro lên người rồi sau đó họ được phép tháo gỡ những cây xiên cây giáo ra mà không hề hấn gì.