Al borde del río Pas y a su paso por Puente Viesgo, se alza el Monte Castillo, una elevación caliza de forma cónica que esconde en su interior un intrincado laberinto de cuevas frecuentadas por el hombre durante al menos los últimos 150.000 años.
Entre esas cuevas, cinco de ellas con manifestaciones rupestres paleolíticas, destaca la de El Castillo, descubierta por Hermilio Alcalde del Río en 1903, y objeto de numerosos trabajos arqueológicos, cuyos resultados son referentes científicos para la comprensión del desarrollo y comportamiento humano durante la Prehistoria en el sudoeste de Europa.
A unos 675 metros de la conocida cueva de El Castillo, se abre la cueva de Las Monedas, la de mayor recorrido de las cavidades conocidas en el Monte de El Castillo.
El Pendo, cueva de amplia boca y vestíbulo de dimensiones monumentales. Fue excavada en 1878 por Marcelino Sanz de Sautuola y desde ese momento ha sido objeto de numerosas exploraciones arqueológicas que han culminado con el descubrimiento de un importante panel de pinturas rojas en 1997.
El estudio de sus yacimientos arqueológicos ha aportado información clave para el conocimiento del comportamiento humano, la evolución humana y tecnológica, a través del Hombre de neandertal y el Homo sapiens.