Situé non loin de La Bouille, Caumont est un petit village de bord de Seine que tout le monde connaît sans le savoir. C'est ici, dans les carrières établies au sein des grottes du village, qu'ont été puisées les pierres qui ont servi à la construction de la plupart des grands monuments patrimoniaux du département. La cathédrale de Rouen, l'abbaye Saint-Georges de Boscherville, celle de Jumièges ou encore Notre-Dame du Havre, par exemple, ont été fabriquées grâce à cette roche. L'exploitation des carrières a fait vivre le village jusqu'au XIXe siècle.
Durant la Seconde Guerre mondiale, les Allemands ont souhaité construire une usine troglodytique dans les grottes, dont ils se servaient comme bunker, afin de fabriquer du gaz pour alimenter leur fusée V2. Ce grand projet amorcé vers la fin du conflit n'a finalement pas été achevé.
Les carrières ont alors démarré une troisième vie en abritant une champignonnière durant les années 1960. Si elles ont toujours ravi les amoureux des sites naturels et des esprits aventureux, les grottes sont aujourd'hui fermées au public, mais peuvent encore être explorées par les spéléologues.