In de Romaanse delen van de crypte onder de Sint-Hermeskerk is materiaal van Romeinse gebouwen hergebruik, zoals dakpannen, hypocaustumtegels, mortelbrokken, enz... 1.
Vooral de vondst van een reliëf met een dansende bacchante springt in het oog. Een dergelijke iconografie is doorgaans in verband te brengen met de Dionysuscultus. In de nabijheid van de Sint-Hermeskerk kwam tevens een mogelijke mijlpaal uit de Romeinse periode aan het licht2.
Er is hier ook een klein museum gevestigd met archeologische vondsten.