Там он был вновь схвачен и приведён к императору Максимиану Галерию (293–311 гг.) в Сирмий (ныне Сремска-Митровица). Войдя в город, он молитвой обратил в прах всех идолов, после чего 400 тыс. человек уверовали во Христа, некоторые из них сразу же приняли мученическую смерть. Еразм перенёс жестокие пытки, но остался невредим. Его заточили в темницу, откуда он был выведен архангелом Михаилом. Еразм прибыл в Кампанию, в город Формии, и через семь дней мирно скончался. Исследователи полагают, что в «Мученичестве» Еразма смешаны легенды о нескольких святых. В Мартирологе Узуарда (IX в.) под 25 ноября содержится память мученика Еразма в Антиохии. Источник этой записи исследователям неизвестен. По предположению Ж.Б. дю Солье и Ипполита Делеэ, не сохранившееся Житие Еразма Антиохийского было использовано при составлении «Мученичества» Еразма. Почитание Еразма в Формиях по данным археологии прослеживается со второй половины IV в., когда мощи святого были перенесены на загородное кладбище, и над ними был воздвигнут мартирий (следов первоначального захоронения в мартирии исследователи не обнаружили). Исследователи полагают, что Еразм был сирмийским исповедником, который скончался в Формиях. Однако исследователи не исключают, что мощи мученика были перенесены в Формии после того, как в конце IV в. Сирмий был захвачен готами. Память Еразма под 2 июня значится в мраморном Неаполитанском календаре (первая половина IX в.), а также в Синаксаре Константинопольской церкви (архетип конца X в.). В конце VIII или первой половине IX в. крипта под церковью священномученика Еразма, служившая усыпальницей Формийских епископов, была перестроена и расширена. Однако к этому времени город пришёл в упадок, население сосредоточилось в замках Мола и Кастеллоне. В 681 г. епископ Адеодат II укрылся от нападения лангобардов в близлежащей крепости Гаэта. В 787 г. епископ Кампул также пребывал в Гаэте, где с этого времени, по мнению исследователей, находилась резиденция Формийского епископа. В датированной этим годом грамоте он впервые назван епископом города Гаэта (episcopus civitati Caietanae), однако его преемники по-прежнему именовались епископами Формийскими. В середине IX в. Формии подверглись нападению арабов, которые уничтожили город. Мощи Еразма были перенесены в Гаэту и положены в церкви Богоматери. Начиная с епископа Райнульфа (Рамфа; упоминается в 867 г.), епископы носили титул Гаэтских. По свидетельству Иоанна Каэтана, мощи мученика были вновь обретены епископом Боном в 917 г. При участии правителя Доцибила II (933–954 гг.) началось строительство нового кафедрального собора во имя Богоматери и Еразма. Храм был освящён в 1106 г. папой Римским Пасхалием II. Впоследствии собор неоднократно перестраивался, в 1148–1279 гг. была сооружена колокольня, ставшая символом города. В крипте храма под алтарём покоятся мощи Еразма, священномученика Маркиана Сиракузского и других святых. О существовании церкви священномученика Еразма в Кастеллоне вновь упоминается в 934 г. В 1016 г. при храме находился монастырь, переданный в середине XI в. аббатству Монте-Кассино.