В 495 г. настоятель предписал ему отправиться для восстановления здоровья в Арелат, который славился врачами. В Арелате Кесарий имел родственные связи. Таким образом, хотя Кесарий потерпел неудачу в стремлении к жизни в монастырском уединении, в Леринском монастыре он приобрёл ценный аскетический опыт и административные навыки, которые помогли ему в дальнейшем епископском служении. После прибытия в Арелат Кесарий был принят в доме благочестивых родственников Фирмина и Григория. Исследователи  высказывали предположение, что Фирмин впоследствии стал епископом и одним из авторов Жития Кесария. Некоторое время Кесарий занимался грамматикой (grammaticae artis doctrina) с жившем в Арелате знаменитым ритором Юлианом Померием, который происходил из Северной Африки, был почитателем Гиппонского епископа Августина Блаженного позднее стал священником в Галлии. Однако Кесарий сомневался в пользе для него светского образования. Этим сомнениям положило конец одно сновидение: когда утомлённый занятиями Кесарий заснул, подложив под плечо книгу, данную ему Померием, он увидел, что плечо и часть руки, которая лежала на книге, изъедены драконом. После такого сновидения Кесарий окончательно оставил классическое образование (в этом эпизоде исследователи видят параллель со сном Иеронима Стридонского). Впрочем, взгляды Померия, изложенные в его трактате «О созерцательной жизни», по мнению исследователей, стали одной из теоретических основ церковной реформы, инициированной Кесарием в Галлии. Вскоре Кесарий был приближён Арелатским епископом Эонием, который был его родственником. Он получил у Поркария разрешение взять Кесария в свой клир и рукоположил его сначала во диакона, а потом во пресвитера. Будучи клириком, Кесарий продолжал придерживаться обычаев Леринского монастыря. В 499 г., после смерти настоятеля монастыря, который находился в пригороде Арелата, на острове реки Роны (считается, что этот монастырь был основан Гоноратом Арелатским), епископ Эоний назначил Кесария его настоятелем, чтобы восстановить там дисциплину. По мнению исследователей, епископ Эоний заранее готовил Кесария к тому, чтобы он стал его преемником, и это назначение позволило Кесарию проявить себя в качестве умелого администратора. Задолго до своей кончины епископ Эоний убеждал сограждан, что именно в Кесарии они найдут наиболее достойного предстоятеля церкви. Должность настоятеля Кесарий занимал около трёх лет. Существует предположение, что именно в это время и для этого монастыря Кесарий составил «Правило для монахов», однако это мнение не поддерживается современными исследователями. После смерти епископа Эония Кесарий был поставлен епископом Арелата. Это событие исследователи относят к декабрю 502 г. или, следуя другой хронологии, к 503 г. Исходя из значительного временного интервала (не меньше четырёх месяцев) между преставлением епископа Эония и епископством Кесария, а также из того, что между епископом Эонием и Кесарием в одном из диптихов Арелатских епископов упоминается некий епископ Иоанн, высказывалось предположение о наличии в городе сильной оппозиции епископу Эонию и о борьбе за власть при избрании нового епископа.