Его сторонники удерживали лишь три пензенских храма (Спасский собор, Богоявленскую и Воскресенскую церкви); 13 городских храмов Пензы и все остальные приходы епархии сохраняли верность патриарху и подчинялись Иоанну. В апреле 1920 г. в Патриаршую церковь вернулся Воскресенский приход. 25 апреля Владимир Путята попытался захватить пензенскую Успенскую церковь, однако Иоанну удалось отстоять храм и не допустить беспорядков. 28 апреля 1921 г. патриарх Тихон назначил Иоанна архиепископом Рижским и благословил на отъезд в Латвию. 23 мая по просьбам пензенского клира и мирян это решение было отсрочено, однако 19 июля ввиду неотступности просьб Латвийской церкви Тихон благословил Иоанна на служение в Латвии. 24 июля 1921 г. Иоанн прибыл в Ригу и вступил в управление ЛПЦ. Первоначально он был враждебно принят латвийскими властями. Патриарх Тихон в соответствии с постановлением Священного Синода и Высшего Церковного Совета РПЦ даровал Иоанну как руководителю Латвийской церкви широкую самостоятельность в административных, хозяйственных и просветительских делах, однако власти требовали полного разрыва с Русской церковью. После первой же поездки по епархии Иоанн был привлечён к следствию по обвинению в политическом преступлении, допрошен, затем следствие было прекращено. Урегулировав взаимоотношения с Римско-католической и лютеранской церквами, власти Латвийской республики отказывали православной церкви в официальном признании её прав. С 1919 г. у церкви было конфисковано около четверти собственности, 28 храмов были переданы светским организациям, а также лютеранам или католикам, часть храмов была снесена, оставшиеся у православных церкви находились в полуразрушенном состоянии. Был отобран рижский Алексеевский мужской монастырь с архиерейской резиденцией. Иоанн поселился в подвале Христорождественского кафедрального собора Риги. По словам архиепископа, его подвал «символизирует нынешнее положение Православной Церкви в Латвии». Иоанну пришлось приложить много сил для восстановления обычной череды богослужений в храмах Латвии. Он посетил все латвийские приходы, много служил, полностью отдавался службе и того же требовал от священнослужителей, сурово карал священников за нерадивое отношение к пастырским обязанностям. По словам Иоанна, «жизнь пастыря не может быть праздна. Это непрерывный утомительный труд, полный горести».