В 1952 г. овдовел. 17(20?) декабря 1955 г. в Сергиевском храме Троице-Сергиевой лавры был пострижен в монашество с именем Иоанн в честь особо почитаемого им св. Иоанна Крестителя архимандритом Пименом (Извековым; впоследствии Патриарх Московский и всея Руси). 22 декабря возведён в сан архимандрита. 25 декабря хиротонисан во епископа Таллиннского и Эстонского. Хиротонию возглавил Патриарх Московский и всея Руси Алексий I в московском соборе Богоявления в Елохове; ему сослужили Крутицкий и Коломенский митрополит Николай (Ярушевич), Алеутский и Североамериканский архиепископ Борис (Вик), викарий Ленинградской епархии Лужский епископ Роман (Танг). Иоанн часто посещал епархиальные храмы, в том числе и отдалённые (в Лелле, Мярьямаа). Обладал ораторским даром, проповедовал на русском, эстонском, латышском, французском, немецком языках. Поддерживал добрые отношения с архиепископами Евангелическо-лютеранской церкви в Эстонии и Латвии Яном Кийвитом и Густавом Турсом, а также с руководителями других церквей и религиозных объединений. Принимал в Таллинне участников Пражской конференции христианской молодёжи (декабрь 1960 г. – январь 1961 г.). С 25 мая 1958 г. по 14 августа 1961 г. также временно управлял Рижской и Латвийской епархией. Часто приезжал в Ригу, совершал богослужения во многих приходах, иногда на латышском языке. Присутствовал в Ленинграде на погребении Ленинградского и Ладожского митрополита Елевферия (Воронцова; 31 марта 1959 г.). В 1960 г. принимал в Риге делегацию Всемирного Совета Церквей. 17 июля 1961 г. принял участие в ежегодных торжествах в Троице-Сергиевой лавре. 14 августа 1961 г. назначен на Горьковскую и Арзамасскую кафедру с возведением в сан архиепископа. В период хрущёвских гонений на церковь Иоанн препятствовал закрытию храмов под видом «затухающих», комплектуя штаты церквей. Важно было не оставлять храмы без священников, что служило поводом к закрытию. Иоанн, несмотря на сопротивление, представлял уполномоченному Совета по делам РПЦ (с декабря 1965 г. – Совет по делам религий) по Горьковской епархии на утверждение кандидатов из своей и других епархий, уговаривал служить священников, уже вышедших за штат. При нём из 50 храмов, расположенных в Горьковской области, было закрыто только четыре. Часто служил в церквах епархии, во время служб произносил проповеди, что вызывало недовольство со стороны властей. В служебном докладе уполномоченного Совета по делам РПЦ сказано, что Иоанн «личным примером... несомненно, побуждает духовенство к проповедничеству». 11 мая 1963 г. награждён правом ношения креста на клобуке. Летом 1963 г. участвовал в отпевании Виленского и Литовского архиепископа Романа (Танга), после чего посетил Таллинн, навестил знакомых. После возвращения в Горький состояние его здоровья резко ухудшилось. 25 мая 1965 г. уволен на покой с назначением пенсии. 19 июня 1966 г. Ивановский и Кинешемский епископ Поликарп (Приймак) совершил отпевание в горьковском Троицком кафедральном соборе. 22 июня, согласно завещанию, Иоанн был погребён на Александро-Невском кладбище в Таллинне, рядом с могилой жены.