Почти ежегодно организовывались курсы для молодых учителей; учащиеся духовной семинарии и воспитанницы Рязанского епархиального училища охотно шли преподавать в церковноприходские школы, имея опыт работы в школе при духовной семинарии, где они проходили практику в качестве учителей. Протоиерей И.К. Смирнов принимал активное участие в работе братства Василия Рязанского, миссионерского общества, епархиального училищного совета, редакции «Рязанских епархиальных ведомостей», местного отделения Императорского Православного Палестинского общества, приобщая к активной деятельности преподавателей духовной семинарии. С 1884 г. был действительным членом Рязанской учёной архивной комиссии. После смерти супруги остался с четырьмя взрослыми детьми. 28 июля 1901 г., согласно прошению, был уволен от должности ректора Рязанской духовной семинарии. 13 сентября того же года пострижен в монашество с именем Иоанн, 14 сентября возведён в сан архимандрита с причислением к братии Троицкого мужского монастыря города Рязани. В том же году был вызван в Санкт-Петербург, в Александро-Невскую лавру, для чреды священнослужения. 9 апреля 1902 г. наречён епископом Чебоксарским, вторым викарием Казанской епархии. 28 апреля хиротонисан в Исаакиевском соборе Санкт-Петербурга. В качестве викария Казанской епархии был председателем епархиального училищного совета, заведовал избранием и назначением на приходы псаломщиков. Имея многолетний опыт просветительской работы, взял на себя заботы по улучшению церковно-школьного дела в епархии, часто объезжал с инспекцией школы. 4 февраля 1904 г. назначен епископом Полтавским и Переяславским. По-прежнему уделял большое внимание делу духовного просвещения, совершенствованию учебного процесса в духовных и светских учебных заведениях. В 1906 г. стараниями Иоанна при епархиальном управлении был организован археологический комитет, создано Полтавское древлехранилище. С 13 августа 1910 г. – епископ Рижский и Митавский, почётный настоятель рижского Алексиевского мужского монастыря. 6 мая 1912 г. возведён в сан архиепископа. Занимаясь делами приходов, несмотря на преклонный возраст, много ездил по епархии. Брал на себя защиту православного латышского и эстонского населения, права которого часто ущемлялись помещиками-немцами, старался выдвигать из числа латышей и эстонцев священников и учителей приходских школ. С началом Первой мировой войны организовал в епархии уход за ранеными, окормлял семьи погибших и помогал беженцам. В 1915 г. в связи с приближением фронта по требованию военных властей был эвакуирован с епархиальными учреждениями из Риги в Юрьев (ныне Тарту, Эстония), продолжал оттуда руководить частью епархии, которая осталась не занятой немецкими войсками.