30 января 1934 г. И.В. Калинин был задержан, помещён в тюрьму, но на следующий день освобождён под подписку о невыезде. На следствии дал показания: «Народ меня считает за праведника и прозорливца, я его не разубеждал в этом... Всем, кто приходил ко мне с жалобами или за советами, я давал эти советы, успокаивал и призывал к терпению». 26 февраля дело в отношении И.В. Калинина было прекращено «вследствие его болезни и преклонного возраста». И.В. Калинин вопреки запретам властей продолжал принимать искавших у него совета и наставления. Служил в Троицкой церкви села Соловцовка, а после её закрытия в 1935 г. ездил служить в Успенской церкви селя Князевка. 24 октября 1936 г. по доносу о чтении духовных стихов после службы был арестован, помещён в районную тюрьму села Кондоль, затем в тюремную больницу. 28 ноября перемещён в тюрьму в Пензе. Обвинялся в том, что «распространял о себе слухи как о «прозорливом старце», а посещение его верующими ряда сёл служило ему возможностью для возбуждения недоверия к советскому строю». На суде заявил: «Виновным себя не признаю. Люди ко мне ходили с горем поговорить. Про Советскую власть я никому и ничего не говорил». 19 марта 1937 г. выездной сессией Спецколлегии Куйбышевского областного суда приговорён к шести годам заключения. 26 мая Коллегией по спецделам Верховного Суда РСФСР приговор был отменён, И.В. Калинин освобождён. Во время Великой Отечественной войны молился о победе над фашистами. В октябре 1945 г. верующие добились решения об открытии в селе Соловцовка ранее закрытого Троицкого храма. 2 сентября 1946 г. храм был торжественно освящён Пензенским епископом Михаилом (Постниковым). В тот же день епископ Михаил рукоположил И.В. Калинина во иерея. За многолетнее служение церкви И.В. Калинин был награждён наперсным крестом «с украшением». Последние годы жизни его почитали как старца, он ежедневно принимал богомольцев, являя дар прозорливости, духовничества, исцеления и утешения. Давал короткие советы и наставления, исполненные глубокого смысла, исцелял болящих. Не только православные, но и местные мусульмане-татары относились к И.В. Калинину с глубоким уважением и часто обращались к нему за советом. По-прежнему вёл строжайше постнический образ жизни. Не ел ни рыбы, ни мяса, коленопреклонённо молился ночами, спал в гробу. Продолжал служить по праздникам в соловцовской Троицкой церкви, что вызывало недовольство уполномоченного Совета по делам РПЦ, требовавшего от епархиальных властей «прекратить указанные нарушения». Предвидел день своей кончины. Перед смертью И.В. Калинин приобщился Святых Таин. Панихиду в соловцовской Троицкой церкви служили четыре иерея. 8 августа гроб с телом И.В. Калинина несли на руках от Соловцовки до кладбища села Оленевка в сопровождении большой процессии верующих. 5 августа 1996 г. по благословению Пензенского архиепископа Серафима (Тихонова) состоялось открытие гроба И.В. Калинина, затем он был перенесён в соловцовский храм и похоронен за алтарём. 27 декабря 2000 г. определением Священного Синода РПЦ имя И.В. Калинина внесено в Собор новомучеников и исповедников Российских. Мощи святого почивают в храме во имя Живоначальной Троицы села Соловцовка.