Иоанн представлен погрудно или по пояс внизу, под зданием храма (Исторический музей, Егорьевский историко-художественный музей, частные собрания). Единоличный образ Иоанна традиционной иконографии (с небольшой бородой и волосами на прямой пробор, в пещере, с раскрытой книгой) известен, например, на резной иконе второй половины XIX в. (музей Андрея Рублёва). В монументальной живописи образ Иоанна, трактованный в академической манере, встречается, например, в росписи интерьера храма Христа Спасителя, рядом с композицией «Крещение киевлян равноапостольным великим князем Владимиром» (1870 гг., художник Дмитрий Никифорович Мартынов). В стенописи галереи русских святых в Почаевской Успенской лавре Иоанн введён в группу подвижников XII в. (живопись конца 1860 – 1870 гг. работы иеродиаконов Паисия и Анатолия, поновлена в 1970 гг.). Исследователи находят необычным – седобородый старец, в мантии и клобуке, с Евангелием в руках – Иоанн написан на оконном откосе храма церкви Всех святых над Экономическими воротами Киево-Печерской лавры (1906 г., художник Иван Сидорович Ижакевич с учениками). Как один из самых почитаемых Киево-Печерских святых, Иоанн включён в Собор русских святых на поморской иконе конца XVIII – начала XIX в. (Музей изобразительных искусств Республики Карелия); на иконе письма мастера-старообрядца П. Тимофеева 1814 г. (Русский музей); на иконе первой половины XIX в. из деревни Чаженьга Каргопольского района Архангельской области (Третьяковская галерея). Его образ находится в левой группе преподобных во втором ряду среди других Киево-Печерских чудотворцев (между преподобными Марком Гробокопателем и Алипием): Иоанн написан обнажённым по пояс, с непокрытой головой, окладистой бородой и крестообразно сложенными руками. На иконе русских чудотворцев середины – второй половины XIX в. (Третьяковская галерея) Иоанн изображён в мантии и куколе в третьем ряду справа, на иконе первой половины XIX в. из старообрядческой моленной на Волковом кладбище в Санкт-Петербурге (музей истории религий) – в набедренной повязке, крайним слева в первом ряду. В композиции «Все святые, в земле Русской просиявшие», разработанной монахиней Иулианией (Соколовой) под руководством Афанасия (Сахарова), на иконах 1934 г., начала 1950 гг., конца 1950 гг. (две в ризнице Троице-Сергиевой лавры) и на списках иконописцев конца XX – начала XXI вв. (храм Христа Спасителя, церковь святителя Николая в Клённиках и др.) Иоанн – в нижней части композиции в группе чудотворцев Ближних пещер. Исследователям известны современные иконы Иоанна, например, перед входом в храм во имя Иоанна в Голосеевской пустыни в Киеве (написана на основе надгробной иконы из пещер).