На раннем этапе колпак действительно могли воспринимать как спадавший назад капюшон, конец которого святой прижимал к телу. Но со временем его стали считать самостоятельным предметом, не совпадающим по цвету с одеждой юродивого и имеющим сравнительно правильную форму раковины или конусообразного сосуда, который вызывает ассоциации с житийным рассказом о безмездных трудах Иоанна в «солеварных местех», с его вторым прозвищем – Водоносец (очевидно, связанным с этими трудами), а также с повествованием одной из редакций Жития о предсмертном омовении святого в бане: Иоанн, «взяв водоносец воды и окатився трижды и… возлег мало… и тако преставися». Впрочем, и в таком виде изображение колпака, подобно необычным атрибутам других юродивых, недвусмысленно указывало на особый характер святости Иоанна. Зрительное выделение этого предмета вместе с данными о «железах», которые носил Иоанн в волосах, очевидно, и привело к формированию представлений о его «тяжком» железном головном уборе. Сведения о первых изображениях Иоанна, находившихся рядом с его могилой у Троицкого придела собора Покрова на Рву, отсутствуют. Хотя над погребением долгое время не было придела, исследователи считают вполне вероятным, что здесь, под восточной галереей Покровского собора, была выстроена надгробная палатка, где могли находиться такие произведения (подобное сооружение до строительства придела существовало над гробницей Василия Блаженного). Об их раннем появлении свидетельствуют не только сохранившиеся изображения рубежа XVI и XVII вв., но и служба Иоанну, которая, судя по многочисленным молениям о «царском чадородии», была составлена в правление царя Фёдора Ивановича, а также чудеса Иоанна (в том числе «страшное» знамение в день его погребения), привлекавшие к нему верующих. Надгробное изображение святого, существовавшее в начале XX в., как и само надгробие (рака), было исполнено уже после 1812 г.; существуют сведения о покрове с текстом тропаря Иоанну, однако исследователям неясно, когда он был создан и был ли на этом покрове образ юродивого. В 1672 г. были обретены мощи Иоанна; по предположению И.И. Кузнецова, это произошло при строительстве над его могилой придела Положения ризы Богоматери, куда был перенесён престол одноимённой церкви с Красной площади, хотя строительство новых приделов Покровского собора, заменивших снесенные храмы «на рву», относят к несколько более позднему времени – 1678–1683 гг. Выбор посвящения надгробного придела (позднее именовался приделом Рождества Пресвятой Богородицы; в 1916 г. переосвящён во имя Иоанна) был определён желанием сохранить престол разобранной церкви, но имел отношение и к почитанию Иоанна, т.к. день его памяти (3 июля) рядом с праздником Положения ризы (2 июля). Судя по стилистическим признакам и иконографии, с этими событиями было связано создание редчайшего единоличного образа Иоанна, который известен исследователям по прориси, включённой в Сийский иконописный подлинник. Иоанн представлен в молении Богоматери с Младенцем, со всеми характерными атрибутами своей иконографии (одеянием, «ступнями», колпаком и клюкой); выразительна его голова с высоким лбом и лысиной и с короткими волнистыми волосами.