Сопоставление данных иконописных подлинников и сохранившихся изображений с посвящёнными Иоанну текстами приводит исследователей к выводу об определённой независимости иконографической традиции от Жития святого. Так, чётки, с которыми может изображаться Иоанн, упоминаются в Житии: «…И к тому повеле и численицы себе оучинити (древены) велики зело, их же в руках своих ношаше и по них молитву свою к Богу возсылаше…», однако там нет сообщений об обуви блаженного, о покрое его одежды («свитки» с многочисленными застёжками) и о почти постоянном атрибуте – клюке или «жезле». Последний мотив мог быть позаимствован из иконографии других юродивых, а также три кочерги Прокопия Устюжского; в то же время «жезл» и некие «железа», носимые в руке, фигурируют в икосе Иоанну («в руце железа велики тяжшки ношаше»; «…указа своим жезлом в землю, где свои гроб со своим честным телом погребсти…» ), что исследователи объясняют воздействием не только изображений, но и реального облика юродивого. Не зависит от текстов и такой нередко встречающийся признак иконографии Иоанна, как пропорции его фигуры с грузным, полным туловищем и крупной головой. Напротив, иконографическая традиция не отражает данные о веригах Иоанна, которые были подробно описаны в Житии, упоминались в службе святому и сохранялись после его смерти как «многоцелительные» реликвии. Между тем, согласно некоторым редакциям Жития и службе, Иоанн не только носил вериги на теле и медные кольца на «тайных удах», но и имел «у рук своих на перстех колца и перстни медяные» – памятники, включающие подобные детали, исследователям также неизвестны. Важнейшим и в то же время загадочным иконографическим атрибутом Иоанна исследователи считают колпак, по которому святой получил прозвище. Согласно Житию, это «соединённое… на главе одеяние иже соделано бысть от главы его и до ногу» (ср. икос: «с выя до колена досязающе»); по другому варианту текста – «глаголют же просторечием колпак с прочим покрытием тела своего вкупе, свален, а не швен». В одной из редакций Жития (по версии И.И. Кузнецова, более поздней) появляется упоминание «колпака великого и тяжкого», который святой «на верху главы своея… носяше», т.е., очевидно, некой железной шапки, которую считали атрибутом святого в XIX в. И.И. Кузнецов полагал, что колпак был деталью одеяния Иоанна; он откидывал колпак за спину и «для удобства движений…, подхватывал под левую руку». Впоследствии колпак превратился во «власы велики», которые «свилися назад с главы» или «на одном плече отолстились», и его стали изображать «под пазухой» святого. По мнению Сергея Аркадьевича Иванова, Иоанн получил прозвище Большой Колпак «из-за своей огромной свалявшейся шевелюры». Однако некоторые изображения, близкие ко времени жизни святого (прежде всего, фреска сольвычегодского Благовещенского собора), позволяют исследователям думать, что и «власы велики», и колпак «под пазухой» совершенно разные атрибуты Иоанна, которые существовали в реальности и изначально являлись элементами его иконографии. Согласно некоторым песнопениям из службы Иоанну, он «и на главе своей во власех железа ношаше» (тропарь первой песни канона), что предполагает наличие длинных (может быть, и свалявшихся) волос и отчасти объясняет специфику его причёски.