Наиболее ранние изображения Германа известны на иконах «Преподобные Зосима и Савватий, с житием», где сюжеты с участием Германа включались в состав клейм, их число варьировалось в зависимости от житийного цикла. На «Боголюбской иконе Божьей Матери с предстоящими преподобными Зосимой и Савватием, с 29 клеймами их жития» 1545 г. из Троицкого собора Соловецкого монастыря, который находился возле раки с мощами Соловецких святых, Герман изображён в монашеских одеждах с чёрным клобуком, без нимба, в восьми композициях: «Встреча преподобного Савватия со старцем Германом», «Трёхдневное плавание преподобных Савватия и Германа на карбасе по Белому морю», «Водружение Креста на Соловецком острове», «Преподобный Герман слушает рассказ карельской жены», «Преподобный Герман рассказывает преподобному Савватию о наказании жены рыбака ангелами», «Встреча преподобных Зосимы и Германа», «Преподобные Зосима и Герман плывут на карбасе к Соловецкому острову», «Преподобные Зосима и Герман рубят на острове деревья и строят кельи». Сохранилась другая икона такой иконографии и того же происхождения. Аналогичные сюжеты повторяются и на других житийных иконах преподобных Зосимы и Савватия, например, с 55 клеймами середины ХVI в. из Преображенского собора Соловецкого монастыря, с 22 клеймами конца XVI в. из Белозерска. Нимб появляется у Германа в подобных произведениях с ХVII в., как на житийной иконе с 18 клеймами второй половины XVII в. из Троицкой церкви с. Ненокса Архангельской области, где имеется также клеймо «Возвращение преподобного Германа в обитель»; на иконе с 22 клеймами середины XVIII в. из церкви Преображения Господня в Кижах (Государственный историко-архитектурный и этнографический музей-заповедник «Кижи»); на иконе с изображением Соловецкой обители в среднике и с 18 житийными клеймами XVII в. из Покровского собора при Рогожском кладбище в Москве; на северной иконе с 14 клеймами начала XVIII в. из собрания Успенских – в куколе, в надписях именуется «Ерманом»; на северной иконе середины XVIII в. из часовни Собора Богородицы дер. Кургеницы Медвежьегорского р-на Карелии – последовательность событий в клеймах нарушена, вероятно, под влиянием произведений печатной графики. Сюжеты с участием Германа имеются на деревянной резной раке преподобного Савватия Соловецкого 1566 г. Сохранилось несколько лицевых списков «Повести о преподобных Зосиме и Савватии Соловецких» с большими циклами иллюстраций к «Житиям соловецких первоначальников». Наиболее ранний – рукопись конца 1570–1580 гг., где Герман изображён без нимба и имени. На миниатюрах других списков «Повести» (конец XVI – начало XVII в. из библиотеки И.А. Вахромеева) и списка 1623 г., выполненного по заказу Александра (Булатникова) для Соловецкого монастыря, Герман – в коричневой мантии и чёрном клобуке, с небольшой округлой бородой, имеет нимб, но слово «агиос» в надписи не употребляется, что объясняется местным почитанием святого в этот период. Одна из северных рукописей 1650–1670 гг. содержит иллюстрацию «Преподобные Герман и Савватий Соловецкие у кельи». Самый подробный цикл сюжетов «Жития» Германа помещён на страницах рукописи «Сад спасения» 1711 г. (до 1922 г. – в ризнице Соловецкого монастыря). Наибольшее количество изображений Германа в связи с особым почитанием было сосредоточено в Соловецком монастыре. Первое упоминание о его изображении содержится в описи монастыря 1582 г.: на серебряной крышке Евангелия вместе с преподобными Зосимой и Савватием – «писаны чернилы». Судя по монастырским документам, иконы с образом Германа хранились и в ризнице обители (некоторые под серебряными окладами), и во многих соловецких храмах.