Тогда Мартирий покинул пустынь и пошёл в Смоленск на поклонение иконе Божьей Матери «Одигитрия». В Смоленске ему во сне явились преподобные Авраамий Смоленский и Ефрем с повелением жить в пустыни, где укажет Бог. Изыскивая место для пустынножительства, Мартирий направился в новый Тихвинский Успенский монастырь (основан в 1560 г.), намереваясь далее идти в Поморье. В Тихвинской обители Мартирий встретил своего ученика Авраамия, который рассказал о находящемся среди болот Зеленецком острове. Над этим местом Авраамий видел сиявший на небе крест. Мартирий поселился на острове, вскоре собралась братия, и образовался Троицкий Зеленецкий монастырь. В Житии есть некоторые подробности прихода Мартирия на Зеленецкий остров: получив благословение тихвинского игумена, он взял с собой две иконы – Святой Троицы и Тихвинский образ Божьей Матери «Одигитрия». Проводником ему служил крестьянин Иосиф из села Буборины, находившегося в четырёх поприщах от Зеленецкого острова. В своей «памятце» Мартирий упоминает о том, что принял сан игумена в Новгороде, и рассказывает о своих мистических видениях. После одного из видений государев дьяк Фёдор Дмитриевич Сырков пожертвовал средства на строительство в монастыре деревянной трапезной церкви в честь Благовещения. Время основания Зеленецкого монастыря, по данным писцовых книг, исследователи относят к периоду 1565–1570 гг. В писцовой книге Обонежской пятины 1564 г., составленной Андреем Лихачёвым, Зеленецкий монастырь не упоминается, а в 1570 г. обитель уже существовала, т.к. в этом году был казнён Ф.Д. Сырков, успевший сделать пожертвование. Согласно «Писцовой книге Обонежской пятины, Заонежской половины, писма Ондрея Васильевича Плещеева и подъячего Семейки Кузмина, 7091 года», в 1583 г. Мартирий уже был игуменом монастыря, в котором подвизались 12 монахов. В обители были построены деревянные Троицкая и трапезная Благовещенская церкви и ограда. В Житии подробно рассказано о важном событии, не упомянутом Мартирием в «памятце». В 1595 г., направляясь в Москву, Мартирий остановился в Твери и исцелил смертельно больного царевича Иоанна – сына касимовского хана Симеона Бекбулатовича (с 1576 г. – великий князь Тверской; в схиме Стефан). По мнению исследователей, путешествие Мартирия в Москву в 1595 г. действительно могло иметь место, т.к. этим годом датирована жалованная грамота царя Фёдора Ивановича Зеленецкому монастырю на 2 выти земли и ловли на Ладожском озере. В благодарность за исцеление сына Симеон Бекбулатович на свои средства выстроил в Зеленецком монастыре первую каменную церковь – в честь Тихвинской иконы Божьей Матери с приделом во имя Иоанна Златоуста. У стены этого храма в 1603 г. Мартирий был погребён в могиле, которую собственноручно ископал. В 1670 гг., при Новгородском митрополите Корнилии, постриженике Зеленецкой обители, в монастыре были построены каменные Троицкий собор, Благовещенская церковь с трапезной, колокольня, келейные корпуса, ограда; старую каменную Тихвинскую церковь разобрали.