В этот период под наблюдением Евгения был сделан перевод труда Августа Людвига Шлёцера «Нестор», посвящённого раннему русскому летописанию (первый том издан в 1809 г.). В опубликованном под редакцией Афанасия Михайловича Щекатова и Льва Максимовича Максимовича «Географическом словаре Российского государства» (М., 1801–1809 гг. семь частей) Евгению бесспорно принадлежит 59 статей. Его пребывание в Новгороде ознаменовалось изучением христианизации Новгородской земли, выявлением и спасением от уничтожения древнерусских рукописных памятников, в том числе XI в. Здесь он написал «Исторические разговоры о древностях Великого Новгорода» (М., 1808 г.), «Всеобщее хронологическое обозрение начала и распространения духовных российских училищ» и «Критические замечания на рецензию моравского дворянина Гаке де Гакенштейна». Раскопки, проведённые под руководством Евгения в 1807 г. у Георгиевского собора Юрьева новгородского мужского монастыря, привели к открытию древнего некрополя. В библиотеке новгородского Софийского собора Евгений нашёл один из древнейших отечественных памятников письменности – пергаменную грамоту Юрьеву монастырю великого князя Киевского Мстислава (Феодора) Владимировича и его сына князя Всеволода (Гавриила) Мстиславича (ныне обычно датируется 1130 г.). Сделал полный дипломатико-палеографический анализ документа, тем самым став одним из родоначальников отечественной палеографии и сфрагистики. В 1813 г. с вопроса об издании этой работы в Москве началась продолжительная и плодотворная переписка Евгения с коллекционером графом Николаем Петровичем Румянцевым. Евгений был причастен к археографической деятельности румянцевского кружка, являлся сторонником издания «сводных» (реконструированных) древнерусских текстов («Повести временных лет», «Хожения» игумена Даниила и проч.). В Вологде составил, в частности, «Описание Пекинского монастыря», «Исторические сведения о Вологодской епархии и о Пермских, Вологодских и Устюжских архиереях», «Исследование о личных собственных именах у славяноруссов», «О древностях вологодских и зырянских» и др. Был инициатором написания и, по сути, соавтором изданной в Москве в 1807–1815 гг. Пензенским епископом Амвросием (Орнатским) «Истории Российской иерархии» (шесть томов в семи книгах, седьмой том не опубликован). Материалы для этого труда Евгений начал собирать в конце XVIII в. в Воронеже, на рубеже XVIII и XIX вв. продолжил в Санкт-Петербурге, с 1804 г. – в Новгороде, где и привлёк к этой работе префекта Новгородской семинарии священника Амвросия. С 1813 г. Евгений разрабатывал эту тему в Калуге, где его помощником стал Василий Григорьевич Анастасевич, впоследствии выдающийся библиограф. Большая археографическая работа была проделана в епархиальных и монастырских архивах (особенно исследователи выделяют период пребывания Евгения на Вологодской кафедре, когда он с целью поиска исторических документов посетил все монастыри своей епархии). Многое позаимствовал из рукописных (в 1812 г. сгоревших в Москве) «Записок по истории Российской иерархии» Н.Н. Бантыш-Каменского. Над внесением поправок и дополнений в «Историю...» и подготовкой её нового издания Евгений продолжал трудиться до конца своих дней.