В 1835 г. в Киеве распоряжением министра народного просвещения Сергея Семёновича Уварова был создан Комитет для изыскания древностей, куда был введён и Евгений. При его содействии в 1822–1825 гг. возведено новое здание Киевской духовной академии, в 1828–1830 гг. – здание Киевской духовной семинарии. Уже через несколько лет после назначения на Киевскую кафедру Евгений опубликовал фундаментальные работы «Описание Киево-Софийского собора и Киевской иерархии» (Киев, 1825 г.) и «Описание Киево-Печерской лавры: С присовокуплением различных грамот и выписок, объясняющих оное, также планов лавры и обеих пещер» (Киев, 1826 г.). В 1824 и 1836 гг. издавал в Киеве с собственными комментариями «Синопсис» архимандрита Иннокентия (Гизеля). Предпринимая архивные разыскания в местных монастырях, обнаружил много важных документов и рукописей, начал составлять план древнего Киева и его окрестностей. В Киеве, как и в других городах, где Евгений был правящим архиереем, организовал первые систематические археологические раскопки, официальное начало которых относится к 17 октября 1824 г., когда приступили к поискам фундамента Десятинной церкви, обнаруженного в том же году вместе с остатками фресок (отчёт о раскопках был опубликован в следующем году). 2 августа 1828 г. Евгений освятил закладку новой Десятинной церкви. В 1832 г. киевский археолог-любитель Кондрат Андреевич Лохвицкий, хорошо зарекомендовавший себя при первых раскопках, по поручению Евгения произвёл археологическое исследование на холме, где, по преданию, водрузил крест апостол Андрей (раньше при Евгении была начата реставрация церкви апостола Андрея Первозванного 1767 г.), а также раскопки городского вала на месте бывших Золотых ворот XI в., остатки которых в 1750 г. были засыпаны землёй. В 1833 г. были раскопаны остатки храма, который Евгений отождествил с церковью монастыря св. Ирины XI в. Евгений объехал многие исторические места Киевской губернии, составил план её археологического обследования. Состоял действительным членом императорской Российской академии (1806 г.), почётным членом Академии Наук (1826 г.), почётным членом всех российских университетов, Санкт-Петербургской духовной академии, Киевской духовной академии, многочисленных учёных обществ: санкт-петербургского Общества любителей наук, словесности и художеств (1810 г.), санкт-петербургской «Беседы любителей русского слова» (1811 г.), московского Общества любителей российской словесности (1812 г.), Общества истории и древностей российских при Московском университете (1813 г.), Общества любителей отечественной словесности при Казанском университете (1814 г.), санкт-петербургского Вольного общества любителей российской словесности (1818 г.), Королевского копенгагенского общества северных антиквариев (1834 г.) и др. Евгений был награждён орденами св. Владимира второй степени (1814 г.), св. Александра Невского (1823 г.), апостола Андрея Первозванного (1826 г.). В память о нём в Воронеже с середины 1980 гг. проводятся Болховитиновские чтения.