При Лаврентии в городе строились Успенский собор тульского в честь Успения Пресвятой Богородицы монастыря, храм в честь иконы Божьей Матери «Знамение» с приделами во имя Серафима Саровского и архангела Михаила (1902–1910 гг.), храм во имя Двенадцати апостолов (1903–1908 гг.); устроена домовая церковь в трёхэтажном здании пансиона-приюта для сирот из дворянских семей (1906 г.); перестроена домовая церковь во имя Московских святителей Петра, Алексия, Ионы и Филиппа при Тульском духовном училище; в 1907 г. в храме пророка Илии освящены приделы Казанской иконы Божьей Матери и святых князей Бориса и Глеба. Из личных средств преосвященный финансировал достройку обширного здания Белёвского епархиального женского училища. В 1906 г. на заседаниях Предсоборного Присутствия Лаврентий вместе с архиепископом Антонием (Храповицким) выступал за исключительно архиерейский состав грядущего Собора в противовес мнению о возможном представительстве на Соборе клириков и мирян. В 1906 г. на Тульском вокзале Лаврентий отслужил панихиду у гроба курского губернатора (1902–1906 гг.) Николая Николаевича Гордеева, которого искренне любил и уважал. В июне 1907 г. около 1 тыс. детей от 6 до 12 лет из санатория-колонии в Малиновой Засеке (при Тульском отделе Русского общества охранения народного здравия) посетили Льва Николаевича Толстого в имении Ясная Поляна. Это событие имело определённый резонанс в российском обществе. Викарий Тульской епархии Каширский епископ Георгия (Ярошевский) в письме к Лаврентию назвал поездку детей к писателю «фактом, развращающим и парализующим христианское воспитание» и убеждал архиерея «принять меры». Но Лаврентий не дал делу хода. Викарий Варшавской епархии епископ Люблинский Евлогий (Георгиевский), посещавший Тулу, называл Лаврентия «хорошим старичком, любителем благодушной шутки, приятным, мягким в обхождении». 15 февраля 1908 г. Лаврентий был уволен на покой «вследствие преклонности лет» с назначением настоятелем белёвского в честь Преображения Господня монастыря Тульской епархии. Возможной причиной его увольнения современник считал «то обстоятельство, что он решительно отклонил настойчивое предложение местного ректора, – молодого, властного инока с сильной поддержкой наверху, закрыть семинарию по случаю какого-то происшедшего в ней беспорядка». По мнению исследователей, имеется в виду ректор Тульской духовной семинарии  архимандрит Алексий (Симанский; впоследствии патриарх Московский и всея Руси Алексий I). 7 марта 1908 г. по собственному прошению Лаврентий был назначен настоятелем Высокопетровского во имя святителя Петра митрополита Московского, монастыря. 18 марта 1908 г. прибыл в Москву уже больным, врачи диагностировали воспаление лёгких. Скончался после принятия Святых Таин. 30 марта того же года при большом стечении прихожан Лаврентий был похоронен у алтаря соборного храма на кладбище московского Покровского монастыря. Заупокойную литургию отслужил викарий Московской епархии Дмитровский епископ Трифон (Туркестанов), отпевание совершили митрополит Московский и Коломенский Владимир (Богоявленский), епископы Серпуховской Анастасий (Грибановский), Волоколамский Евдоким (Мещерский) и др. Сохранился портрет Лаврентия неизвестного художника (1908 г.; Церковно-археологический кабинет Московской духовной академии).