Благословил построить часовню на городище Старая Рязань, на месте обнаружения фундамента одного из храмов с честными останками рязанских князей и княгинь, погибших в 1237 г. во время нашествия хана Батыя. В 1849 г. Гавриил украсил усыпальницу рязанских архиереев в Архангельском соборе Рязанского кремля киотом с крестом из кости. Особо почитал чудотворную Феодоровскую икону Божьей Матери, благословил устроить в её честь придел в Сергиевской церкви рязанского во имя Святой Троицы монастыря, 24 октября 1852 г. собственноручно перенёс икону в храм из Борисоглебской церкви Рязани. В 1856 г. подготовил церковное торжество присоединения к православной церкви старообрядцев города Зарайска. По благословению Гавриила в дар единоверческой церкви в честь Нерукотворного образа Спасителя была передана старинная утварь из архиерейской ризницы и крестовой церкви. 5 июня 1858 г. по личной просьбе был уволен на покой с управлением Ольговым монастырём, 8 июня совершил последнюю литургию в Успенском кафедральном соборе. Незадолго до приезда святителя в обитель в монастырской часовне явилась чудотворная Иверская икона Божьей Матери. По благословению Гавриила её перенесли в Успенскую церковь монастыря, святитель любил молиться перед этим образом. При нём в монастыре была построена каменная ограда, настоятельские деревянные кельи, гостиница для паломников, к алтарю Троицкой церкви пристроена каменная ризница, на пожертвования рязанцев был куплен крупный колокол для монастырской звонницы. Гавриил активно занимался благотворительностью, жертвуя деньги на монастыри, на содержание причта ряда храмов, на Рязанскую духовную семинарию и др. Награждён орденами св. Анны первой степени (1832 г.), св. Анны первой степени, украшенным императорской короной (1836 г.), св. Владимира второй степени (1840 г.), св. Александра Невского (1848 г.), алмазными знаками ордена св. Александра Невского (1856 г.). После обострения болезней с 1861 г. Гавриил с трудом выходил из покоев, предчувствуя скорую кончину, поручил изготовить гроб. В Великий четверток 1862 г. причастился Святых Таин. Скончался накануне Светлого Христова Воскресения, при пении стиха чина погребения «Животе, како умираеши?». По распоряжению Рязанского архиепископа Сарагда (Крыжановского) погребён 13 апреля 1862 г. в Ольговом монастыре. 12 января 1987 г. Гавриил был прославлен в лике местночтимых рязанских святых. 26 октября 1999 г. состоялось обретение его мощей, которые 31 декабря того же года по благословению Рязанского архиепископа Симона (Новикова) были перенесены в рязанский Троицкий монастырь, 3 января 2000 г. в этой обители состоялось торжество прославления мощей. В 1999 г. были составлены Житие святителя и акафист ему. 31 января 2002 г. Гавриил был включён в состав Собора Белорусских святых.