Гааз ответил на приглашение горячим письмом. Поняв своё новое призвание, он отдался ему вполне, начав с новой деятельностью и новую жизнь. Назначенный членом комитета и главным врачом московских тюрем и занимая с 1830 по 1835 гг. должность секретаря комитета, он приступил к участию в действиях комитета с убеждением, что между преступлением, несчастьем и болезнью есть тесная связь, что трудно, и иногда и совершенно невозможно отграничить одно от другого, и что отсюда вытекает и троякого рода отношение к лишению свободы. Он считал, что необходимо справедливое, без напрасной жестокости, отношение к виновному, деятельное сострадание к несчастному и призрение больного. Положение вещей при открытии тюремных комитетов было совершенно противоположное. За виновным отрицались почти все человеческие права и потребности, больному отказывалось в действительной помощи, несчастному – в участии. С этим положением вещей вступил в открытую борьбу Гааз и вёл её всю жизнь. Его ничто не останавливало, не охлаждало – ни канцелярские придирки, затруднения и путы, ни косые взгляды и ироническое отношение некоторых из председателей комитета, ни столкновения с сильными мира, ни гнев всемогущего графа Закревского, ни даже частые и горькие разочарования в людях... Из книги, изданной после его смерти, «Appel aux femmes», он вещает: «Торопитесь делать добро!» Эти слова были лозунгом всей его дальнейшей жизни, каждый день которой был их живым подтверждением и осуществлением. Увидав воочию положение тюремного дела, войдя в соприкосновение с арестантами, Фёдор Петрович, очевидно, испытал сильное душевное потрясение. Однако его мужественная душа не испугалась горького однообразия представившихся ему картин, не отвернулась от них с трепетом и бесплодным соболезнованием. С непоколебимой любовью к людям и к правде вгляделся он в эти картины и с упорной горячностью стал трудиться над смягчением их тёмных сторон. Этому труду и этой любви отдал он всё своё время, постепенно перестав жить для себя. С открытия комитета до кончины Фёдора Петровича, в течение почти 25 лет, было всего 293 заседания комитета – и в них он отсутствовал только один раз. И в журнале каждого заседания, как в зеркале, отражается его неустанная, полная энергии и забвения о себе деятельность. Чем дальше шли годы, чем больше накоплялось этих журналов, тем резче изменялись образ и условия жизни Гааза. Быстро исчезли белые лошади и карета, с молотка пошла оставленная без «хозяйского глаза» и заброшенная суконная фабрика, была бесследно продана недвижимость, обветшал оригинальный костюм, и когда в 1853 г. пришлось хоронить некогда видного и известного московского врача, обратившегося, по мнению некоторых, в смешного одинокого чудака, то оказалось необходимым сделать это на счёт полиции. Обязанный по своей должности сразу иметь дело и с тюремной статикой и с тюремной динамикой, Гааз тотчас же увидел, сквозь загрубелые черты арестанта, нестираемый преступлением образ человека, образ существа, представляющего физический и нравственный организм, которому доступно страдание. На уменьшение этого двоякого страдания он и направил свою деятельность. Каждую неделю раз, а иногда и два, отправлялась из Москвы партия ссылаемых в Сибирь. Пересыльная тюрьма была устроена в странном месте. На правом берегу Москвы-реки, против Девичьего поля и знаменитого монастыря, холмистой грядой возвышаются так называемые Воробьёвы горы. Почти вся Москва видна с них, со своими многочисленными церковными главами, башнями и монументальными постройками. На них-то хотел император Александр I воздвигнуть храм Христу-Спасителю по обету, данному в манифесте, возвестившем в 1812 г. русскому народу, что «последний неприятельский солдат переступил границу».