В 1955–1957 гг. наметилось некоторое улучшение во взаимоотношениях церкви и государства. Г.Г. Карпов поддерживал большинство ходатайств и просьб, с которыми обращались к правительству патриарх и Священный Синод; отстаивал мнение, которое неоднократно высказывал в письмах в вышестоящие инстанции, что, «прежде чем предъявлять руководству церкви требования об улучшении внешней работы, надо удовлетворять некоторые просьбы патриарха, которые не нашли до сих пор положительного решения, что не способствует укреплению установившихся взаимоотношений между церковью и государством и мешает проведению через церковь нужных нам мероприятий». В течение длительного времени в правительстве рассматривался вопрос о передаче под резиденцию патриарха помещений Новодевичьего или Донского монастыря, т.к. выделенный в 1943 г. патриархии особняк в Чистом переулке мало подходил для встреч с главами других православных церквей. Г.Г. Карпов поддерживал просьбы митрополита Николая (Ярушевича) о выделении участка земли под строительство здания для Отдела внешних церковных сношений. В этот период Г.Г. Карпов выдвигал предложения об отмене постановления ВЦИК и СНК РСФСР «О религиозных объединениях» 1929 г. и о разработке нового Закона о религиозных культах, о необходимости принятия новых положений о Совете по делам РПЦ и Совете по делам религиозных культов и об их объединении в один государственный орган. Однако все эти предложения были отклонены ЦК КПСС «за нецелесообразностью» как способствующие укреплению положения церкви. В это время в ЦК КПСС, с одной стороны, нарастало беспокойство из-за роста авторитета Русской церкви на международной арене, с другой – выражалось недовольство, что Московский патриархат «не прилагал достаточных усилий» для того, чтобы побудить поместные православные церкви к изменению отношения к экуменизму и войти во Всемирный Совет Церквей «в целях оказания влияния на его характер и направление деятельности». В том, что эта задача не была реализована, ЦК видел недоработку Совета по делам РПЦ и лично Г.Г. Карпова. С лета 1957 г. в партийном руководстве усиливается тенденция к пересмотру прежнего курса религиозной политики и усилению давления на церковь. В 1957–1958 гг. ЦК КПСС произвёл замену практически всего руководящего состава Совета по делам РПЦ. Были уволены и отправлены на пенсию И.И. Иванов, Г.Т. Уткин, которые работали с Г.Г. Карповым с момента основания Совета, заместитель председателя Совета с 1945 г. Сергей Константинович Белышев. С 1957 г. Г.Г. Карпов трижды ставил вопрос о своей отставке, однако каждый раз в ЦК находили это «нецелесообразным», поскольку глава Совета пользовался уважением и авторитетом среди епископата, имел определённое влияние на патриарха Алексия I. Кроме того, отстранение Г.Г. Карпова могло вызвать нежелательные отклики в заграничных церковных и политических кругах. До определённого времени сохранение Г.Г. Карпова на его посту должно было маскировать фактическое изменение государственной политики по отношению к церкви. Осенью 1958 г. Совет Министров СССР принял ряд постановлений, резко ограничивавших деятельность религиозных организаций. Г.Г. Карпов обязан был претворять новый правительственный курс в жизнь.