С 1949 г. Г.Г. Карпов последовательно выдвигал предложения по ограничению деятельности церкви. Назначения и перемещения высших иерархов уже не обсуждались с церковным руководством, а диктовались патриарху. Г.Г. Карпов в приказном порядке рекомендовал Алексию I воздержаться от новых архиерейских хиротоний, а пустующие епископские кафедры поручать управлению архипастырей соседних епархий. Также патриарху было указано на нежелательность расширения сети духовных учебных заведений. Отказ Г.Г. Карпова в предоставлении отсрочки от военной службы студентам духовных академий и семинарий создавал проблемы для духовных учебных заведений. Однако Г.Г. Карпов и в этот период продолжал отстаивать необходимость удовлетворения хотя бы части ходатайств верующих, открывать церкви «с учётом целесообразности», остро реагировал на многочисленные факты нарушения законодательства о культах со стороны местных органов власти. Г.Г. Карпов критиковал методы атеистической работы партийного актива на местах за продолжение традиций воинствующего безбожия 1930 гг. В качестве одного из основных аргументов в пользу сохранения сбалансированных отношений с РПЦ Г.Г. Карпов выдвигал важность международной деятельности Московского патриархата. Несмотря на то что в целом внешнеполитическая активность РПЦ в 1948–1953 гг. несколько снизилась, партийное руководство вынуждено было считаться с безусловным значением церковной работы в международном движении за мир, в развитии отношений с православными церквами стран Восточной Европы. После смерти И.В. Сталина и с приходом к руководству коммунистической партией Никиты Сергеевича Хрущёва в 1953 г. для Г.Г. Карпова настал сложный период. В марте 1955 г. он был уволен из резерва КГБ «по фактам дискредитации». В 1956 г. Комиссией партийного контроля при ЦК КПСС ему были предъявлены обвинения в нарушении законности во время работы в органах госбезопасности в 1929–1938 гг. («...производил массовые аресты ни в чём не повинных граждан, применял извращённые методы ведения следствия, а также фальсифицировал протоколы допроса арестованных»). Поднимался вопрос об исключении Г.Г. Карпова из партии, но наказание ограничилось строгим выговором с занесением в учётную карточку. В этот период Г.Г. Карпов продолжал отстаивать свои позиции о необходимости сохранения прежней политики в отношениях с церковью. Между тем после появления постановления ЦК КПСС от 7 июля 1954 г. «О крупных недостатках в научно-атеистической пропаганде и мерах её улучшения» в стране была развёрнута очередная антирелигиозная кампания. На протяжении лета-осени 1954 г. Г.Г. Карпов и от своего имени, и совместно с председателем Совета по делам религиозных культов Иваном Васильевичем Полянским информировал ЦК КПСС об «ошибках и извращениях» в публикациях на антирелигиозную тему, о фактах «грубого нарушения законодательства о религиозных культах», «грубого администрирования по отношению к церкви и верующим». Позиция, занятая Г.Г. Карповым, повлияла на принятие 10 ноября 1954 г. постановления ЦК КПСС «Об ошибках в проведении научно-атеистической пропаганды среди населения», в котором были учтены замечания и рекомендации председателя Совета по делам РПЦ.