Однако об отходе епископ Павел громко не заявлял, и он тогда большого резонанса в церковной среде не вызвал. В декабре 1927 г. с резким обличением заместителя выступил епископ Виктор (Островидов), фактически констатировав отход от митрополита Сергия (Страгородского). Вслед за этим к заместителю с ультимативным требованием обратилась группа ленинградских сторонников митрополита Иосифа (Петровых). Среди прочего они выражали неприятие октябрьского указа о поминовении и просили отменить возношение имени заместителя во время богослужения, равно как и «распоряжение об устранении из богослужебных молений о страдальцах за Церковь Христову и о возношении молений за гражданскую власть, так как таковое распоряжение, при современных условиях государственной и общественной жизни, является не чем иным, как прямым издевательством над религиозным сознанием православных верующих». Митрополит Сергий (Страгородский) отклонил ультиматум, результатом чего стало отделение от него значительной части мирян и клира Ленинградской епархии, включая двух викарных епископов – Гдовского Димитрия (Любимова) и Копорского Сергия (Дружинина). Митрополит Иосиф (Петровых) в январе 1928 г. засвидетельствовал свою поддержку этого движения, которое по его имени начало называться «иосифлянство» и стало наиболее заметным направлением «правой» церковной оппозиции. Иосифлянское движение не ограничилось пределами Ленинградской епархии, а получило распространение и на севере, и в центре, и на юге страны. Особенно сильную народную поддержку оно получило в Центрально-Чернозёмной области, в частности, в управляемой Уразовским епископом Алексием (Буем) Воронежской епархии. О солидарности с митрополитом Иосифом (Петровых) и его викариями заявил и епископ Виктор (Островидов), в результате чего в Ижевской и Вятской епархиях движение его сторонников фактически слилось с иосифлянством. Одним из главных иосифлянских идеологов стал Михаил Александрович Новосёлов, который составил весьма объёмный сборник документов преимущественно антисергиевской направленности. В феврале 1928 г. об отказе признавать за митрополитом Сергием (Страгородским) и его Синодом право на высшее управление церковью заявили архиереи Ярославской епархии, возглавляемые митрополитом Агафангелом (Преображенским). Позднее, в мае того же года, Ярославский митрополит Агафангел (Преображенский) и его викарии пояснили, что принципиально власть митрополита Сергия как заместителя не отрицают, но оговорились: «Распоряжения Заместителя, смущающие нашу и народную религиозную совесть и, по нашему убеждению, нарушающие каноны, в силу создавшихся обстоятельств на месте, исполнять не могли и не можем». Под этими смущающими совесть распоряжениями, в первую очередь, имелся в виду указ митрополита Сергия о поминовении за богослужением. В итоге вплоть до кончины митрополита Агафангела (Преображенского) в октябре 1928 г. Ярославская епархия оставалась «непоминающей». В мае 1929 г. с заявлением о невозможности признания для себя обязательными распоряжений, издаваемых митрополитом Сергием (Страгородским) с участием его Синода, выступил один из самых авторитетных иерархов РПЦ – митрополит Кирилл (Смирнов), которого поддержал ряд епископов, таких как Дамаскин (Цедрик), епископы Ковровский Афанасий (Сахаров) и Кинешемский Василий (Преображенский). Политику митрополита Сергия (Страгородского) осудил и патриарший местоблюститель митрополит Пётр (Полянский).