До IV в. н.э. крупных общин в Египте уже не было. Синагоги начинают восстанавливаться иммигрантами из Палестины только в конце III в. н.э. Множество иудейских общин было на западе Римской империи. В Северной Африке самые крупные находились в пределах Карфагена. В Италии самой многочисленной была еврейская община Рима. Сохранялись общины в Причерноморье и Малой Азии. О Вавилонии в этот период сведений практически нет (по мнению исследователей, из-за свирепствовавшей там эпидемии чумы). Раввинистические источники говорят о том, что Санхедрин во II в. н.э. находился в городе Уша, на севере Галилеи, а затем переезжал в Шфарам, Бейт-Шеарим, Сепфорис и Тивериаду. Согласно раввинистическому преданию, после разрушения храма рабби Иоханнан бен Заккай основал академию в городе Ямния (Явне), который ему подарил император Веспасиан. Поскольку история сохранилась, по крайней мере, в 4 версиях, и все раввинистические источники содержат маловероятные с исторической точки зрения детали, их достоверность в целом вызывает большие сомнения у исследователей. По мнению Д. Бойарина, миф об академии в Ямнии появился лишь в период завершения Вавилонского Талмуда и не имеет под собой исторической основы. Тем не менее, исследователи не сомневаются, что в раннераввинистический период существовали группы раввинов, имевшие учеников и занимавшиеся систематическим изучением Торы. Так называемые дома учения были в Ямнии, Лидде и других городах. Они строились по модели греческих философских школ. Один или несколько авторитетных учителей занимались с учениками в пределах частного дома или на природе (в Мишне содержится увещевание: «Да будет дом твой домом собрания»). Поэтому наиболее часто упоминаемые в раввинистической литературе «дом Гиллеля» и «дом Шаммая» исследователи понимают и как группу учеников, регулярно собиравшихся в частном доме вокруг учителя, и как родственников этих раввинов, образовавших династии учителей. Дома, где собирались раввины с учениками, могли помечаться особыми вывесками (в 1969 г. на Голанских высотах была найдена надпись: «Это дом учения рабби Элиезера ха-Каппара»). Постепенно эти «дома учения» становятся центрами, деятельность которых обретает значимость для всей местной еврейской общины. К учителям обращались за советами и авторитетными суждениями по вопросам права (например, исследователям известно, что в академии в Ямнии активно обсуждались различные галахические вопросы, связанные с богослужением и календарём). Сохранение местного неримского обычного права на востоке империи могло стать той нишей, в которой развивалось раннее раввинистическое законодательство. Однако брачные контракты этого периода свидетельствуют о том, что влияние учения мудрецов на реальную практику было минимальным. При этом ранние раввинистические источники редко упоминают о связи между раввинами и синагогой: ученики раввинов нечасто собирались в синагогах, в основном, раввины выступали там перед народом. Начиная с III в. н.э. появились упоминания о некой раввинистической письменной традиции, которую греческие авторы называют «второе» или «повторение». Этот термин указывает либо на школьную практику изучения Торы, либо на предание, вторичное по отношению к Священному Писанию.