В IV–VII вв. происходит становление институтов раввинистического иудаизма и формирование его основного корпуса религиозных текстов. После 212 г. евреи считались полноправными гражданами Римской империи. Никаких ограничений римские власти на иудеев больше не налагали, с конца III в. позволили им начать массовое строительство синагог. Считается, что палестинское еврейство уже в III в. было объединено под властью наси (патриарха). Однако в ранних свидетельствах наси могли называть главу местной общины, а не всех иудеев. Исследователи отмечают, что в «Мишне» перечисляются пары раввинов, один из пары обязательно именуется «наси», а второй – «главой суда». Внешние свидетельства говорят о том, что иудеев возглавлял «этнарх», признаваемый императорской властью и имевший широкие полномочия, вплоть до вынесения решения о смертной казни. Первым патриархом, известным исследователям по имени, считается Иехуда ха-Наси (около 200 г.), внук раббана Гамлиеля I (хотя в «Тосефте» говорится о том, что уже Гиллеля Старшего избрали патриархом). Он перенёс свою резиденцию из Бейт-Шеарима в Сепфорис. Исследователям известно, что в ведении патриарха находились календарные вопросы. Хотя в раввинистической литературе содержится несколько историй о том, как патриархи вступали в контакт с римскими императорами или чиновниками высокого ранга, формальная власть патриархов в римском праве начинает признаваться только в IV в. Исполняли ли они прежде какие-то административно-политические функции, исследователям неясно. В начале 330 гг. римскими властями была утверждена «иерархия» иудеев – патриархи, старцы и главы синагог ( «священники, архисинагоги, синагогальные отцы и другие служители синагоги»). Хотя в ряде источников отмечается некое еврейское восстание, имевшее место при Цезаре Галле (в 351/352 гг.), в большинстве своём иудеи были ориентированы на сотрудничество с властями и, судя по надписям и литературным свидетельствам, иногда занимали высокие посты в местной администрации. Император Юлиан Отступник решил восстановить Иерусалимский храм и передать его иудеям, поскольку, по его мнению, жертвоприношения имеют огромное значение в любой религии, а у евреев они не совершались. Христиане решили, что Юлиан Отступник восстанавливает храм специально, чтобы посмеяться над ними и опровергнуть пророчества Христа о разрушении храма (Мф. 24:2; Мк. 13:2; Лк. 21:6). Однако близко знавший Юлиана Отступника Аммиан Марцеллин считал, что император просто хотел прославиться. По каким-то причинам строительство было прервано (скорее всего, из-за смерти Юлиана). Христианские авторы IV в. утверждают, что строительству, которое было неугодно Богу, помешали землетрясение и огонь, выходивший из-под земли (Руфин, Феодорит Кирский, Созомен, Ефрем Сирин; по данным археологии, в 363 г. действительно было сильное землетрясение, особенно много разрушений было в Галилее). С утверждением власти христианских императоров положение иудеев изменилось не сразу.