В трактате «Киддушин» Вавилонского Талмуда сохранилось предание о том, что царь Александра Яннай казнил всех иудейских мудрецов, кроме Шимона бен Шатаха. Таким образом, Шимон бен Шатах оставался единственным носителем истинной традиции («весь мир был опустошён (совершённой Яннаем казнью законоучителей), пока не пришёл рабби Шимон бен Шатах и возвратил Торе её исконное (величие)»), и дальнейшее существование традиции зависело от него. По мнению Элияху бен Моше Башьячи и Калева Афендополо, рабби Шимон бен Шатах не только сохранил закон, но и ввёл в него некоторые новшества, тем самым поставив под угрозу существование традиции, идущей от Моисея. Чтобы оправдать эти новшества, Шимон бен Шатах разработал учение об Устном законе. Большинство иудеев слепо последовали за авторитетом учителя, однако часть народа отказалась от нововведений и осталась верна закону – благодаря рабби Шимону бен Шатаху и в то же время вопреки ему. Эта часть народа положила начало караимству. Моше бен Элияху Башьячи, правнук Элияху, развил эту гипотезу и связал оппозицию раббанитов и караимов с широко известным фактом противостояния школ Гиллеля и Шаммая, объявив последнего предшественником караимов. В иудейской традиции была разработана альтернативная гипотеза, которая тоже исходила из предпосылки о связи караимства с религиозными движениями эпохи Второго храма. Йехуда Галеви, Аврахам Ибн Эзна, Абрахам ибн Дауд объявили караимство ответвлением саддукейства. В то же время уже Саадия Гаон проводил аналогию между караимами и саддукеями. Авраам Гейгер и Р. Малер отмечали, что ряд предписаний Анана (например, требование буквального понимания библейских законов о возмездии за телесные повреждения, Исх. 21:23–25) находит точные соответствия в положениях, высказанных ранними авторитетами Мишны и Талмуда, но отвергнутых последующими поколениями талмудистов. Наконец, широкий резонанс получило открытие среди рукописей Мёртвого моря так называемого Дамасского документа, обнаруженного раньше в Кариской генизе и считавшегося памятником поздней секты саддукейского толка. Важнейшими факторами, объединяющими караимов и саддукеев, являются отказ от устной традиции и обращение к Библии как к единственному руководству в повседневной жизни. Легенда о возникновении секты, приведённая в «Дамасском документе», в существенных сюжетных моментах (искажение подлинного учения Моисея учителями народа; вера в то, что истинной традицией обладал первосвященник Садок; появление общины избранных, отказавшейся от искажений и отделившейся от остального Израиля) соответствует представлениям, высказывавшимся караимскими авторами (аль-Киркисани о Садоке, Башьячи и Афендополо об утрате и о восстановлении традиции в эпоху Второго храма). Тем не менее, в караимской литературе не упоминаются документы, предшествовавшие деятельности Анана бен Давида и являвшиеся для караимов авторитетным подтверждением их учения. Исследователи не находят никаких прямых подтверждений влияния на караимов «Дамасского документа».