Історія юдаїзму розпочинається вавилонським переселенням. Десять північних племен Ізраїлю зникли після знищення Самарії асирійцями 722 р. до Хр. Юдея була цілком окупована вавилонцями в 587 р. до Хр., коли зруйновано і Єрусалим, а впливова частина населення депортована у Вавилон. Юдеї на переселенні, однак, змогли зберегти свою єдність і віру в Бога Ізраїлю. Не маючи можливости продовжувати храмовий культ, вони все ж таки залишились вірними законам їхнього Бога, дотримуючись законів суботи і обрізання – чіткий знак їхнього відокремлення від усіх інших народів. Так сформувалися психічні і релігійні умови, що після вавилонського переселення мали уможливити новий початок на рідних землях.
Зміна прийшла з перемогою перського царя Кира, який поклав кінець вавилонському пануванню. 539 року до Хр. Кир увійшов переможцем до Вавилону, ставши володарем не тільки землі, що лежала між двома ріками (Месопотамії), але також Сирії та Палестини. Перси застосовували щодо поневолених народів іншу політику, ніж асирійці чи вавилонці. Останні, завоювавши територію, переселювали цілі народи, або принаймні їхню еліту, запроваджуючи свою релігію як державну. Перси, натомість, не змушували до великих переселень і до однієї релігії. Вони зважали на місцеві обставини і дозволяли окремим народам зберегти їхню ідентичність та власні звичаї, намагаючись у такий спосіб здобути їхню прихильність. Для службових справ перський уряд не вживав власної мови, а послуговувався арамейською, дуже розповсюдженою в Сирії і Палестині. Така перська політика дала можливість теж юдеям жити за своїми звичаями. Одразу після завоювання Вавилону одним едиктом Кир наказав відновити Єрусалимський храм і повернути майно, награбоване Навуходоносором (Езд. 6:3-5). Однак не всі юдеї, що жили у Вавилоні, скористалися цим едиктом. З іншого боку, юдейське населення, що залишилося в Палестині, жило дуже убого, тому відбудова храму відбувалася дуже повільно і з великими труднощами.
У V столітті до Хр. месопотамські юдеї висловилися щодо відновлення юдейської спільноти в Єрусалимі. Неемія й Ездра, призначені царем, прибули до Палестини, щоб наглядати за відбудовою міста і храму. Неемія докладав зусиль до побудови сильного муру довкола Єрусалиму, а також змусив юдеїв присягати, що не укладатимуть шлюбів з сусідніми народами. Ездра навчив народ закону і надав йому юридичної сили. Вважають, що цей закон складався з п’яти книг Мойсея – П’ятикнижжя, в яких були зібрані стародавні ізраїльські передання. Закон був затверджений царем і набув ваги державного. Отже, культ юдеїв опинився під опікою перського уряду і міг спокійно існувати.
Така ситуація викликала заздрість у сусідніх народів, а передусім у мешканців Самарії. Після асирійського завоювання на півночі поселилися чужі народи, які змішалися з жителями Самарії (2Цар. 17). Їхні потомки почитали Ягве як місцевого Бога, що давав родючість землі, але не були визнані серед юдеїв як правдиві ізраїльтяни. Тому єрусалимська спільнота, якій Ездра і Неемія заборонили мати будь-які стосунки з іншими народами, відокремилася від самарян, уникаючи з ними зв’язків. Це виразне відокремлення і надання переваги з боку великого царя Кира Єрусалимові сильно вплинуло на народ Самарії, ведучи до охолодження стосунків між північчю і півднем. Це призвело до політичного поділу між провінціями Самарії і Юдеї. Але самаряни і надалі почитали Ягве, і, щоб принести Йому жертви і молитви, вони мусили йти до Єрусалимського храму, в якому «гостям» не були раді. Це викликало в них бажання побудувати собі храм, щоб стати незалежними від Єрусалиму.
Отже, спершу самаряни належали до релігійної спільноти Єрусалиму. Тільки цим можна пояснити факт, що вони мали спільне з юдеями П’ятикнижжя, однак не приймали інших книг старозавітнього канону: пророчих і поетичних. Відокремлення юдеїв і самарян мало відбутися після того, як П’ятикнижжя було вже сформоване, але перед тим, як остаточно був усталений канон інших писань СЗ. Хоч юдейський історик Йосип Флавій писав, що самарянам дозволено побудувати храм тільки в часи Олександра Великого, проте здасться, що храм зведено дещо раніше. Оскільки Перська імперія перед своїм занепадом зазнала сильних зрушень, у цей час, мабуть, було набагато легше отримати дозвіл великого царя для побудови храму. Самаряни з гордістю згадували, що в законі Мойсея згадується їхню святу гору Геразим, а не Єрусалим (Втор. 11:29; 27:12н.).
Коли самаряни отримали свій храм, то між ними і юдеями виникла гостра ворожнеча, яка призвела до війни. У 128 р. до Хр. юдеї під проводом Івана Гіркана зруйнували храм на горі Геразим, який вже ніколи не постав з руїн. Самаряни, однак, і далі вважали гору Геразим святим місцем. Ще й сьогодні маленька самарянська спільнота щороку там святкує Пасху за своїм стародавнім звичаєм.
В часи Ісуса юдеї не мали стосунків із самарянами (Ів. 4:9) і вважали їх чужинцями (Лк. 17:18). Слово «самарянин» означало «божевільний» або «дурний» (Ів. 8:48). Юдейські прочани, подорожуючи до Єрусалиму і переходячи через Самарію, також могли відчути вороже ставлення з боку самарян (Лк. 9:51-56). Останні посилалися на патріярхів як на своїх предків (Ів. 4:12), але для юдеїв ці аргументи не були обґрунтовані. Як приклад безкорисливої любови до ближнього, Ісус подає вчинок не юдея, а самарянина (Лк. 10:30-37). Відомо також, що не юдей, а самарянин прославляв Бога з приводу свого оздоровлення від прокази (Лк. 17:11-19). Після короткочасних вагань (Мт. 10:5н.) первісна християнська спільнота перемогла цей поділ між юдеями та самарянами і понесла Євангеліє в Самарію (Дії 8:4-25). Стародавня дилема, де потрібно молитися: на горі Геразим чи в Єрусалимі (Ів. 4:20) втратила сенс, тому що «Бог є Дух, і ті, що Йому вклоняються, повинні в дусі та в правді вклонятись» (Ів. 4:24).