公元前332年，希腊马其顿王亚历山大率军攻入耶路撒冷，繁华的耶路撒冷再度被洗劫一空，城中大部分建筑被烧成灰烬。公元前331年，亚历山大又率领东征军占领波斯首都苏撒，灭亡波斯帝国，建立了地跨欧亚非的亚历山大帝国。巴勒斯坦也随之成为亚历山大帝国的一部分，犹太人进入持续170年的希腊化时代。
在幅员辽阔的亚历山大帝国境内，被征服居民杂居交往，造成犹太人历史上的第二次大流散，巴勒斯坦的犹太人逐渐流散到南欧、地中海诸岛以及北非、中亚各地。
公元前323年，亚历山大病殆巴比伦。随后地跨欧亚非的庞大帝国一分为三：安提柯王朝统治下的希腊及马其顿，托勒密王朝统治下的埃及和塞琉古王朝统治下的叙利亚。后两者为称霸东方展开了持续近百年的“叙利亚战争”。
公元前301年，托勒密率军征服巴勒斯坦，把上万的犹太人掳到亚历山大城。公元前198年，犹太人又落入塞琉古王朝控制下。两王朝继续追随亚历山大推广希腊化的政策，仅在巴勒斯坦一地就建立起30多座多民族杂居的希腊化城市。
在这希腊化时代，无论已经流散于南欧、北非和西亚各地的犹太人，还是依然留居于巴勒斯坦的犹太人，在其物质和精神生活的方方面面自觉或不自觉地受到希腊文明的浸染。公元前3世纪时，希伯来语逐渐退化为一种主要用于祈祷和经书的宗教语言。希腊语则为越来越多的犹太人接受、使用，并出现了一批希伯来思想和希腊精神相结合的作品。
在托勒密王朝统治期间，犹太人开始大规模定居埃及，其中既包括被迫迁来的犹太战俘、奴隶、雇佣兵及家属，也有出于各种原因而寓居的犹太工匠、商人、祭司和文士。到公元1世纪时，全埃及已有犹太人近100万。
总体来说，托勒密王朝在积极推广希腊文明的同时，对犹太人还是采取一种比较宽容的政策，也尊重犹太人的传统文化和信仰。
在托勒密二世在位时，大部分犹太奴隶获释为自由人，托勒密三世也在视察耶路撒冷时，到第二圣殿向耶和华献祭。犹太人不仅在宗教事务中享有充分的自由，而且在整个社会文化生活中拥有广泛的自治权。
当时，犹太人独特的宗教信仰对众多非犹太人显示出相当大的魅力，从而出现了一个声势浩大的皈依犹太教浪潮。由于犹太人漂泊异乡，与异族、异教者混居杂处，以往的宗教隔绝状态已有所改变。往昔曾是犹太人部落神、继而成为民族神的耶和华也逐渐超越民族壁垒，为非犹太人信徒即所谓的改宗者所敬奉，他们同样领受割礼。
许多散居异乡主要是埃及的犹太人在坚持其传统宗教信仰的同时，非常热心地学习、掌握希腊语，熟读、研究各种希腊著作，吸收希腊人的思想观念和思维方法，建立希腊式的露天体育馆、健身馆和戏院，模仿希腊人的生活方式。尤其是在地中海商业交通中枢的亚历山大城，东西方文化的汇合达到典型的体现。这座港口城市既是托勒密王朝的首都和希腊文明的传播中心，有着收藏丰富的博物馆和图书馆，也是当时世界上流散犹太人口最为集中的社区。
犹太人在当地希腊文化的熏陶下，结合本民族的文化传统，创造了一种独特的、兼具犹太和希腊特征的文化。这种文化不仅影响古代犹太哲学，而且对早期的基督教也起过相当大的作用。犹太教希伯来圣经最早的希腊文译著——“七十子希腊文译本”，即是这种犹太—希腊文化的光辉结晶。