从公元70年犹太人国破家亡、耶路撒冷圣殿被毁时起到公元630年前后为止，这一时期犹太人主要聚居在巴勒斯坦、巴比伦和亚历山大城。从前耶路撒冷圣殿不仅是犹太人进行宗教活动的场所，更是神权和世俗王权相结合的中心地。而此时，圣殿被毁，耶路撒冷已化为一片焦土，每个犹太人心灵都留下了深深的创伤。
为了使犹太人在国破之后仍能有一致的宗教信仰，永远保持本民族的特性，法利赛人努力为犹太教寻找新的出路，创造出适应新形势的活动方式（附属于圣殿的撒都该人已失去作用）。他们先在雅乌内，后又在太巴列建立起犹太教最高议院及司法机构，使之起到原耶路撒冷犹太教公会的职能。接着在迦百农、科拉济、巴拉姆、加姆拉等地建起壮丽的犹太教会堂，使之成为各地犹太社区的中心。
作为犹太人精神领袖的法利赛人被称为“拉比”（希伯来文意为“师傅”）。他们主张应加紧研习律法，深化律法的诠释。为维护民族的统一，他们创造了一种能约束所有人的犹太历法，并提倡两种习俗：一是要所有犹太人记住圣殿被毁后发生的全部事件的日期；二是全世界的犹太人必须缴纳什一税。拉比们还提出一个虔诚的犹太人必须会讲希伯来语，在犹太教会堂祈祷时要用希伯来语。
在巴比伦仍有一部分“巴比伦之囚”的后裔留居在那里。犹大国亡国之后，又有大批犹太人移居巴比伦。这些犹太人在巴比伦享有一定的自治权，有自己的政治领袖（称为“流民长官”），并且有犹太经学院，学院的院长称为“加昂”，在犹太教徒中享有极高的地位。
埃及的亚历山大城也是犹太人聚居区之一，曾出现过希腊文本《圣经》和著名犹太神学家斐洛。然而在几个世纪后，那里的犹太教领袖们已不接受斐洛的思想，也不承认希腊文的《圣经》。当拉比时期结束时，这里的犹太教社团也逐渐衰落。
拉比时期犹太教最主要的发展是口传律法集《塔木德》的完成。公元172～217年犹大亲王（亦称圣者拉比犹大）掌管乌沙犹太教公会。此时，在犹太人中除《托拉》之外，犹太教的《口传法规》已相传数世纪了。《口传法规》结合《圣经》戒律告诉那些想在各方面都符合《托拉》精神与规则的犹太人，面对各种实际情况该做什么，不该做什么。实际上是对《托拉》的注释。
在犹大亲王的主持下，拉比们收集了早期150多位学者遗留的13部口传法规文集，用20多年时间对之分类、补充、整理，在公元200～210年，犹太教口传律法法典《密什那》全部用希伯来文写成。后来巴比伦的学者发现《密什那》的许多解释只涉及巴勒斯坦传统，没有结合巴比伦的实际情况，还完全忽略了补充的宗教律法《哈拉霍特》，便着手整理了这些补充材料，加以诠释，终于在公元5世纪末，编成一部希伯来语的口传律法释义汇编《革马拉》。《革马拉》与《密什那》合在一起组成250万字的《塔木德》。它涉及犹太人在人际关系和遵守犹太礼仪时的宗教义务，实际上包括了人类行为的所有方面：出生与婚烟、欢乐与悲哀、农业与商业、伦理与神学。对犹太教徒来说，《圣经·旧约》是永恒的圣书，《塔木德》是犹太教徒生活中实用的经书。
作为一部关于犹太人精神和宗教创造力的记述，《塔木德》还是一部传世的文学著作，它再现了巴勒斯坦和巴比伦的犹太人1000多年来的生活。它以《圣经·箴言》为开篇，讲述了许多神话、故事、诗歌、寓言、谜语、道德反省和历史回忆。《塔木德》中一直采用既阐明真理，又指出错误的辩证方法，从正反两个方面来讨论律法问题。这种辩证的思维方式传统从此存留在犹太人的生活中。
拉比犹太教的特点是重视宗教律法的阐释，而不注重教义的解释和对外传教。在宗教律法与世俗律法的关系上，承认世俗律法在社会生活中的重要地位。然而在这一时期，犹太教也受到其他宗教的影响。在巴比伦出现了一部罕见的著作，名为《创世之书》。它是犹太教神秘哲学最重要的开篇作，为人们思考传统信仰及信仰问题提供了深邃的源泉。