在公元630年～17世纪中叶，犹太人虽有过好时光，但总的来说处境非常艰难。
公元622年，穆罕默德在阿拉伯半岛创立了伊斯兰教。公元636年，阿拉伯人征服了巴勒斯坦和其他西亚地区，建立了阿拉伯帝国。在穆斯林统治下，犹太人要缴纳特别的人头税和土地税才能使自己的生命财产和宗教自由得到保障。
公元11世纪末，巴勒斯坦等西亚地区的大多数犹太人因宗教信仰、法律地位和社会活动受到穆斯林统治阶级的种种限制，离开故土，移居到欧洲。然而当时的欧洲，正是十字军发展的初期，犹太人受到前所未有的残酷迫害。
基督教会为巩固自己的权势，于1179年在第三届拉特兰会议上做出禁止基督教徒与犹太人交往的规定。1215年第四届拉特兰会议上又颁布了一批直接针对犹太人的法令，要求人们严格执行敌视犹太人的法律，并规定犹太人必须穿特别的外衣，佩戴特别的徽章。自此，犹太人成为最惨重的牺牲品：在街上行走的犹太人可以被过街的基督教徒任意杀害；犹太聚居区经常被洗劫，居民被集体屠杀，房屋被付之一炬；犹太群体经常被周期性地驱逐出欧洲各国。
14世纪初，西班牙掀起了反对犹太运动。结果，犹太人不是被迫改宗就是被处以死刑，或者被剥夺一切公民权。其中一部分富人改宗基督教，有的甚至担任了主教。有的犹太人虽被迫表示信仰基督教，实际上仍信仰犹太教，这些人被称为“马兰内”（意为“猪”）。
西班牙基督教会为了清洗“马兰内”，建立了异端裁判所，对“马兰内”进行公开宣判，从鞭挞直到活活烧死。共有40万犹太人受审，3万人被处以极刑。1492年斐迪南国王为了建立一个真正的天主教王国，决定将全部犹太人驱逐出西班牙。在中世纪，西班牙对犹太人的迫害，规模最大、最为残酷，由它而起的反犹浪潮几乎席卷了整个欧洲。
公元15世纪末，犹太人几乎全部被从欧洲驱赶出去，只有德国和意大利尚存少数人。1516年起欧洲的犹太人被限制住在格托——犹太人生活隔离区内，从此成为主流之外的一个特殊的被剥夺了公民权利的阶层。人们按照《塔木德》的规定处理自己的事务，并努力用它来调节自己同周围新环境的各种关系。
16～17世纪，欧洲各国对犹太人的迫害加剧。1648年赫米尔尼茨基率领乌克兰人反对波兰统治时，屠杀了10万多犹太人，洗劫了300多个犹太城镇。这场灾难使犹太人心灵在流血，他们把这场深重的灾难当作“救世主降临之前的阵痛”。
许多西欧的犹太人移居到中、东欧，波兰成为主要聚集地。1791年9月27日法国大革命爆发后，法国国民大会最终赋予法国犹太人以国家公民的权利。继此之后，西欧各国的大多数犹太人也获得经济和政治上的全面解放。而在东欧、尤其在俄国沙皇的统治下，波兰三次被分割，大部分犹太人的居留地被划入俄国境内。犹太人处境很艰难。18世纪80～90年代，欧洲再度掀起反犹浪潮，19世纪末，欧洲的犹太人开始成百万地移居美洲和南非，也有少数俄国犹太人迁回巴勒斯坦。
随着第一次世界大战的结束，土耳其人被打败了，奥斯曼帝国崩溃了，巴勒斯坦被国际上委托由英国代管。1917年，一位为英国服务的化学家、犹太复国主义运动者哈依姆·魏兹曼，劝说英国外交部秘书贝尔福爵士发表了一份声明说：“英王殿下政府赞成，在巴勒斯坦建立一个犹太人的民族家园，并将尽最大努力促其实现……”
根据此声明，犹太人开始向巴勒斯坦大批移民，但此举遭到巴勒斯坦阿拉伯人强烈反对，他们以叛乱和罢工，向英国施加压力，要求限制犹太人移民。1939年英国政府害怕进一步冒犯阿拉伯各国，发表了一份白皮书，其中提出在今后5年，每年只限移入1.5万名犹太人。而这个限制恰恰出现在欧洲犹太人正绝望地寻求逃避纳粹大屠杀之时。
1933年，阿道夫·希特勒夺取了德国政权，他宣扬雅利安人是超等种族，而其他民族特别是闪族人（犹太人），是劣等民族。德国很快成为一个反闪族主义国家，犹太人在德国的权利被一点点地夺走。1935年纽伦堡法律将犹太人贬为二等公民，他们不能参加大选、不能有办事处、不能从事大多数行业工作、不能同非犹太人结婚。凡能看到这一告示的犹太人都千方百计地想逃到他们能找到的避难地。可是美国的移民法阻碍了大批犹太人进入美国；巴勒斯坦由于1939年白皮书之故，也关了门。
1939年，当希特勒开始向东欧挺进时，在波兰、匈牙利、捷克斯洛伐克的成百万犹太人落入他的手中。格托区被恢复了，德国突击队员在安息日与其他犹太教节日闯入犹太人家中大肆劫掠，剪断他们按传统理的头发，烧毁他们的披巾，以酷刑折磨犹太人，并在犹太教会堂中吊死无数的犹太人。后又发布命令，要求所有犹太人必须带上一个黄星符号和黄色绷带。
为了彻底根除欧洲的犹太人，希特勒的第一个决定是将所有纳粹占领国里的犹太人转移到东部的集中劳动营，最后一个决议是将犹太人驱赶到集中营的毒气室。所有这一切的直接结果是在纳粹统治期间，600万活生生的人仅仅因为他们是犹太人而被灭绝。欧洲犹太人几乎不再存在，全世界三分之一的犹太人被杀害。
1948年5月14日，联合国宣告在以色列建立一个犹太国家——以色列国。尽管世界其他地区可能只把以色列视为一个国家，但对犹太人来说，其意义至为深远。以色列为那些需要逃离世界各地所受压迫的犹太人提供了避难地。在经历近两千年的流亡之后，以色列被视为所有犹太人梦寐以求的一个故乡。
从中世纪到近现代，到当代，想要灭亡犹太民族的各个统治者恐怕做梦也不会想到，他们的倒行逆施反倒大大加快了犹太国家重建、犹太文明的进程。
民族的大劫难中往往孕育着民族的大复兴。