犹太人古称希伯来人，其祖先是一个游牧部族，约于公元前2000年从幼发拉底河流域（此为传统说法）来到迦南，即今巴勒斯坦，当地人称之为“哈比鲁人”，意为“大河那边来的人”，后因语音演变，遂成“希伯来人”。
公元前1700年左右，希伯来人开始自称“以色列人”。“以色列”是“与神角力”的意思，相传他们的族祖曾于夜间同神角力，神不能胜，故为之起名以色列。
后来因迦南大旱，以色列人移居埃及，经过400余年的寄居奴役生活之后，由部族首领摩西带领，离开埃及，重返迦南。途中，在西奈沙漠中流浪40年。在这一期间，摩西代表以色列族众与耶和华上帝立约，接受上帝授予的“十诫”，尊耶和华为至高唯一神。犹太教初步奠定。
公元前13世纪，希伯来人征服了迦南人和其他土着居民，开始定居迦南。这时，在北方形成了由十个部落组成的以色列王国，南方形成了由两个部落组成的犹太王国，公元前11世纪，扫罗在这十二个部落的基础上建立了统一的王国。第二代君王大卫和第三代君王所罗门前期，是犹太王国的鼎盛时期，所罗门王修筑了耶路撒冷城和珍藏上帝与以色列人立约之信物的圣殿，史称“第一圣殿”。
在所罗门晚期，国势渐衰，到他死后，王国分裂为二，仍为北方以色列国，南方犹太国。两国自相残杀，两败俱伤。以色列遂于公元前721年为亚述人所灭，从此消失。到公元前586年，犹太王国亦亡于新巴比伦人之手，耶路撒冷城破之日，圣殿被毁，上层人士和工匠文士数万人被掳至巴比伦，史称“巴比伦之囚”。流散在外的希伯来人在当时被称为“犹太人”，意为犹太国灭亡后的遗民。起初带有贬意，后来相沿成习。
在历时半个世纪的被囚期间，希伯来人中的文士和祭司为保存民族文化传统，开始撰写编录文献资料，其中一部分构成了日后《圣经》的主要内容。
公元前538年，波斯人灭新巴比伦，允许希伯来人返回此时已处于波斯人统治下的巴勒斯坦，重建圣殿。希伯来人经过20年的艰苦努力重新建成圣殿，中称“第二圣殿”。
自从犹太国灭亡后，希伯来人一直处于异族统治之下。波斯人之后是马其顿王国，随后是马其顿王同分裂后形成的埃及托勒密王朝和叙利亚塞琉古王朝。
在公元前165年到公元前63年之间，希伯来人曾通过“马加比起义”而获得了100年的独立。此后，便落入罗马人的统治之下。
公元66年，希伯来人举行武装起义，遭罗马人镇压，第二圣殿于公元69年被毁。
公元132年，希伯来人再度起义，于3年后失败。随之，罗马人将希伯来人或杀或卖，余者全部强行驱逐出巴勒斯坦。至此，希伯来人几乎全部成为“犹太人”，从此开始漫长的“大流散”，起先散居于欧亚非三洲相邻处，后来遍及全世界。
在将近2000年的漫长时期内，犹太民族始终处于被歧视的境地，并屡遭迫害甚至杀戮。然而就是在这样恶劣的生存环境下，犹太民族散而不亡，不但极为顽强地、令人不可思议地作为一个民族生存了下来，并在各个时期乃至今日，为人类文明做出了巨大的贡献。
犹太民族在丧失地域之后，便有意识地以民族文化为纽带，借助典籍和注重学习的传统，在2000多年的散居生活中维系了民族的存在，始终保持着独特的文化个性与民族个性，文化传统一以贯之从未中断，并于现代民族解放潮流开始之际，果断把握住历史时机，终于在1948年重建民族国家以色列，这是人类历史上绝无仅有的“古国复活”事例！
犹太民族长期居于屈辱地位，却靠不屈不挠的精神和精明强干，一再取得巨大的经济成就，越来越成为世界经济生活中的一支重要力量!