犹太人在伊朗的历史悠久。
公元前550年，波斯国王居鲁士二世（Cyrus II）即位，并在随后若干年击败了新巴比伦王国，成为新的中东霸主，为了收买人心，建立西起地中海、东到中亚的大帝国，波斯国王刻意处处和新巴比伦反其道而行之，以争取中东各民族的好感。
就在波斯兴起前的公元前586年，新巴比伦王国国王尼布甲尼撒二世（Nebuchadnezzar）利用犹太民族内部的分裂和矛盾占领了耶路撒冷，抢走了犹太人的镇国圣物约柜，并强行将城内所有犹太人前往巴比伦。此时居鲁士二世大发慈悲（一说他有个宠妃是犹太人），允许并帮助流落在两河流域的犹太人重返故土，还把大批被新巴比伦抢走的圣物（据说多达5400余件）归还给犹太人。
但并非所有犹太人都愿意回到故土，其中有一些人担心弱小的犹太民族还会再遭劫难，就和回乡的同胞告别，随着凯旋的波斯大军来到波斯帝国的腹地——今天伊朗境内生活，这批人被犹太同胞称作“波斯犹太人”（Parsim）
熟悉《旧约全书》的朋友都该知道，犹太人根据第三代先祖雅各的12个儿子，分为了12个支派（流便、西缅、利未、犹大、但、拿弗他利、迦得、亚设、以萨迦、西布伦、约瑟（又分为以法莲、玛拿西两个小支派）、便雅悯，在前面提到的大分裂中，只有南方的犹大和便雅悯两个支派留在耶路撒冷，称为犹太王国，其余10个支派称为以色列王国，公元前721年被亚述灭亡，这10个支派的犹太人比南方同胞更早流离失所，因此“巴比伦之囚”中被劫持到两河流域的犹太人，都属于犹大和便雅悯两个分支，波斯帝国帮助犹太人回归故土，自然只能帮助到这两个支派的犹太人，而对更早被赶得四处流浪的另外10个支派鞭长莫及。自然，少数追随波斯大军回到波斯腹地的犹太人，也几乎都属于这两个南方犹太人支派，今天的波斯犹太人也仍然如此，他们都说自己来自便雅悯或犹大支派。
这些波斯犹太人预料得不错：此后回到故土或流落各地的犹太人屡遭劫难，而波斯犹太人虽然也命运多舛，但大体上日子还算过得去。
14世纪，波斯犹太人学者沙欣（Shahin）模仿《后典》写了一部对波斯君主的“恩惠”歌功颂德的著作《以斯拉书》（Esdras），但其实波斯国王对犹太人固然还不错，但波斯的国教最初是俗称“拜火教”的祆教（琐罗亚斯德教），其祭司阶层对犹太人并不友好。在祆教时代，波斯犹太人总数有几十万人。
公元7世纪，YSL教传到波斯，当时他们倒并未过于为难被称作“有经人”的波斯犹太人，而是向对待基督徒那样给他们两个选择，要么皈依，要么继续保持信仰，但需额外支付一份人头税（（Jizya）。迫于生计，大多数波斯犹太人选择皈依，只有少数（不到10万）宁愿多支付这高达10%的人头税也要继续保持信仰，于是波斯犹太人社区仍然存续下来。
13世纪初，西征的蒙古大军在波斯高原建立了地方化的蒙古贵族政权伊儿汗国，波斯犹太人医生陶拉赫（Sad Al-Dawlah）当上首相，由于他的关系，波斯犹太人在这一时期地位上升，犹太文化得到保护，19世纪犹太复国主义恢复已经消失的希伯来语，很多语言元素都来自这一时期保存下来的许多文学作品，这些文学作品是用一种夹杂犹太方言译音的波斯语记录下来的，其中夹杂的这些犹太方言译音就都被吸收进新的希伯来语中。
19世纪末20世纪初，犹太复国运动兴起，原本已经“死亡”的希伯来文也起死回生，这一潮流也影响到波斯犹太人，而巴列维王朝对犹太人也持宽容态度，部分犹太人社区开始恢复教堂、会所和学校等。
但因为在波斯居住太久，波斯犹太人普遍不认同“犹太人只有以色列一个祖国”之类犹太复国主义“原教旨”观点，1917年犹太人《贝尔福宣言》号召“重归故土”（以色列），波斯犹太人非常不配合，号称10万的波斯犹太人，第一批响应号召的只有1700,八年的功夫前往今天以色列定居的也不过7000人而已，而且这些人中大多数仍然保留了伊朗国籍。
二战中犹太人遭到历史上最大的劫难——其实反犹的并非仅仅是纳粹一家，在二战前和二战期间许多欧洲国家都因为这种那种原因排斥犹太人，只是程度不同而已，而波斯犹太人社区再次成了世外桃源。在此期间还发生了伊朗驻巴黎总领事萨尔达尼（Abdol Hussein Sardari）冒着生命危险向2000名欧洲犹太人发放签证，帮助他们逃到伊朗的“伊朗辛德勒事件”。这件事被伊朗裔美国籍作家穆赫塔里（Fariborz Mokhtari）写入.《在狮子的阴影下》（In the Lion's Shadow: The Iranian Schindler and his Homeland in the Second World War，美国历史出版社The History Press 2012年），成为一代不朽名作。
霍梅尼上台后，伊朗和以色列处于敌对状态，但并未过于为难波斯犹太人社区，历任伊朗领导人中也仅有前总统内贾德(Mahmoud Ahmadinejad)等极少数人把波斯犹太人也当成“以色列帮凶”加以谩骂和迫害（有趣的是内贾德是世俗领导人，而哈梅内伊等“神派”反倒对波斯犹太人没那么极端），不过既然大环境变了，波斯犹太人中也开始出现移居国外的，但他们选择欧美和澳大利亚，而不是以色列作为迁徙对象，且基本上仍然认同自己是“伊朗移民”，而不是“犹太人移民”，据说这些年来最多一年（2017年）移居以色列的波斯犹太人，也不过区区40人而已。
波斯犹太人官方登记数量（2011年伊朗人口普查数据）为9000，非正式的数据则在2-5万人不等，尽管比全盛时期差得多，但仍然是以色列以外中东最大的犹太人社区——更关键是稳定。
今天波斯犹太人最重要的社区，是延续2700年之久、号称“持续时间最长犹太人定居点”的伊斯法罕亚胡德（Dar al-Yahud），其次则是首都德黑兰，以市中心约瑟夫.阿巴德.西奈果戈犹太教堂（Yousef abad synagogue）为核心的社区。在今天的伊朗，议会中有6个专门为少数民族、少数宗教保留的议席（波斯犹太人、琐罗亚斯德教信徒、伊朗亚述人、恰尔达基督徒、南亚美尼亚基督徒、北亚美尼亚基督徒），波斯犹太人占据一席，这个地位始终未改变，伊朗也公开保留和修复了11座合法的犹太人教堂和会所。投桃报李，波斯犹太人长老从来不主持以色列建国日，甚至经常站在伊朗人的立场上，对以色列人“侵犯巴勒斯坦人人权”加以谴责。
有人认为，波斯犹太人这一做法，很大程度上是因为他们一直属于南方犹太人的两个支派，和主要由北方十个支派后裔组成的以色列历史上就不亲近。
也正是这种持续2700年的波斯人-波斯犹太人相处和相安无事，从霍梅尼到哈梅内伊的伊朗领袖才理直气壮地宣称“我们从来没歧视过犹太人，是以色列歧视我们伊朗”。
