Eesti juudi kogukond palus 1968. aastal Nõukogude võimudelt luba püstitada Tallinnasse Rahumäe juudi kalmistule holokausti mälestusmärk. Luba selleks paraku ei saadud, ehkki mälestusmärki esitleti auavaldusena Eesti juutidest fašismiohvritele. Nõukogude režiim ei toetanud üksikute rahvuste vastu suunatud repressioonide esiletoomist, oli kombeks rääkida ühtsest nõukogude rahvast.

Ei aidanud isegi argument, et sakslaste tapetud juutidele oli mälestusmärke püstitatud mitmel pool mujal NSV Liidus. Pärast palve mitmekordset tagasilükkamist anti juudi kogukonnale vihjamisi mõista, et juhul kui monument püstitatakse kalmistule ilma loata, vaatavad võimud sellele läbi sõrmede ega sekku.

1973. aastal pandigi mälestusmärk Rahumäe kalmistule püsti. Tehti seda ühe ööga ja range saladuskatte all. Monumendile kinnitati tahvlid neljas keeles, kuid erinevate sõnumitega: eesti ja vene keeles tekstiga „Fašismiohvrite mälestuseks“, aga jidiši ja heebrea keeles „Me ei unusta teid iialgi“. Nõukogude võim formaalse kooskõlastuseta rajatud monumenti ei puutunudki.

Nii püstitati Eestisse esimene holokausti mälestusmärk, kuna Nõukogude võimude enda rajatud mälestuspaigad olid pühendatud „fašismiohvritena langenud nõukogude kodanikele“. Eesti iseseisvuse taastamise järel paigutati algselt haudade vahel paiknenud monument ümber kalmistu Rahumäe tee äärsesse külge, kus on mälestustseremooniate korraldamiseks rohkem ruumi.