Najsmutnejšou kapitolou novodobých rómskych dejín je obdobie druhej svetovej vojny. Tzv. Norimberské rasové zákony o ríšskom občianstve a ochrane nemeckej krvi a cti vydané v roku 1935 a na nich nadväzujúce vyhlášky klasifikovali Cigánov - podobne ako Židov a černochov - ako „element zabraňujúci čistote rasy“, zakazovali im uzatváranie sobášov či pohlavný styk s nemeckými „Árijcami“, následne im bolo odoprené ríšske občianske právo.

V novembri 1936 bol šéfom novo zriadeného „Výskumného ústavu pre rasovú hygienu a populačnú biológiu“ pri Ríšskom úrade zdravia menovaný psychiater Dr. Robert Ritter, ktorý vypracoval „vedeckú teóriu o spôsobe zisťovania prítomnosti cigánskej krvi“. Podľa jeho teórie „Cigánov charakterizuje vrodená asociálnosť a zločinnosť a tento znak ich rasy je nevykoreniteľný“. Jediným „riešením“ v takomto prípade je „Sonderbehandlung“ (zvláštne zaobchádzanie), čím sa v nacistickom Nemecku rozumelo hromadné vyvražďovanie.

Na základe „Súpisu všetkých cigánov, cigánskych miešancov a osôb žijúcich cigánskym spôsobom v Ríši“ boli všetci evidovaní povinní podrobiť sa rasovo-biologickému vyšetreniu (odbery krvi, skúmanie očí a vlasov, antropometrické merania). Vyšetrované osoby boli následne rozdelené do piatich skupín podľa podielu cigánskej a nemeckej krvi.

17. apríla 1940 nariadil ríšsky vodca SS Heinrich Himmler prvé transporty Rómov na poľské územie do koncentračných táborov. Rómovia, ktorí boli využívaní pre potreby nemeckého zbrojného priemyslu, boli násilne sterilizovaní.

Na území nacistickej Tretej ríše boli zriadené zberné tábory pre asociálov, kam boli internovaní aj rómski muži. Takéto tábory boli aj v Čechách - v Letoch u Písku a na Morave - v Hodoníne u Kunštátu. V roku 1942 boli premenené na Cigánske tábory, kde boli okrem mužov internované aj rómske ženy a deti. Odtiaľto potom odchádzali transporty do vyhladzovacích koncentračných táborov, najmä do Osvienčimu. Z vyše 6 500 českých a moravských Rómov evidovaných v roku 1940 prežilo vojnu necelých 800.

16. decembra 1942 vydal Himmler rozkaz - tzv. Osvienčimský výnos (Auschwitz Erlass), ktorým nariadil deportáciu „Cigánov a cigánskych miešancov“ z Ríše a pripojených území do koncentračných táborov. Za týmto účelom bol zriadený špeciálny Cigánsky koncentračný tábor v Osvienčime II. - Brzezinke (Auschwitz II. - Birkenau), do ktorého bolo vyvezených 5 600 Rómov. Väzňom boli na odev našité čierne trojuholníky (označenie pre asociálov), na predlaktie vytetované číslo a písmeno Z (nem. Zigeuner). Do tábora boli privezení Rómovia z Čiech a Moravy, Holandska, Belgicka, severného Francúzska, Poľska a štátov vtedajšieho Sovietskeho zväzu.

Veliteľom tábora bol menovaný lekár Dr. Josef Mengele (prezývaný „anjel smrti“), ktorý vykonával na Rómoch svoje neľudské „vedecké pokusy“. Táborom prešlo viac ako 22 000 európskych Rómov, vyše 19 000 z nich tu našlo svoju smrť. Dňa 2. augusta 1944, potom, čo boli izolovaní mladí rómski väzni, bolo počas jednej noci odvezených do plynových komôr 2 897 obyvateľov cigánskeho tábora. 2. august si európski Rómovia pripomínajú ako Deň rómskeho holocaustu. Odhaduje sa, že počas druhej svetovej vojny zahynulo asi 300 tisíc európskych Rómov.