Do 18. storočia prevládal v Európe názor, že Rómovia pochádzajú z Egypta (v Británii im dodnes hovoria Gypsies). Výsledky výskumov jazykovedcov poukázali na skutočnosť, že rómsky jazyk patrí do skupiny indických jazykov. Ďalšie výskumy potvrdili, že pravlasťou Rómov bola India.

Predkovia dnešných Rómov opúšťali Indiu v priebehu 9. a 10. storočia. Jednotlivé skupiny prechádzali cez Perziu, Arméniu a Malú Áziu; v polovici 11. storočia boli zaznamenaní na európskom kontinente, v oblasti dnešného Grécka. V priebehu nasledujúceho obdobia (najmä v 14. a 15. storočí) prechádzali jednotlivé skupiny kočovníkov dunajskou kotlinou do strednej a ďalej do západnej Európy. Územie dnešného Slovenska, najmä jeho južné oblasti, boli súčasťou týchto migračných trás: napríklad roku 1417 prechádzala jedna takáto skupina cez Budín, Košice, Levice a Bratislavu.

Európske obyvateľstvo bolo ku kočovníkom spočiatku zhovievavé, prijímalo ich ako kajúcnych kresťanských pútnikov, za ktorých sa vydávali. Po roku 1427, kedy jednu zo skupín parížsky arcibiskup exkomunikoval z cirkvi, sa postoj obyvateľstva k príslušníkom tohto etnika radikálne zmenil: na štyri a pol storočia boli v západnej Európe vystavení krutej diskriminácii. Vlády jednotlivých krajín ich zo svojho územia vykazovali: pri dolapení boli vystavení mučeniu, zmrzačeniu tela a následnej poprave. Zabitie Cigána nebolo považované za zločin.

V strednej a juhovýchodnej Európe bol vzťah k rómskemu obyvateľstvu tolerantnejší, čo vytvorilo predpoklady pre ich postupné usadzovanie. Z druhej polovice 16. storočia máme správy o usadzovaní rómskych kováčskych rodín na území niektorých miest dnešného Slovenska. Rodiny kováčov a súčasne hudobníkov usadzovali na svojich pozemkoch uhorskí feudáli, ktorí im naviac poskytovali rôzne úľavy (napr. oslobodenie od poddanských povinností). Na územie Slovenska prichádzali aj skupiny Rómov vyháňaných zo západnej Európy.

Súpisy z 18. storočia potvrdzujú, že v tomto období žila väčšina Rómov na našom území usadlým spôsobom života. Nariadenia Márie Terézie a Jozefa II., ktoré tvrdou represívnou formou presadzovali definitívne usadenie a asimiláciu Rómov v prospech roľníkov, však už s nimi počítali ako s reálne existujúcou zložkou obyvateľstva krajiny. Nariadenia týchto osvieteneckých panovníkov mali priamy vplyv na utváranie legislatívy v ďalších krajinách, pre Rómov v západnej Európe sa skončilo obdobie krutého prenasledovania a vyvražďovania.

Do polovice 20. storočia žila prevažná väčšina Rómov na Slovensku usadlým spôsobom života na vidieku, na východnom Slovensku často v segregovaných sídelných jednotkách - osadách. Spolužitie rómskeho a nerómskeho obyvateľstva nebolo v tomto období zlé: Rómovia ponúkali miestnym roľníkom najmä svoju pracovnú silu, svoje výrobky ponúkali kováči, košikári, výrobcovia nepálených tehál, kief, viazači metiel, známi boli ako vynikajúci hudobníci. V mestách sa v priebehu 19. storočia vytvorila spoločenská vrstva profesionálnych kaviarenských hudobníkov. Okrem usadlých Rómov bolo možné na Slovensku stretnúť aj skupiny kočovných - olašských Rómov, ktorí sem prišli v 2. polovici 19. storočia z územia dnešného Rumunska: zaoberali sa obchodom s koňmi, priekupníctvom rôzneho tovaru, zberom druhotných surovín, ženy veštili z ruky.