Hřbitov vznikal postupně ve třech etapách, nyní se zde nachází kolem 4 000 náhrobků. Nejcennější a zároveň nejnavštěvovanější částí je rabínský vršek s náhrobky mikulovských a moravských zemských rabínů. Nejstarší dochovaný náhrobek pochází z roku 1605.