Nekropolia powstała w XVIII wieku. Zachowało się tu 2 tysiące nagrobków i pod tym względem jest jednym z największych cmentarzy żydowskich w Polsce. Najstarsze pomniki pochodzą z 1830 r. Znajduje się tu tablica upamiętniająca 16 tysięcy szydłowieckich Żydów, zgładzonych podczas II wojny światowej w obozach koncentracyjnych i 150 zamordowanych przez Niemców na terenie cmentarza. Obecnie nekropolia jest zamknięta dla celów grzebalnych.