Еврейская община в Ракове существовала с 1620-х годов. К концу XIX века в поселке евреи составляли до 60% населения.

Согласно информации, расположенной на табличке кладбищенских ворот, кладбище основано в 1648 году. Согласно данным источников, первое захоронение было сделано в 1664 году. К XXI веку оно не сохранилось. Ныне самым старым считается могила, датированная 1767 годом. Во время Холокоста нацисты уничтожили раковскую еврейскую общину. Захоронения на кладбище прекратились в 1960-х годах. По данным источников на кладбище сохранилось до 700 могил. Многие могильные камни сдвинуты и находятся не на своих местах. Имеются надгробия, ушедшие в землю и упавшие лицевой стороной вниз, на которых надписи нечитаемые. Разрастание растительности и мха являются одними из главных проблем, разрушающих некрополь.

Еврейское кладбище в Ракове расположено в районе улиц Минской и Пушкина. Оно считается одним из самых старых еврейских некрополей на территории Беларуси.

В конце 1950-х в Ракове распространились слухи, что еврейские контрабандисты в 1920-х на кладбище прятали золото. В поисках сокровищ местные жители раскопали ряд могил, нанеся ущерб кладбищу. Кроме того, власти не следили за состоянием некрополя, евреев в поселке практически не осталось, и местные жители использовали надгробные камни для хозяйственных нужд.

В 1990-х в районе кладбища располагался базар. Торговцы и покупатели ходили территорией кладбища, которое не было огорожено забором. По воспоминаниям очевидцев, местные дети использовали территорию еврейского кладбища для игры в футбол.

В 2002 году несколько еврейских семей из ЮАР и Израиля пожертвовали средства на уборку территории кладбища и возведение забора. В 2005 году на территории кладбища был открыт памятник евреям — жертвам Холокоста. В результате сократилось количество случаев хищения надгробий местным населением. Кроме того, жители Ракова перестали сокращать путь к торговым точкам через еврейское кладбище. По сообщениям местных жителей, ворота кладбища закрыты. Их открывают для родственников, приехавших навестить могилы предков, хранитель.

Несмотря на причиненный ущерб и перемещение ряда надгробий, на кладбище сохранилась изначальная планировка. На возвышенности, в центре располагаются наиболее древние захоронения. Поздние находятся в низине, на отшибе.