Евреи проживали в Бердичеве с XVIII века и к концу XIX века составляли до 80% населения. В городе два еврейских кладбища. Первое, возникло в конце XVI—XVII веках и действовало до конца XVIII века. Оно располагалось на восточной окраине города и, судя по описанию, занимало площадь до трех гектар, граничило с хасидской и ортодоксальной синагогами. Здесь были деревянные и каменные надгробия.

Со временем город разрастался, и кладбище оказалось в самом центре на улице Шевченко. В конце 1920-х бердичесвский горсовет рассматривал вопрос о том, чтобы объявить старую часть кладбища памятником еврейской материальной культуры местного значения и даже поручил сотрудникам местного музея провести раскопки. Однако в 1930 году принял иное решение. Самые ценные надгробия были перенесены в музей, а кладбище было ликвидировано. На его месте появился парк культуры и отдыха.

На старом кладбище главной достопримечательностью была могила хасидского проповедника Либера Элиезера умершего в 1771 году. В конце 1980-х местная община ее восстановила.

Второе кладбище расположено по улице Житомирской. Одно действовало с конца XVIII века вплоть до осени 1973 года. Кладбище уцелело в годы Второй мировой войны, но пострадало в послевоенный период. Часть надгробий по решению властей были перенесены в центральную часть кладбища, а остальные пошли на строительство автодорог.

На кладбище есть памятник жертвам Холокоста и могила раввина Леви-Ицхака бен Меира Бердичевского. Община восстановила его усыпальницу в 1991 году и реконструировала в 2007 году.

По приблизительным оценкам на кладбище было более 10 тыс. захоронений. От них осталось около 550 надгробий. Они представляют историческую ценность, поскольку демонстрируют различные этапы эволюции еврейской похоронной культуры. На Бердичевском кладбище пять типов надгробий:

• В форме валенка, которые появились во времена, когда было принято в могиле не хоронить покойника горизонтально, а садить лицом к Иерусалиму.
• В форме дерева с обрубленными ветками. По традиции ставились на могилах тех, чей род прерывался.
• В форме саркофага, украшенного надписями и ветвями винограда, который символизировал большое количество потомков умершего.
• Мацевы с орнаментами и надписями о социальном статусе покойного.
• Стеллы советского периода, на которых лишь изображение звезды Давида или надписи на иврите говорили о национальной принадлежности умершего.