Согласно переписи 1939 года в городе проживало порядка 23,2 тыс. евреев, которые составляли 37,5% местного населения. В 1941 году на счет беженцев количество еврейского населения Бердичева, по данным историков, выросло до 25—26 тыс. человек.

Уже 1 июля 1941 года в городе началась негласная эвакуация семей партийных и советских работников. 5 июля 1941 года горожане стали стихийно покидать город. Проблема усложнялась тем, что мосты через реку Гнилопять были уничтожены, и перебраться можно было только на лодках. Также сотни еврейских семей скопились на железнодорожном вокзале, ожидая эшелонов для эвакуации. Но их не было. Всего, по приблизительным подсчетам, город смогла покинуть лишь треть еврейского населения. В оккупации остались около 20 тыс. евреев.

Нацисты контролировали город с 8 июля 1941 года по 5 января 1944 года. По воспоминаниям очевидцев, преследования и грабежи евреев начались, когда в город прибыли солдаты второй волны наступления. С 7 по 22 августа 1941 года оккупационные власти проводили акцию по переселению бердичевских евреев в гетто. Оно располагалось в районе городского рынка и ограничивалось улицами Старогородской, Муромской (ныне 30-летия Победы) и Штейновской (ныне Льва Толстого).

Евреев переселяли в старые дома, в которых до войны жила городская беднота, по пять—шесть семей в помещение. В комнате могло проживать до 10 человек. Гетто от внешнего мира не ограждали, и евреям было дозволено выходить на рынок за продовольствием, но в вечерние часы после 18:00, когда на рынке уже никого не было.

Расстрелы проходили с августа по ноябрь 1941 года. 25 августа 1941 года оккупанты уничтожили 546 человек. Спустя два дня в районе села Быстрик еще порядка двух тысяч человек, а 28 августа — еще около 300 евреев.

В сентябре нацисты расстреляли около 20 тыс. человек. Массовые акции проходили 5 сентября 1941 года, когда было уничтожено 10,6 тыс. евреев и 15—16 сентября, когда оккупанты расстреляли 12 тыс. евреев Бердичева и близлежащих районов. 3 октября 1941 года нацисты уничтожили 3 тыс. евреев, а спустя месяц еще 2 тыс.

Всего после освобождения Бердичева Чрезвычайная государственная комиссия обнаружила в районе города 10 братских могил, в которых по официальным данным находилось порядка 18,6 тыс. человек.

Бердичевская трагедия стала первым массовым актом геноцида на территории Европы и бывшего СССР до Бабьего Яра.