По данным переписи 1939 года, в Бершади проживали 4,2 тыс. евреев, которые составляли 74% населения. Данных о количестве эвакуированных и призванных в Красную Армию не сохранилось. По воспоминаниям очевидцев летом 1941 года немецкие войска наступали быстро, взорвали мост через Дохну, поэтому часть евреев, которая пыталась покинуть город самостоятельно, вынуждена была вернуться. Нацисты взяли населенный пункт под контроль 29 июля 1941 года. Вскоре Бершадь оказалась в румынской зоне оккупации.

Румынские власти создали на территории города гетто, которое занимало 12 переулков. Евреи разместились в 337 домах. Осенью 1941 года к местным евреям присоединились 20 тыс. евреев, депортированных из Буковины и Бессарабии. В результате, гетто оказалось перенаселенным. Евреи вынуждены были ютиться по 20 и более человек в комнате. Бершадское гетто было одним из самых крупных в румынской Транснистрии.

Зима 1941—1942 годов оказалась самым сложным периодом для узников. В гетто вспыхнула эпидемия тифа, которая почти вдвое сократила население. По воспоминаниям очевидцев, по территории гетто каждый день ездила повозка, собиравшая трупы.

В гетто был создан юденрат, во главе с шойхетом Эли Марчаком. Также действовала еврейская полиция. Румынские власти использовали евреев на принудительных работах по заготовке дров, строительству дорог, а еврейские ремесленники производили одежду для оккупантов.

С 1942 года румынской жандармерией командовал Георге Попеску, который облегчил страдания узников. В разгар эпидемии тифа он наладил поставки средств гигиены в гетто и разрешил местным жителям торговать с узниками. Вскоре, за подобные меры Попеску был уволен. Но с 1942 года оккупационные власти разрешили румынским евреям помогать депортированным. В результате, в гетто появились аптека, инфекционная больница, столовая и детский дом.

С конца 1941 года в гетто действовало несколько подпольных групп. В декабре 1942 года часть подпольщиков присоединилась к партизанскому отряду имени Ленина. В 1943 году благодаря действиям подпольщиков был организован побег 900 узников.

В январе—феврале 1944 года оккупанты расстреляли часть руководства гетто, но благодаря удачному стечению обстоятельств, к моменту освобождения Бершади в марте 1944 года в ней в живых остались 9,2 тыс. узников гетто. Из них 2,2 тыс. были местными евреями. Часть выживших вернулась в Румынию.