На 1939 год евреи составляли 20,8% из более чем 11 тыс. быховских горожан. К началу 1940 года в Могилевскую область прибыло порядка 3,5 тыс. евреев-беженцев с польских земель. Часть из них осела в Быхове.

Город был оккупирован с июля 1941 по июнь 1944 года. Из-за быстрого передвижения немецкой армии и перекрытых дорог эвакуироваться из города евреям не удалось. Некоторые не считали нужным уходить из потенциальной зоны оккупации, ссылаясь на опыт Первой мировой войны, в которой немецкая армия вела себя цивилизованно по отношению к гражданскому населению.

Политику уничтожения евреев в городе нацисты проводили по схеме, применявшейся в других оккупированных городах. Уже в августе 1941 года оккупанты осуществили первую акцию, расстреляв более 250 человек, которых вывезли под предлогом дорожных работ на трассу Быхов-Рогачев в район Ганьковского рва.

С начала сентября 1941 года оккупанты начали принудительную регистрацию евреев и создание гетто. Под гетто была выделена территория, которая включала замок Сапеги и Преображенскую церковь.

В гетто попали не только евреи-жители Быхова, но и беженцы с западно-белорусских и польских земель, часть евреев из соседней деревни Сапежинка, а также партийные и советские работники города. Всего приблизительно 4,6 тыс. человек.

Гетто просуществовало неделю. За это время узники не получали продовольствия и воды. Акция уничтожения узников началась в сентябре 1941 года. Тех, кто был в состоянии передвигаться, колоннами выводили из города, а обессиленных вывозили на машинах. Расстрелы проходили в шести километрах от деревни Воронино. Тела оккупанты сбрасывали в противотанковый ров. По свидетельствам очевидцев, на детей палачи не тратили патронов, перебивали позвоночник и бросали в яму.

После уничтожения гетто в Быхове появилась городская легенда о том, что из замка Сапеги исчезли привидения, обитавшие там столетиями. Так местное население пыталось психологически справиться с травмой от случившегося.

Жертвами акции уничтожения стали более 4 тыс. человек. В конце 1943 года, как и на других оккупированных территориях, нацисты попытались уничтожить останки погибших.

После войны останки убитых были захоронены на еврейском кладбище, где установлены два памятника — мужской и женский, согласно еврейской традиции. Усилиями местной общины и зарубежных спонсоров памятные знаки установлены в местах расстрелов: у дороги к селу Воронино и Ганьковского рва.