О том, что в городе существовала еврейская община известно по источникам XVII века. Еврейское население Быхова в различные периоды истории составляло до половины горожан. Здесь было несколько синагог и еврейских кладбищ.

К 20-м годам ХХ века евреи составляли 33,6% населения города. К концу ХХ века сохранилось лишь одно кладбище. Со временем оно перестало быть чисто еврейским, и было переведено в статус «гражданского». Здесь хоронили и быховчан других национальностей.

После второй мировой войны поисковые отряды проводили эксгумацию жертв нацистского геноцида и переносили их останки на еврейское кладбище, где они нашли последний приют в братской могиле. На кладбище установлены мемориалы жертвам Холокоста. По данным историков в Быхове нацисты уничтожили порядка 4,5 тыс. человек.

В 2013—2014 годах по инициативе еврейских общин Могилевской области проводилось изучение могил и наведение порядка на кладбищах. В Быхове еврейская часть кладбища огорожена. Описаны более 200 надгробий. Полный список доступен на сайте «История Могилевского еврейства».

Самые ранние захоронения на кладбище датированы началом ХХ века — 1905 и 1906 годами. Последнее — 2013 годом. Наиболее ранняя дата рождения, сохранившаяся на памятниках — 1847 год.

Не все могилы сохранились в нормальном состоянии. К началу ХХІ века в Быхове евреев почти не осталось. Они составляли 0,09% населения. Следить за некоторыми могилами было некому. На кладбище были зафиксированы случаи вандализма.

Как результат, в списке, опубликованном на сайте еврейской общины, на семи могилах не сохранились имена, еще на шести сохранились лишь частично. В одиннадцати могилах похоронены члены семьи (муж и жена, дети). Напротив описания могилы Моисея Кнопова, скончавшегося в 1933 году, сделана приписка, что в ней захоронены пять человек, убитые в 1941 году.