Евреи селились в Харькове с конца XVIII века. Первое упоминание о еврейском кладбище датировано 1799 годом. В начале ХХ века евреи составляли 8% городского населения. Сохранились сведения о том, что уже в 1913 году ввиду нехватки земли еврейская община приобрела под кладбище новый участок в 2,5 десятин земли.

Точные сведения о количестве еврейских кладбищ в Харькове не сохранились. В городе традиция давать конфессиональные названия кладбищам сочетается с нумерацией кладбищ.

Так, согласно данным местных краеведов, с 1930-х по 1960-е годы по улице Академика Павлова существовало отдельное еврейское кладбище. На нем также хоронили жертв НКВД и погибших во время Голодомора. Затем на месте кладбища городские власти разбили Комсомольский парк (ныне — Парк Памяти). В 2000-х на территории парка обнаружили массовые захоронения.

По тому же адресу — улица Академика Павлова располагается городское кладбище №3, также известное как Салтовское. Это одно из 50 формально существующих кладбищ города и одно из 18 кладбищ с порядковыми номерами. Ныне кладбище закрыто для захоронений. По данным местных ритуальных служб, кладбище основано в 1940-х в период Второй мировой войны. Еврейский участок на нем появился с конца 1950-х, что совпадает с датой застройки отдельного еврейского кладбища под Комсомольский парк. Захоронения на еврейском участке кладбища №3 проводились до начала 1990-х годов. По данным краеведов, участок был заполнен.

Со временем кладбище №3 оказалось в городской черте. Ныне недалеко от него расположена станция метро имени Академика Барабашова. После массовой эмиграции еврейского населения Харькова в 1990-х годах могилы на еврейском участке остались без ухода. Учетно-регистрационные книги, относящиеся к еврейскому участку кладбища, были утеряны. Администрация распродавала участки на кладбище под новые захоронения до момента официального закрытия кладбища.

Поддержанием порядка на еврейском участке кладбища №3 никто не занимался. В результате кладбище заросло растительностью. Кроме того, по свидетельствам местных жителей, его облюбовали полукриминальные элементы, наркоманы, лица без постоянного места жительства. В совокупности с бесхозностью и неконтролируемым разрастанием растительности это привело к разрушению захоронений. Многие надгробные памятники оказались разрушенными, находились не на месте.