Ростов-на-Дону основан в 1749 году. Спустя 47 лет в крепости Святого Дмитрия Ростовского, давшей начало городу, проживали семь евреев-мещан. К 1800 году — десять. За последующие семь лет число евреев Ростова выросло до 94 человек.

Ростов до 1880-х годов был частью Екатеринославской губернии, входившей в черту оседлости. Уже к 1830-м годам здесь имелось еврейское кладбище, а к 1860-м — возведена Хоральная синагога.

В 1883 году накануне коронации Александра ІІІ в городе прошел еврейский погром.

С 1888 года Ростов стал частью земель Войска Донского. Власти ввели ограничения на проживание евреев, но разрешили остаться тем, кто проживал до издания указа о переходе города под административную юрисдикцию Войска Донского.

К 1897 году в Ростове проживали 11,8 тыс. евреев, которые составляли 10% городского населения.

Во время революции 1905 года в городе произошел один из самых кровавых погромов в империи, в результате которого погибли 150 евреев.

По данным 1910 года в городе работали три училища Талмуд-Тора, две синагоги и один молитвенный дом, женское еврейское училище и общество еврейской взаимопомощи Гмилат-хесед.

С 1915 по 1920 годы в Ростове жил пятый Любавичский Ребе Шолом Бен Шнеерсон. Город стал одним из центров хасидизма на юге России.

Во время революции местные евреи поддержали атамана Каледина. В 1917 году община собрала 800 тыс. рублей для борьбы войска атамана с большевиками. Поэтому в 1920 году Первая конная армия, захватив Ростов, устроила погром.

С 1920 по 1924 годы в городе проживал шестой Любавичский Ребе Менахем Мендел Шнеерсон. Затем ОГПУ вынудило его уехать в Ленинград.

В 1920 году в Ростове проживали 22,7 тыс. евреев, составлявших 9,8% населения. К 1926 году в городе насчитывалось 26,3 тыс. евреев, которые составляли 8,5% горожан.

К 1930-м власти закрыли все еврейские организации.

К 1941 году в Ростове насчитывалось 27 тыс. евреев. Город был оккупирован в ноябре 1941 года, но через несколько дней освобожден советскими войсками. Власти утверждали, что второй раз город не будет сдан, поэтому евреи не эвакуировались. В июле 1942 года нацисты повторно оккупировали Ростов.

В августе 1942 года появилось воззвание, предлагавшее евреям города переселиться в особый район для обеспечения безопасности. Пришедших в назначенный день оккупанты расстреляли в Змеиной балке. По разным подсчетам погибли от 15 до 18 тыс. евреев.

В послевоенные годы численность евреев города уменьшалась. В 1959 году в городе проживали 16,3 тыс. евреев, а к 1989 году — 8,5 тыс. По данным переписи 2010 года в Ростове насчитывалось 2,4 тыс. евреев, который составляли 0,2% населения.