Тело его было сожжено
Писатель обвинялся в «антисоветской заговорщической террористической деятельности в подготовке террористических актов... в отношении руководителей ВКП(б) и Советского правительства. Под пытками Бабель дал ложные показания, оговорив многих своих знакомых.
27 января 1940 Бабель был расстрелян, тело его было сожжено в крематории Донского монастыря.
Через 14 лет, в 1954, в заключении военного прокурора подполковника юстиции Долженко о реабилитации Бабеля было сказано: «Что послужило основанием для его ареста из материалов дела не видно, так как постановление на арест было оформлено 23 июня 1939, то есть через 35 дней после ареста Бабеля». Есть версия, что Бабеля подвело его близкое сотрудничество с советскими спецслужбами, и его убрали как нежелательного свидетеля. Некоторые винят в гибели писателя знаменитого командарма Буденного, которому резко не понравилась книга Бабеля «Конармия», в которой, как считал маршал, оклеветано славная Первая конная.
С 1939 по 1955 имя Бабеля было изъято из советской литературы. В 1954 посмертно реабилитирован. При активном содействии Константина Паустовского, любившего Бабеля и оставившего о нём тёплые воспоминания, после 1956 Бабель был возвращён в советскую литературу.