Памятник поэту был установлен в канун 70-летия со дня его смерти. Местом установки памятника был выбран вход в парк «Орлёнок» — напротив дома (ул. Ф. Энгельса, 13), где Осип Мандельштам жил с женой во время трёхлетней ссылки в Воронеже в 1934—1937 гг. Здесь он создал свои «Воронежские тетради»