Библиотека-филиал № 4 открылась в 1944 г.
Первая запись в инвентарной книге появилась 16 февраля 1945 г.
Библиотека находилась в средней школе № 12 (ул. Полевая, 19). В 1954 г. библиотека переехала в помещение площадью 329,1 кв. м., расположенное в Железнодорожном административном округе города Курска по адресу ул. Раздельная, 12. В 1978 г. ул. Раздельная была переименована на ул. Малых.
Несколько лет библиотека занимала одну комнату на первом этаже. С середины 60-х годов библиотека стала занимать два этажа: первый этаж занимали абонемент и передвижной фонд, второй этаж – читальный зал.
В 1972–1973 гг. на втором этаже был расположен отдел обработки и комплектования ЦБС г. Курска, который в ноябре 1973 г. переехал в помещение по адресу: ул. К. Маркса, 23.
В 2006 г. в целях увековечения памяти выдающегося курского поэта Е. Полянского постановлением Администрации города Курска библиотеке было присвоено имя знаменитого поэта.