Район Балка - это одна из старейших окраин города. Берет свое начало от небольшого хутора.

Ученый–естествовед, путешественник, академик Петербургской Академии Наук Иоганн Антон Гюльденштедт, который посещал Елисаветградскую провинцию в 1774 году, отметил, что у верховье реки Биянка лежит Криничуватый хутор, в котором было 50 домов принадлежавшие местным купцам.

Первые сооружения, как свидетельствуют документы, в том числе металлический знак общества «Взаимное страхование», найденный на доме №29 по улице Харьковской, появились в местности Криничуватка еще в 1753 году.

Про то, кто и откуда переселялся в этот край свидетельствуют топонимические названия улиц: Харьковская, Полтавская, Запорожская, Бериславская, Сычова, Козацкая; переулков: Тираспольский, Перекопский, Козацкий, существуют и народные названия – Молдаванка, Млинки, Кринички. Позже, во времена Советской Власти, начали появляться собственные имена улиц района Балка, которые были названы в честь государственных, политических, военных деятелей России и УССР. Но не они определяют происхождение этой окраины города.^[12]