Каменная Балка — село, центр сельского Совета. Расположена на правом берегу Южного Буга, в 18 км/618/ к западу от районного центра и железнодорожной станции Первомайск-на-Буге. Население — 818 человек. Сельсовету подчинено село Чаусово-Второе.
В Каменной Балке находится центральная усадьба колхоза «Світанок», за которым закреплено 5087 га сельскохозяйственных угодий, из них 4071 га пахотных, в т. ч. 637 га поливных земель. Хозяйство специализируется на откорме крупного рогатого скота, выращиваются зерновые и технические культуры. В 1973 г. здесь сдан в эксплуатацию животноводческий комплекс по производству говядины, рассчитанный на откорм 7000 голов крупного рогатого скота в год. Проектная мощность комплекса — 2500 тонн говядины в год. Из подсобных предприятий имеются мельница и пилорама.
За трудовые достижения орденов и медалей Союза ССР удостоены шесть человек, в т. ч. водитель автомобиля Б. Д. Батовский — ордена Октябрьской Революции, комбайнер А. К. Даниленко — ордена Трудового Красного Знамени.
В Каменной Балке есть восьмилетняя школа (14 учителей и 112 учащихся), дом культуры с залом на 250 мест, две библиотеки с книжным фондом 21 тыс. экземпляров, фельдшерско-акушерский пункт, детский сад на 55 мест, два магазина, отделение связи, сберегательная касса.
В партийной организации, созданной в 1937 г.,— 43 коммуниста, в комсомольской, оформившейся в 1925 г.,— 34 члена ВЛКСМ.
Основано село в первой половине XVIII в. В 1905 г. в селе произошло крестьянское выступление против помещика. В феврале 1918 г. здесь установлена Советская власть.
На фронтах Великой Отечественной войны сражались 327 жителей села, 207 из них погибли, 120 — награждены орденами и медалями. Уроженка Каменной Балки Н. И. Буревич принимала активное участие в деятельности подпольной комсомольской организации «Партизанская искра». Посмертно она награждена орденом Отечественной войны 1-й степени.
В селе есть братская могила, в которой похоронены воины, павшие смертью храбрых в бою за освобождение Каменной Балки от немецко-фашистских оккупантов.
В с. Чаусове-Втором родился украинский советский поэт А. Г. Ярмульский.
Возле Каменной Балки раскопано несколько курганов с погребениями эпохи бронзы (II тысячелетие до н. э.) и скифского времени (IV— III вв. до н. э.). В селе найдено также погребение Черняховской культуры с четырьмя сосудами (II— VI вв. н. эры).