Село Кам’яна Яруга засноване у 1647 році переселенцями на «слободи». Для охорони південних кордонів держави були споруджені пости для спостереження за наближенням ворога. Відомо, що колись у селі добували вапняний камінь, який возили до Харкова, ним вимощували вулиці. Кам’яна – характеризує рельєф місцевості, вказує на матеріал (урвище з каменю, урвище, де добувається камінь). Яруга – давньотюркська лексема, означає «прірва», «урвище», «ущелина».