Селение Андреевское (впоследствии – Андреевка, ныне Кабанбай) появилось на карте Семиреченской области как русское крестьянское поселение в 1909 году.

А до его создания там находилось старое поселение Борша (в переводе с казахского «сильно изнурен, обессилен, быть разбитым вдребезги»).
Такими историческими данными поделился в 2021 году житель села Андреевка, учитель истории Александр Георгиевич Болгар.
В 1720-х годах, в годы нашествия джунгар, на этом месте произошли кровопролитные столкновения. Во время сражения джунгары поняли, что не могут одолеть воинов-казахов, и решили загнать их в пески, надеясь, что там они не смогут выжить. Однако прошло несколько дней, а воины все еще были живы.
Тогда предводитель джунгар Галдан-Церен отдал приказ: «Уничтожить». Кабанбай из рода Каракерей с тремя сотнями бойцов в течение трех дней противостоял десятитысячному войску джунгар.
После битвы казахов и джунгар здесь начали обосновываться некоторые казахские семьи. А место назвали Борша.
В 1908 году в этих краях появились первые русские переселенцы, которые начали расселяться вдоль речки Чинжалы, и постепенно центр села стал перемещаться от Борши к юго-востоку. А весной 1909 года, по указанию начальника уездного переселенческого управления Андрея Алексеевича Андриевского, конным плугом были нарезаны борозды, показывающие улицы и участки застройщиков размером 60 на 30 сажен (120 на 60 метров) будущего села Андреевка.
Вновь заложенный участок до 1912 года люди называли по-старому – Борша.
Предания гласят, что сегодня на месте битвы возвышаются три кургана – это захоронения останков, но никто не знает, где похоронены казахи, а где джунгары.