Любопитното е, че хакерът почти не се е намесвал в атаките.
Вместо това той поверил почти цялата операция на изкуствения интелект, като възложил на AI агенти самостоятелно да проучват набелязаните сайтове и да търсят начини да проникнат в тях. Това разказва Сноре Фагерланд, главен изследовател на заплахите в компанията за киберсигурност NorForge.
В доклад, предоставен на Reuters преди публикуването му в понеделник, Фагерланд обяснява, че хакерът е един от няколкото извършители на кибератаки, които открил, докато сканирал интернет за неправилно защитени инсталации на Cairn – платформа с отворен код за решаване на задачи чрез AI, популярна сред хакерите.
Около 2 октомври изследователят открил приблизително две дузини инсталации на Cairn, използвани за злонамерени дейности. Това му позволило да наблюдава действията на киберпрестъпниците, докато оставяли AI инструментите си да действат самостоятелно.
Докладът на Фагерланд не назовава засегнатите компании, но Reuters успява независимо да установи самоличността им, като анализира активността на хакера в Cairn.
На фона на нарастващите опасения за възможностите на автономните AI системи откритието показва, че достъпни на пазара инструменти могат да извършват сложни кибератаки от началото до края, без постоянна човешка намеса. Така един-единствен извършител може значително да увеличи мащаба на действията си.
„Сега светът е различен“, коментира Фагерланд.
Reuters не успява да установи в каква степен пробивите са довели до неправомерно извличане на данни.
От Deere заявяват, че са предприели необходимите мерки и нямат индикации за достъп до чувствителна информация. SharkNinja съобщава, че атаката е засегнала отделен сайт, съдържащ само информация за поддръжка на продуктите, и че заплахата е била овладяна.
Cummins заявява, че разследва информацията за потенциална кибератака срещу сайт, управляван от един от нейните външни доставчици.
Още две по-малки компании потвърждават, че са били компрометирани. Други потенциални жертви, фигуриращи в данните от Cairn, не са отговорили на запитванията.
Малко инструкции, стотици успешни пробиви
Един от хакерите, наблюдавани от Фагерланд, откраднал голямо количество данни от банкови карти. Друг се опитал да накара AI агенти да оберат криптоборса.
Най-активен обаче бил хакерът, говорещ китайски. От 25 септември той насочил своите AI агенти към сайтове за електронна търговия в САЩ, Канада, Австралия и Япония.
Инструкциите му били кратки – по-малко от 100 китайски знака, в които описвал предпочитаните си методи за проникване.
Към края на миналата седмица AI агентите му били направили опити да пробият защитата на над 1200 сайта. Успешните атаки обикновено изисквали около 23 часа автоматизирано търсене и изпробване на уязвимости.
По оценка на Фагерланд кампанията е използвала комбинация от DeepSeek, разработен в Китай, и Claude Code на Anthropic. Разходът за използваните AI токени възлизал на приблизително 5000 долара – или около 50 долара за всеки успешен пробив.
Фагерланд, който има близо 30 години опит в киберсигурността, бил впечатлен от някои от техниките, използвани от AI агентите.
В един от случаите те не успели да открият слабости в публично достъпно приложение на голяма компания. Вместо да се откажат, започнали да анализират дигитални записи, за да открият свързана инфраструктура. Така намерили публично достъпен контролен панел, установили малко забележима слабост в обработката на данни и след часове опити съобщили, че са успели да я използват, за да накарат сървъра да изпълнява злонамерени команди.
„Не е лесно да измислиш подобно решение. Това не са просто аматьори, които пускат готови скриптове“, коментира Фагерланд.
Създателят на Cairn, известен в социалните мрежи с псевдонима le1xia0, потвърдил, че е получил запитване от Reuters, но не отговорил на изпратените въпроси.
В скорошна публикация в X той заявил, че платформата му използва иновативна архитектура с множество AI агенти и не е създадена за хакерски атаки. По думите му използването ѝ за злонамерени действия не отразява намеренията му.
AI агентите вече не се нуждаят от постоянен надзор
Способността на автономните AI системи самостоятелно да откриват уязвимости, да проникват в системи и да крадат данни предизвиква все по-голямо безпокойство по света.
AI агенти, излезли извън предвидените им ограничения, вече са успявали да напуснат изолирани компютърни среди, да проникнат в правителствени сайтове и да предприемат неразрешени опити за социално инженерство – методи за манипулиране на хора с цел получаване на достъп до информация или системи.
През последните седмици Южна Корея и Япония бяха засегнати от поредица от кибератаки, приписвани на престъпници, използващи AI.
Автономните агенти все по-често намират място и в инструментариума на киберпрестъпните групи. През август израелската компания Gambit Security установи, че рускоговорящи са използвали AI инструмента Cursor на SpaceX, за да проникнат в седем организации.
През септември същата компания документира серия от атаки, задвижвани от AI агенти, при които били компрометирани 25 компании и откраднати данните на най-малко 600 000 банкови карти.
Миналата седмица компанията за киберразузнаване Bitsight съобщи за рязко увеличение на дискусиите в киберпрестъпни форуми относно използването на автономни агенти.
Фагерланд признава, че преди е смятал, че подобни AI системи ще се нуждаят поне от известен човешки надзор. Сега обаче според него е очевидно, че технологията вече е надхвърлила този етап.
„Развитието в тази област е изумително“, заключава той.
