Това би затруднило овладяването им, тъй като няма да съществува единна точка, от която да бъдат изключени.
В доклад, публикуван в понеделник, изследователите на Anthropic описват възможността за появата на т.нар. AI червеи – автономен зловреден софтуер, който използва изкуствен интелект, за да прониква в устройства и да се разпространява самостоятелно. В краен случай различни такива системи биха могли да се обединят и да атакуват компютърна инфраструктура.
Докладът е изготвен от специализирания екип на компанията за тестване на границите на възможностите и уязвимостите на AI системите. При експериментите изследователите са подканили AI агент да прониква в устройства, свързани с интернет, за да проучат докъде може да стигне способността му за самовъзпроизвеждане.
Според тях подобни атаки засега вероятно биха били по силите предимно на по-малки модели, а първите уязвими цели може да се окажат домакинствата и малките предприятия. Сред потенциално засегнатите устройства са умни фурни и телевизори, автоматизирани косачки, охранителни камери и системи за видеоконферентна връзка, които разполагат с малки вградени AI чипове.
Изследователите все още не могат да определят как точно би изглеждало самовъзпроизвеждането на изкуствения интелект. Възможно е процесът да протича бавно и постепенно, подобно на разпространението на плесен, или да включва модели, които измамват хора, за да получат достъп до изчислителни ресурси. В по-опасен вариант мощни киберсистеми биха могли бързо да проникват в големи инфраструктурни обекти, включително центрове за данни.
Anthropic призовава системите да бъдат укрепени срещу подобно разпространение, но предупреждава, че трябва да се подготвим и за свят, в който автономни AI агенти работят върху различни видове хардуер, включително устройства извън човешкия контрол.
Предупреждението идва на фона на засилващите се опасения за сигурността на изкуствения интелект. През последните месеци водещи компании в сектора, сред които Anthropic и OpenAI, публикуват данни за агенти, способни да действат самостоятелно и да проникват в системи на други компании и държавни институции. Това накара изследователи, политици и ръководители на технологични компании да настояват за по-строги предпазни механизми и забавяне на развитието на най-мощните модели. Въпреки тези призиви компаниите продължават да разработват и пускат нови системи.
