Има ли България капацитет да отговори на новите заплахи и защо наличието на добри специалисти невинаги означава адекватна реакция на държавата? Как се променят кибератаките с навлизането на AI, докъде може да стигне автоматизацията и какви са реалните възможности за защита? Разговаряме с доц. д-р Борис Грозданов – изследовател и преподавател в областта на изкуствения интелект. Завършил е висшето си образование в Централноевропейския университет (CEU), специализирал е в Оксфорд и е работил по международни научни проекти, включително по програмата „Мария Кюри“. Изследванията му са насочени към машинното обучение, автономните системи и взаимодействието между човека и интелигентните технологии.

В последните седмици и месеци Европа беше залята от фалшиви бомбени заплахи. Бяха засегнати медии, училища и летища, отменени бяха полети. Същевременно в САЩ имаше поредица от технически сривове във въздушния контрол, а проблеми в системите на Microsoft и банковия сектор засегнаха милиони хора. У нас все по-често се говори и за необходимостта да сме готови да издържим 72 часа без ток, вода и интернет. Като учен, който изследва автономните системи и взаимодействието между човека и технологиите, как виждате общата картина на случващото се?

 

Първо искам да направя едно важно уточнение. Всички примери, които изброихте, както и много други, не могат да бъдат поставени автоматично в една обща картина. Практически няма данни към момента те да са част от единна, интегрирана операция.

 

Фалшивите бомбени заплахи например са един вектор, един тип атака, който се приписва, макар и без окончателно доказателство, на определена група, свързвана с конкретна държава. Но няма данни тези атаки да са свързани с нападенията срещу американски банки, които представляват съвсем различен тип кибератаки.

 

Отделна тема са и призивите на Европейския съюз и на няколко държави членки населението да се подготви за възможни кризи. В различните случаи препоръките варираха между три дни и една седмица, през които хората трябва да могат да се справят без външна помощ, като разполагат с храна, вода, медицински принадлежности, пари в брой и други необходими ресурси.

 

Това са различни проблеми, теми и опасности. Ако искаме да се ориентираме правилно, трябва да ги разделим и да анализираме всяка поотделно. В противен случай рискуваме да изпаднем в погрешни генерализации, а оттам и решенията ни могат да се окажат неадекватни.

Нека започнем с кибератаките. Какво се промени през последните години и каква е ролята на изкуствения интелект в тях?

 

Огромен процент от скорошните кибератаки вече се извършват със сериозното участие на изкуствен интелект. Той е интегриран в няколко етапа от атаката.

 

Първоначално AI се използва за разузнаване и откриване на уязвимости. Те могат да бъдат както технически, така и свързани с човешкия фактор. Например небрежност на потребители в корпоративна или банкова мрежа. В България също имаме подобни случаи. Доколкото разбирам, при един от скорошните инциденти са били компрометирани потребителски профили.

 

Това е тип уязвимост, свързана с човешкия фактор. Потребителят или организацията не са предприели необходимите действия, за да намалят възможностите за подобна атака. Става дума за обучение на служителите, използване на подходящи пароли, правилни настройки и редица други мерки.

Тоест проблемът е, че не сме били достатъчно подготвени?

 

Честно казано, не съм съгласен. Подготвени сме. Просто не го правим. Това са две различни неща.

Нека обясня как протича една такава атака. Нападателите използват изкуствен интелект, за да установят и открият уязвимости. След това той може да напише експлойти за тях – код, който позволява тези уязвимости да бъдат използвани.

Преди това беше съвсем различно. Трябваше да намериш много добър програмист, който да прекара месеци в писане на код, тестване и опити да накара всичко да проработи. Сега вече не е така. Времето за написване на код, който експлоатира открита уязвимост, е сведено до немислим преди минимум. Същото важи и за тестването.

 

Превръщането на изкуствения интелект в мощно оръжие за проектиране и осъществяване на кибератаки е безпрецедентно. Той може да се използва за откриване на уязвимости, за разработване на атаки и за самото им провеждане.

 

Това е голямата разлика спрямо кибератаките отпреди няколко години.

 

Тук има два изключително важни процеса. Първият е демократизацията на AI като кибероръжие, условно казано.

 

Какво означава това? Означава, че практически всеки човек, който няма сериозни умения в програмирането или компютърните мрежи, може да използва изкуствен интелект. Достатъчно е да може да опише на съответния модел какво иска да постигне. Не е задължително дори да владее английски език.

 

Съществуват модели, които нямат ограниченията на някои от най-новите и скъпи системи. Разбира се, това повдига въпроса доколко са ефективни и дали защитите им могат да бъдат заобиколени, но това е отделна тема.

 

Човек, който е придобил известен опит в работата с изкуствен интелект, може да го използва за откриване и провеждане на кибератаки. Буквално човек от улицата може да го направи.

 

Това е ново. Преди не беше така и не можеше да бъде така. Сега вече е възможно.

Наскоро Reuters публикува разследване за европейската вълна от фалшиви бомбени заплахи. Според изданието зад разпространението им стоят компрометирани имейл акаунти, включително на бивш докторант в Тайван, както и масово изпращане на сходни съобщения от името на групи като „Мъжка държава“. Какво ни показва този случай за начина, по който се организират подобни атаки?

 

Тази група официално отрича участието си в атаките. Но по-важното е, че задача на разследващите органи е да установят кой реално ги е извършил. Спекулации може да има много, но тук трябват доказателства – кой е извършителят, каква е целта му и дали щетите от подобни атаки могат да бъдат ограничени.

А какво показват случаите с пробиви в български институции? Наскоро стана известно за сериозна кибератака, при която са били източени значителни количества информация. Какви са последствията от подобен инцидент?

 

За съжаление, при съвсем наскоро разкритата в България атака, доколкото разбирам от публикациите в медиите и наличната публична информация, става въпрос за т.нар. персистентна атака, която вероятно е била осъществена преди около пет години.

 

Нападателите са успели да запазят достъп до системата в продължение на години, преди атаката да бъде открита. Междувременно са успели да източат сериозно количество информация – доколкото разбирам, става дума за гигабайти данни, включително правителствени документи.

 

Това е изключително сериозен удар по националната сигурност. На този етап не виждам как може да бъде обърнат. След като данните вече са изнесени, какво можем да направим? Те са заминали. Могат да бъдат използвани като оръжие срещу държавата, срещу институции, фирми, агенции или отделни личности, чиито данни са били откраднати.

 

Държавата и всеки администратор на лични данни носят отговорност за информацията, която събират, съхраняват и управляват. Те са длъжни да я пазят и да предприемат необходимите мерки за сигурност. Не съм запознат с всички детайли на конкретния случай, но съдейки по успеха на атаката, очевидно предприетите мерки, ако е имало такива, не са били достатъчно ефективни.

Възможно ли е обаче същият този изкуствен интелект, който помага на нападателите, да бъде използван и за защита?

 

Да, и всъщност тук има една позитивна страна. Хората, които отговарят за защитата на данните, имат много голям съюзник в лицето на изкуствения интелект. Това е сравнително нов инструмент, с който доскоро не разполагаха.

 

В момента най-добрият начин за защита на сложни мрежи с много потребители и големи масиви от разпръснати данни е използването на контролирани AI модели за одит на уязвимостите.

 

Забележете, това е абсолютно същата първа стъпка, която предприемат хакерите при подготовката на атаката. Разликата е в целта. При защитниците на данните тя е да бъдат открити уязвимостите, а не да бъдат експлоатирани и да се източва информация.

 

След това същият модел или друг модел може да предложи оптимален начин за защита, така че откритите слабости да бъдат отстранени.

Използването на подобни модели обаче изисква сериозни ресурси. Могат ли българските институции и компании да си го позволят?

 

Има две големи категории модели. Едните са безплатни. Самият модел може да бъде безплатен, но хардуерът, върху който работи, съвсем не е. Колкото по-интелигентен модел искаш да използваш, толкова по-подходяща архитектура ти е необходима, за да функционира той добре.

 

Китайските модели са пример за такива решения. Но тук искам да направя много сериозна уговорка. При китайските open-source и open-weight модели има други опасения, свързани с това, че самите те могат да събират и изпращат данни от потребителите си. Затова трябва да сме много отговорни и наясно с рисковете. Понякога безплатните неща излизат много скъпо.

 

Другата категория са платените модели на водещите компании в света – Anthropic, OpenAI, Google и други. Те предлагат различни планове, включително корпоративни абонаменти.

 

Например планът, който използвам, струва 200 долара месечно. За една корпорация това е пренебрежимо малка сума. Не е сериозен разход, особено като се има предвид, че подобна услуга е достъпна и за отделни потребители. 

Тоест не цената е основната пречка пред използването на тези технологии за защита?

 

Точно така. Най-добрите модели, според личните ми впечатления, са тези на водещите технологични компании. Имам по-ограничени впечатления от някои от тях, но за момента продължавам да смятам, че последната версия на Claude е безспорен лидер. Тя е изключително интелигентна и много добра.

 

Проблемът обаче не е в интелигентността на модела. Когато човек се опита да го използва за киберзадачи, дори с добронамерена цел – например за одит и защита на мрежа, в много случаи се задействат вътрешните му защитни механизми.

 

Това е разбираемо, защото разработчиците искат да предотвратят възможността моделът да бъде използван за кибератака вместо за защита.

 

Но така се появява проблем за хората, които искат да използват пълноценно тези модели за киберсигурност. В действителност е много трудно да се разграничи не само от страна на модела, но дори и от страна на човека дали дадена задача е поставена с цел одитиране и защита, или с цел атака. В много случаи действията и необходимите инструменти са едни и същи.

 

Въпреки това защитниците на данни – независимо дали става въпрос за държавни институции, агенции, корпорации или лична информация – не могат да избягат от тази реалност. Ако искат да повишат нивото на киберзащита до приемливи стойности, най-адекватният и успешен подход в момента е да използват силата на изкуствения интелект.

Получава се своеобразна надпревара – нападателите използват AI, но и защитниците трябва да го правят, за да не изостанат. Има ли обаче граница в развитието на тези технологии? Вече се говори за свръхинтелигентен AI и за системи, които могат да действат самостоятелно.

 

Имаше коментар по повод една от атаките в Съединените щати от ръководителя на американското Министерство на вътрешната сигурност, който използва термина „свръхинтелигентност“. Аз обаче съм скептичен към подобно определение. Не мисля, че в момента имаме данни, които да ни позволяват да говорим за свръхинтелигентност.

 

Тези атаки съвсем спокойно биха могли да бъдат осъществени от обикновен интелигентен модел, а не от свръхинтелигентна система. Самата им сложност не изисква подобно ниво на интелект.

 

И това всъщност е лошата новина. Защото показва колко уязвими могат да бъдат банковите системи, летищата и критичната инфраструктура. Представете си болниците. Имаше атаки срещу информационни системи на болници, които принудиха лечебни заведения да ограничат дейността си. Същото важи за логистиката и много други сектори.

Тези атаки и преди бяха възможни дори за сравнително малки групи хора. Сега обаче стават все по-лесни, по-мащабни, по-бързи, по-оригинални и по-опасни заради използването на изкуствен интелект, който е изключително достъпен под една или друга форма.

Трябва ли тогава да се замислим за ограничения върху използването на изкуствения интелект, за да не се превръща той в оръжие?

 

Не мисля, че това е пътят. Ще обясня защо.

 

Ограниченията са няколко вида. Първо, има юридически ограничения – да въведем регулации и нормативни правила. На практика обаче те не играят съществена роля за поведението на един хакер. Разбирате, че за него е абсолютно без значение какво е забранено със закон. Единственото, което го интересува, е атаката му да бъде успешна.

 

Той е наясно, че нарушава закона, много преди да се появи изкуственият интелект. Затова е наивно да очакваме, че още една или две регулации ще имат сериозен превантивен ефект. Законите не могат да спрат използването на AI като оръжие.

Другият подход е свързан с реалната защита. Отговорните за информационните системи и данните трябва максимално бързо да одитират мрежите си с помощта на най-интелигентните модели, до които имат достъп. След това трябва да използват съответните инструменти, за да създадат корекции, промени и решения, които да отстранят всички открити уязвимости. И това трябва да се случва възможно най-бързо.

 

Това е пътят, който може да работи.

 

Освен това защитата може да бъде проактивна. След като една мрежа бъде защитена, може да се генерира цяло ято от автономни агенти, които да работят на входовете ѝ денонощно – 24 часа в денонощието, седем дни в седмицата.

Те могат да осъществяват интелигентен мониторинг на целия трафик и на поведението вътре и извън мрежата. Целта е да се откриват действия, които биха могли да бъдат индикатор за атака или за започваща атака.

 

Това вече е интелигентна защита. Комуникирам с хора, които използват подобни новаторски методи, и смятам, че те са изключително перспективни.

Споменахте автономните агенти. Какво представляват те и с какво се различават от досегашните инструменти за кибератаки?

 

Представете си следния сценарий: човек дава задача на един агент или на цяло ято от агенти и казва какъв краен резултат иска да постигне. Това може да бъде описано буквално в пет изречения.

 

След това агентите, на които са делегирани ресурси и права за действие, започват самостоятелно да изпълняват задачата. Те откриват уязвимости, анализират ги, пишат код, който да ги експлоатира, и продължават нататък.

 

Човекът вече не участва в отделните етапи на операцията. Той само задава задачата и пуска агентите да работят.

 

Ако тези агенти са достатъчно интелигентни, рано или късно те могат да пробият мрежи, които имат съответните уязвимости. Разбира се, това е уговорката, която трябва да направим.

 

Тези атаки са много различни, защото не се извършват непрекъснато от хора. Те само се стартират от човек, след което системите ги провеждат самостоятелно.

 

Един агент не се уморява. Не спи и няма нужда от почивка. Има нужда единствено от електричество и от хардуера, върху който работи.

Могат ли агентите не само да изпълняват предварително зададени инструкции, но и сами да вземат решения как да постигнат целта си?

 

Това всъщност е част от идеята. Те са създадени именно за да имат различни нива на самостоятелност и автономност.

Ще го кажа така: практически всяка уязвима мрежа е уязвима за достатъчно мощен, интелигентен и автономен изкуствен интелект. Това е реалността, в която живеем.

Това означава ли, че трябва да преосмислим изцяло начина, по който защитаваме както институциите, така и собствените си данни?

 

Да. Според мен има два основни процеса на защита.

 

Първият е широкомащабен и трябва да бъде поет от държавата, дадена агенция, корпорация или друга голяма организация. Тя трябва да поеме отговорност за проактивното одитиране на мрежите, за откриването на уязвимости и за постоянното подобряване на защитата им.

 

Вторият процес засяга всеки един от нас. Трябва да повишим дигиталната си култура и да се информираме как можем да пострадаме от различните видове атаки – ние, близките ни, фирмите, институциите и държавата, в която живеем.

В този контекст нека се върнем и към препоръките на ЕС за подготовка при кризи. Каква е логиката зад съвета хората да имат у дома запас от храна и вода за няколко дни, както и пари в брой?

 

Трябва да си дадем сметка колко зависими сме станали от безконтактните плащания и от технологиите, с които свикнахме много бързо.

 

Много хора вече не носят пари в брой. Разчитаме на телефоните и банковите си карти и приемаме безконтактното плащане за даденост.

 

Но какво се случва, ако системите на банките, които администрират тези плащания, се сринат? Какво правим, ако нямаме кеш и не можем да изтеглим собствените си пари от банкомат?

 

Имаш пари в сметката си, но нямаш достъп до тях. Отиваш в банката и искаш да изтеглиш пари на каса, но системата ѝ също е блокирана и служителите не могат да ти ги дадат, дори да искат.

 

Затова препоръката да държим пари в брой е напълно логична.

 

Трябва да разберем кои са основните линии, по които животът на съвременния човек е уязвим от кибератаки, особено когато те са насочени към критични системи. И трябва да се опитаме да намалим възможните последствия.

 

В този смисъл призивът на Европейския съюз е абсолютно правилен.

Точно това е идеята на препоръките – хората да бъдат подготвени, а не да изпадат в паника. Въпреки това те предизвикаха и притеснения сред обществото. Не рискуваме ли подобни предупреждения сами по себе си да създадат усещане за несигурност?

 

Разбирам опасенията за паника. Имаше индикации за такава реакция, макар и не чак толкова масова. Около мен много хора не приеха препоръките достатъчно сериозно. Според мен това също е безотговорно отношение.

 

Няма как подобен призив да бъде комуникиран до големи групи от населението, без да съществува риск от паника. Но това е част от задачата.

 

Паниката има деструктивна роля. Тя не помага и може единствено да влоши ситуацията. Но това не означава хората да не се подготвят.

 

Много по-добре е да се защитиш и да не ти потрябва тази защита, отколкото, не дай си Боже, да ти потрябва и да се окажеш неподготвен.

 

Да се върнем към хибридните атаки. Споменахме фалшивите бомбени заплахи, затварянето на училища и блокирането на полети. Възможно ли е целта на подобни действия да не е просто причиняването на конкретна вреда, а създаването на страх и обществено напрежение?

 

Това е различен въпрос. Ако вземем за пример бомбените заплахи и сигналите за взривни устройства, заради които бяха затворени училища и отменени полети, трябва да ги разграничим от атаки с очевидна финансова цел – например кражба на данните на 140 000 кредитни карти.

 

Това са съвсем различни видове атаки. По характера на самата атака можем да направим изводи за нейната цел.

Когато става въпрос за затваряне на училища, притеснение на родители, пропуснати или отменени полети и други подобни последствия, виждаме, че обикновеният човек е поставен в центъра на атаката.

 

Всеки от нас е преживявал подобни ситуации и знае колко неудобства и проблеми могат да причинят. Представете си една майка с деца в училище. Какъв е социалният ефект от това тя да се притесни, че в училището може да има бомба?

Това е очевиден учебникарски опит за дестабилизиране на населението. Целта на тези хибридни атаки е социална дестабилизация.

 

Вече кой и с каква цел планира да използва тази дестабилизация, е предмет както на анализи, така и на спекулации. Необходима е повече информация, за да бъдат изградени вероятни хипотези.

Възможно ли е след анализ на подобни инциденти да се стигне до конкретни изводи за това кой стои зад тях и каква е целта му?

 

Абсолютно възможно е. И не само е възможно, но и е актуално. За щастие в различните държави има екипи, които професионално се занимават с подобни анализи.

 

Това, че информацията за тях не достига до обществото, донякъде е разбираемо.

Тоест е възможно вече да има изградени хипотези и анализи, но те просто да не се оповестяват публично?

 

Трудно ми е да си представя, че при възможностите, с които разполагаме днес, дори в малка държава като България, не са направени сериозни анализи.

 

Въпреки всички проблеми, които имаме, страната разполага с уникални специалисти. Имаме много добри експерти, включително хора, които работят в частни компании и могат да бъдат ангажирани с подобни задачи.

 

Убеден съм, че тези специалисти могат да формулират много достоверни хипотези за случващото се, за участниците в подобни операции, за техните цели и за мерките, които трябва да бъдат предприети, за да не се повтарят атаките.

Друг е въпросът как държавните органи ще реагират на тези анализи и дали ще предприемат необходимите действия, за да предотвратят нови подобни инциденти.

 

Това вече е по-скоро политически въпрос, отколкото технологичен. България има много добри технологични специалисти. Проблемът според мен е по-скоро в политическите решения.