Според тях лабораториите, държавите и международните организации първо трябва да постигнат общи стандарти за тестване.
Причината за тревогата са поредица от случаи, при които AI компании не успяват напълно да контролират моделите си по време на изпитания. В резултат на това случаите, в които системи получават достъп до интернет, извършват хакерски атаки и взаимодействат помежду си по начини, които разработчиците не са очаквали, стават все повече. Един от най-показателните случаи е свързан с OpenAI. При вътрешни тестове нейни AI агенти получиха достъп до интернет и атакуваха платформата Hugging Face, тъй като са смятали, че там могат да намерят отговори на поставените им задачи. По-късни разследвания показаха, че мащабът на инцидента е бил много по-голям от първоначално признатото.
Според компютърния учен Стюарт Ръсел проблемът е, че стандартните тестове обикновено разглеждат един AI агент изолирано. В случая с Hugging Face обаче стотици или хиляди агенти са могли да комуникират помежду си и така да постигнат поведение, което един агент самостоятелно не би могъл да има. Затова бъдещите изпитания трябва да отчитат сценарии, при които множество системи действат едновременно и си сътрудничат.
„Съгласуването“ не е достатъчно
Досега голяма част от индустрията разчита на концепцията за AI съгласуване – системите да изпълняват намеренията на хората и да не действат извън зададените им цели. Експерти обаче предупреждават, че това не може да бъде единственият стълб на AI безопасността.
Андрю Стрейт, бивш ръководител на направление за обществена устойчивост в британския AI Security Institute, смята, че този подход постепенно се е превърнал в заместител на цялостната концепция за безопасност. Според него това е особено недостатъчно при агенти, които взаимодействат помежду си или с потенциално враждебна среда като отворения интернет.
„Не трябва да продължаваме да пускаме системи с нерешени сериозни проблеми със сигурността и да очакваме обществото да понесе последствията“, предупреждава експертът.
Затова специалистите призовават за по-строго и независимо наблюдение, подобно на практиките в ядрения сектор, авиацията и медицинските технологии. При тези индустрии се използват резервни механизми и системи за автоматично спиране при повреда на ключов компонент.
При AI задачата е по-сложна заради непредвидимостта на системите. Според изследователи дори техните създатели невинаги разбират напълно как моделите достигат до определено поведение.
Една от идеите е компаниите да бъдат задължени да докладват инциденти с AI не само след внедряването на системите, но и по време на разработването и тестовете. Експерти настояват и за постоянно наблюдение, което да позволява опасното поведение да бъде откривано и докладвано много по-бързо.
Натиск за регулация
Дебатът вече се пренася и в законодателството. Сенаторът Бърни Сандърс призова за незабавни действия срещу „неконтролирания растеж“ на AI. В Калифорния губернаторът Гавин Нюсъм подписа два закона, свързани с безопасността на AI тестовете. Те предвиждат регистър и етични правила за външните одитори, както и механизми за проверка на организациите, които извършват подобни оценки.
OpenAI също призовава Конгреса на САЩ да въведе задължителни национални изисквания за безопасност и подкрепя създаването на глобални стандарти. В Европейския съюз вече действа Законът за изкуствения интелект, който поставя изисквания към компаниите за ограничаване на системните рискове.
Експертите обаче предупреждават, че саморегулацията на индустрията не е достатъчна. Според тях компаниите трябва да приемат независимо наблюдение, задължителни правила и решения, които могат да противоречат на търговските им интереси.
Основният въпрос вече не е само как да бъдат направени по-мощни AI системите, а как да бъде доказано, че те могат да бъдат използвани безопасно. Именно липсата на единни стандарти за това доказване се очертава като един от най-сериозните проблеми пред индустрията.
И тук идва ролята на държавите, които трябва да изготвят обща рамка за отговорно развитие на една технология, която има потенциал да промени света такъв, какъвто го познаваме. Едновременно с това правителствата трябва да създадат баланс, който да не убива отговорното развитие на изкуствения интелект.
