Очаква се темата да бъде сред основните в предстоящите двустранни разговори между Вашингтон и Пекин.

 

Китайските власти разглеждат като потенциална заплаха не само собствените си AI разработки, но и водещите американски модели. Китайският министър на държавната сигурност Чен Исин предупреждава, че модели като Mythos на Anthropic и GPT-5.5-Cyber на OpenAI могат да представляват сериозен риск за критичната информационна инфраструктура на страната.

 

Пекин обръща внимание и на друг проблем – отворените модели. Те могат да бъдат анализирани и модифицирани от специалисти по киберсигурност, но същевременно могат лесно да бъдат променяни и разпространявани без достатъчен контрол. През август китайският модел Kimi K3 например успя да заобиколи тестова среда на британския AI Security Institute.

 

Китайските регулатори вече са заложили сценария за „загуба на контрол“ в официалните си документи. В рамка за безопасността на AI от 2024 г. се посочва, че бъдещ изкуствен интелект може автономно да получава достъп до външни ресурси, да се самовъзпроизвежда, да развие самосъзнание и да започне да търси повече власт. Това би могло да го постави в конкуренция с хората за контрол.

 

В обновената рамка от 2025 г. китайските власти описват още по-краен сценарий – AI може внезапно да направи голям скок в интелектуалните си способности, след което да започне да придобива ресурси, да се самовъзпроизвежда и да търси власт. В документа е заложен принципът за „надеждно приложение и предотвратяване на загубата на контрол“.

 

Темата вече е част и от политическите послания на китайския президент Си Дзинпин. На конференция за изкуствения интелект в Шанхай през юли той заявява, че AI трябва „винаги да остава под човешки контрол“.

 

Пекин започва да прилага тези принципи и към AI агентите – системи, способни да действат по-автономно от традиционните чатботове. Новите китайски правила изискват разработчиците да могат да откриват, спират и коригират неправомерното поведение на агентите. Сред посочените рискове са манипулиране на алгоритми, уязвимости, отравяне на данни и „оперативна загуба на контрол“.

 

Посланието на Пекин е ясно: колкото по-автономен и мощен става изкуственият интелект, толкова по-важно е последната дума да остане на човека.