Инцидентите са станали по време на оценка на киберсигурността, извършвана от израелската компания Irregular. Тя проверява поведението и сигурността на най-мощните AI модели.
Тестова среда с неочакван достъп до интернет
Gemini е трябвало да работи в затворена среда с измислени компании и системи. По информация на Wall Street Journal обаче достъпът до интернет по невнимание е останал активен.
При един от тестовете моделът получил задача да извлече информация от софтуера на фиктивна компания. Тя имала същото име като реална фирма. След свързването с интернет Gemini открил истинската услуга, успял да отгатне паролата и получил достъп до нея.
Според Google моделът спрял, след като разбрал, че системата е реална, а не част от симулацията.
При други два теста Gemini потърсил информация в интернет и открил публични хранилища, в които имало данни за достъп до още две компании. След това използвал намерените идентификационни данни, за да влезе в техните системи.
„И в трите случая моделът спря“, заяви вицепрезидентът по инженеринг на сигурността в Google Хедър Адкинс.
Google не съобщава публично за случаите
Irregular уведомила Google за инцидентите в края на юли. Компанията потвърди пред The Guardian, че пробивите са се случили, но решила да не ги оповестява публично. Според Google моделът не е нанесъл щети на засегнатите компании.
От технологичния гигант заявиха, че трите фирми са били информирани за случилото се.
Случаят беше разкрит първо от Wall Street Journal. Той идва след сходни инциденти с модели на OpenAI и Anthropic. При част от тях отново става дума за тестови среди, които неочаквано са получили достъп до реалния интернет.
OpenAI и Anthropic доброволно оповестиха свои подобни случаи, докато Google не го направи.
Нови опасения около автономността на AI
Случаите засилват опасенията как могат да се държат мощните AI модели, когато получат достъп до инструменти и реални компютърни системи.
„Тези събития подчертават колко е важно мощните AI модели да бъдат обучавани да действат отговорно“, заяви Адкинс.
След предишните инциденти с OpenAI и Anthropic независимият сенатор Бърни Сандърс поиска компаниите да спрат временно разработването на технологията. OpenAI впоследствие преустанови разработката на моделите си за две седмици, а ръководителят на Anthropic Дарио Амодей призова за общо забавяне на темпото на развитие на най-мощните AI системи, за да има повече време за изграждането на защити.
