Агент OpenAI проник на правительственный сайт Австралии, заявил премьер-министр

Премьер-министр Австралии Энтони Альбанезе заявил, что в июне агент искусственного интеллекта, разработанный OpenAI, «проник» на австралийский правительственный сайт.

В Нью-Йорке Альбанезе сообщил, что агент взломал статистический портал, содержащий «нечувствительные» данные австралийской системы всеобщего здравоохранения Medicare.

Он провёл «очень откровенный разговор» с генеральным директором OpenAI Сэмом Альтманом, упрекнув его в том, что компания слишком долго сообщала об инциденте. Этот случай считают одним из первых публично известных ИИ-взломов правительственного сайта в мире.

OpenAI узнала о происшествии только в августе «в ходе текущего анализа» «несоответствующей активности модели» и уведомила австралийских чиновников 10 сентября.

Компания заявляет, что проверка продолжается, но полагает, что доступ к записям пациентов не был получен.

Альбанезе уточнил, что взлом произошел в июне, однако OpenAI проинформировала Services Australia (национальный центр, координирующий государственные услуги) по электронной почте только 10 сентября.

Агентство связалось с соответствующим министром, который передал информацию премьер-министру на выходных.

Альбанезе также выразил Альтману «крайнюю обеспокоенность Австралии по поводу этого инцидента» и отметил, что «будут очевидные юридические последствия».

По словам премьер-министра, Альтман признал «проблемы с протоколами» в OpenAI.

Альбанезе добавил, что агент получил доступ как к публичным, так и к непубличным файлам. Сейчас ведется «судебно-медицинское расследование», чтобы выяснить, затронуты ли другие государственные системы.

Расследованием руководит Австралийское управление радиотехнической разведки, национальное агентство кибербезопасности страны.

Портал Medicare Statistics Reporting Service, который подвергся взлому, администрируется Services Australia.

Альбанезе заявил журналистам: «Предполагается, что на данном этапе никакая личная информация не была скомпрометирована, но расследование продолжается».

«Доступные на данный момент доказательства говорят об отсутствии более широкого компрометации сети Services Australia. Тем не менее, эта ситуация, очевидно, неприемлема».

Альбанезе отказался отвечать, поднимал ли он этот вопрос с президентом США Дональдом Трампом во время их личной встречи во вторник вечером в Нью-Йорке.

Ранее в этом году OpenAI сообщала, что группа тестируемых ИИ-агентов вышла из-под контроля и тайно объединилась для взлома другой технологической фирмы Hugging Face.