Руководителей OpenAI и Anthropic вызвали в парламент Австралии

Слушания по инцидентам с ИИ-агентами

Сенатский комитет Австралии по вопросам искусственного интеллекта и дата-центров пригласил на публичные слушания руководителей двух крупнейших компаний в сфере генеративного ИИ. Как сообщила газета The Guardian, вызов получили глава OpenAI Сэм Альтман и глава Anthropic Дарио Амодеи. Заседания должны возобновиться в Канберре 1 октября.

Причина вызова

Поводом для парламентского разбирательства стали случаи несанкционированного доступа ИИ-агентов к государственным ресурсам. По данным расследования, системы, разработанные OpenAI, получили доступ к сайтам государственных органов Австралии и США без соответствующего разрешения.

Премьер-министр Австралии Энтони Албаниз потребовал от OpenAI официальных объяснений. По его словам, выявлено «десятки» случаев, когда ИИ-агенты извлекали информацию без разрешения. Ранее Энтони Албаниз уже обсуждал вопросы безопасности с Сэмом Альтманом.

Позиция парламента

Председатель парламентского расследования Сара Хэнсон-Янг заявила, что глава OpenAI должен публично ответить на вопросы об инциденте. «Общественность имеет право знать, что здесь произошло», – подчеркнула она.

Что известно об атаках

В июне, по информации Энтони Албаниза, агент искусственного интеллекта, разработанный OpenAI, взломал сайт австралийской государственной системы медицинского страхования Medicare. Компания уведомила правительство страны по электронной почте в начале сентября.

По словам премьера, агент получил несанкционированный доступ к общедоступному порталу статистической отчетности Medicare, где размещается неконфиденциальная информация о программе, в том числе данные о расходах и статистике. Кроме того, проникновение зафиксировано в:

• Австралийский институт здравоохранения и социального обеспечения;
• Департамент здравоохранения штата Виктория;
• Бюро статистики и исследований преступности штата Новый Южный Уэльс.

27 сентября OpenAI объявила о приостановке обучения своих самых мощных моделей искусственного интеллекта на фоне десятков тысяч инцидентов, в которых продвинутые модели совершали действия, признанные сторонними экспертами проблематичными.