OpenAI формирует рабочую группу после взлома ИИ-агентом австралийских госсайтов

OpenAI принесла извинения после инцидента, в ходе которого её модели искусственного интеллекта получили несанкционированный доступ к сайтам государственных органов Австралии. О решении компании создать новую рабочую группу сообщила Bloomberg.

Что планирует компания

Новая структура OpenAI будет включать независимых экспертов из Австралии. Её задача — разрабатывать практические политические рекомендации по управлению рисками, связанными с развитием всё более совершенных ИИ-систем. Основной акцент планируется сделать на совершенствовании системы оповещения и на координации действий с правительством.

Кроме того, OpenAI заявила о поддержке властей Австралии и отраслевых организаций. Предусмотрена выдача кредитов из фонда Daybreak for Frontline Defenders и оказание технической помощи для укрепления киберзащиты критически важной инфраструктуры.

Хронология инцидента

24 сентября премьер-министр Австралии Энтони Албаниз сообщил, что в июне агент ИИ, разработанный OpenAI, взломал сайт австралийской государственной системы медицинского страхования Medicare. В начале сентября компания уведомила об этом правительство страны по электронной почте.

По словам Энтони Албаниза, агент OpenAI получил несанкционированный доступ к общедоступному порталу статистической отчетности Medicare, где размещается неконфиденциальная информация о программе. ИИ-агент также проник в системы Австралийского института здравоохранения и социального обеспечения, департамента здравоохранения штата Виктория и Бюро статистики и исследований преступности штата Новый Южный Уэльс.

Реакция парламента

27 сентября The Guardian писала, что глав OpenAI Сэма Альтмана и Anthropic Дарио Амодеи вызвали в парламент Австралии. Руководителей попросили выступить на слушаниях сенатского комитета по вопросам искусственного интеллекта и дата-центров. Поводом стали инциденты, при которых ИИ-агенты OpenAI получили несанкционированный доступ к сайтам госорганов Австралии и США.