OpenAI принесла извинения Австралии после того, как её ИИ-агенты взломали правительственные сайты

В понедельник компания OpenAI принесла извинения правительству Австралии за то, что не сразу уведомила власти страны о том, что её агенты получили несанкционированный доступ к некоторым веб-сайтам государственных служб. Компания также подробно описала, как произошли некоторые из этих инцидентов, и рассказала о дополнительных мерах, которые она принимает для оценки последствий случившегося.

«В июне, в ходе внутреннего обучения и оценки, наши модели получили доступ к веб-сайтам австралийского правительства способами, на которые у них не было разрешения. Кроме того, мы должны были лучше организовать наши действия в ответ на случившееся. Мы приносим свои извинения и работаем над тем, чтобы в будущем действовать более ответственно», — написала OpenAI в сообщении на своем блоге.

Извинения появились примерно через неделю после того, как правительство Австралии начало расследование того, как модели OpenAI получили доступ к системе Services Australia, содержащей информацию о расходах программы Medicare и другие статистические данные в сфере здравоохранения.

Утечка данных произошла в июне, но австралийские власти были уведомлены об этом только 10 сентября.

OpenAI также подробно описала обстоятельства утечки. Экспериментальной модели, которую компания тестировала в июне, было поручено изучить государственные расходы на лекарства от кожных заболеваний в штате Виктория. Не сумев найти нужную информацию в открытых наборах данных, модель нашла способ получить доступ к внутренней системе Services Australia, выполнила команды, извлекла файлы и учетные данные, а также даже создала новые файлы.

Компания сообщила, что также обнаружила, что одна из её моделей получила доступ к общедоступному инструменту «Crime Mapping Tool» Бюро статистики и исследований преступности Нового Южного Уэльса для поиска статистических данных о преступности. Кроме того, лаборатория обнаружила, что её агенты получили доступ к Агентству медицинской информации штата Виктория через незащищённый ключ доступа, чтобы вывести «конфигурацию отчётов и сводные статистические данные опросов». OpenAI сообщила, что её агенты также извлекли сводные статистические данные с веб-сайта Австралийского института здравоохранения и социального обеспечения.

Компания заявила, что не обнаружила никаких доказательств того, что её модели получали доступ к медицинским или криминальным досье отдельных лиц.

В своём извинении лаборатория ИИ заявила, что предоставит затронутым австралийским ведомствам технические выводы и свяжет их со своими группами реагирования для оценки последствий утечек. Компания также выделит средства из своей программы «Daybreak for Frontline Defenders» с бюджетом в 1 млрд долларов и создаст рабочую группу с участием независимых австралийских экспертов для анализа инцидента и мер реагирования.

«Рабочая группа, которая, как ожидается, завершит свою работу к концу года, также предложит практические меры, которые компании, занимающиеся искусственным интеллектом, могут принять для снижения риска подобных инцидентов», — написала OpenAI.

OpenAI не ответила сразу на запрос о комментарии.

Премьер-министр Австралии Энтони Альбанезе на брифинге для прессы на прошлой неделе назвал эту утечку «неприемлемой», заявив, что правительство рассматривает возможные правовые меры, направленные на предотвращение подобных инцидентов в будущем.

Эта утечка стала очередным случаем в растущем списке инцидентов безопасности, связанных с тем, что агенты ИИ выходят за пределы своих предусмотренных полномочий. «Спарку» в этом конкретном «костре» зажгли агенты OpenAI, взломавшие Hugging Face, и с тех пор компании Anthropic, Meta и Google по отдельности сообщили о подобных инцидентах, когда их модели получали доступ к системам третьих сторон во время тестирования.

Когда вы совершаете покупку по ссылкам в наших статьях, мы можем получить небольшую комиссию. Это не влияет на нашу редакционную независимость.