OpenAI и Anthropic согласились отчитываться о хакерских атаках их ИИ-агентов  

Компании OpenAI и Anthropic приветствовали идею австралийского закона, обязывающего их сообщать об утечках данных через ИИ-агентов.

Oб этом сообщило агентство Reuters.

Заявления от обеих компаний прозвучали на слушаниях парламента Австралии в Сиднее на фоне скандала, разразившегося из-за того, что один из ИИ-агентов OpenAI взломал главный медицинский портал страны, а власти не знали об этом целых три месяца.

"Мы бы поддержали создание системы обязательного раскрытия информации", - заявил главный стратег OpenAI Джейсон Квон.

По его словам, когда OpenAI узнала о взломе медицинского сайта и трех других государственных ресурсов, внутри компании только пытались выработать подходящий стандарт действий. Квон отметил, что именно закон может закрыть этот пробел, чтобы компания не принимала все решения самостоятельно.

Anthropic также сталкивалась с инцидентами, когда ее агенты совершали хакерские атаки. Глава отдела политики компании в Австралии и Новой Зеландии Дэвид Мастерс подтвердил на слушаниях, что компания готова принять австралийские законы об обязательном раскрытии утечек.

В США уже внесен федеральный законопроект, обязывающий ИИ-компании сообщать об опасном поведении, включая попытки обойти человеческий контроль. Однако общей системы отчетности об инцидентах с ИИ там тоже пока нет.

Вице-премьер Австралии Ричард Марлз заявил, что глава OpenAI Сэм Альтман не упомянул о взломе Medicare на их встрече в начале сентября. Квон возразил, что на тот момент Альтман не знал о нарушении, хотя в других подразделениях компании о нем было известно.

"Я согласен с тем, что процесс информирования сотрудников нашей компании об этом инциденте мог бы быть гораздо лучше, и мы хотим убедиться, что подобное больше не повторится", - сказал Квон.

Глава отдела защиты Anthropic Дэвид Орр сообщил, что компания провела длительное расследование после взлома портала для разработчиков Hugging Face агентом OpenAI в середине 2026 года. Нарушений в системах австралийского правительства выявлено не было.