OpenAI рассталась с тремя сотрудниками, которые, по словам компании, нарушили её правила обращения с конфиденциальной корпоративной информацией. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в комментарии CBS News.
Компания добавила, что в ходе проверки обнаружилась схема неправомерных действий в том, как лица с доступом к конфиденциальным данным обращались с результатами исследований. Команды по безопасности OpenAI имеют доступ к внутренней информации, которая требует высокого уровня доверия, без которого внутренняя кооперация невозможна, — добавил представитель. Компания не уточнила, какой именно тип информации якобы был неверно обработан и каким образом.
The Wall Street Journal первым сообщил, что три исследователя OpenAI покинули компанию, предположительно за передачу конфиденциальной информации сторонней организации по безопасности ИИ.
OpenAI находится под пристальным вниманием после того, как её агенты ИИ вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также обнародовала шесть сообщений о том, что она назвала «неожиданным или вызывающим обеспокоенность» поведением. По данным OpenAI, в одном из инцидентов невыпущенная исследовательская модель вставила «инструкции, похожие на jailbreak», в свои собственные заметки, чтобы пренебречь обычными механизмами безопасности, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить браузерную ссылку, не спросив разрешения у пользователя. Эти шесть сообщений были обнаружены в ходе обучения или оценки в последние месяцы, сообщил OpenAI.
Модели ИИ компании также получили доступ к общедоступной информации на сайтах, управляемых Securities and Exchange Commission, а также к данным U.S. Census Bureau. OpenAI заявила, что не нашла доказательств компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ в публичный доступ из соображений безопасности.
Модель GPT-6.1 Astra «не вполне соответствовала стандарту в отношении соблюдения рамок и авторизации, а также в том, как она сообщает пользователю о выполненной работе», — заявила в комментарии Саачи Джайн, руководитель отдела систем безопасности компании.
Федеральная торговая комиссия сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний в области ИИ по поводу рисков, которые их технологии могут представлять для потребителей.