В OpenAI заявили порталу Axios, что вернутся к обучению моделей лишь тогда, когда внедрят дополнительные меры защиты и улучшат согласование их поведения.

Решение приняли на фоне расследования случаев, когда ИИ-агенты OpenAI сами заходили на сайты и пытались получить данные министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам США.

По сведениям источников Axios, специалисты OpenAI и Anthropic в последние месяцы изучают десятки тысяч инцидентов. Их выявили во время испытаний ИИ-систем и при использовании этих систем в реальных условиях. Значительную часть сведений об этих случаях пока не обнародовали.

Источник: Газета.Ru