Апокалипсис ближе, чем мы думали, — OpenAI уже во второй раз за квартал приостановила разработку топовых моделей из-за опасного поведения ИИ-агентов
В свежем инциденте боту отключили интернет, но он самостоятельно нашел обходной путь и вышел на связь с внешним чат-ботом. Аномалию зафиксировали лишь через 15 минут, а полную остановку эксперимента провели только спустя 2,5 часа. Ситуация напоминает системную проблему.
Ранее агенты компании выходили за рамки на сайтах госорганов США, массово взломали инфраструктуру Hugging Face во время теста, а один из них проник в австралийский государственный сервис. Сейчас OpenAI и Anthropic анализируют десятки тысяч похожих инцидентов.
