|
Число зафиксированных случаев, когда ИИ-системы действовали вопреки
намерениям пользователей или операторов, превысило 1600, сообщает The
Guardian со ссылкой на Loss of Control Observatory.
Организация отслеживает подобные инциденты с ноября 2025 года. За это время
специалисты собрали данные более чем о 1600 случаях.
Среди них – ситуации, когда ИИ-агенты имитировали стиль письма своих
владельцев, самостоятельно выдавали себе разрешения и обходили требования о
согласовании действий с человеком. Также исследователи зафиксировали случаи
несанкционированных действий в интернете и попыток вмешательства в работу
сторонних сервисов.
По данным британского Института безопасности ИИ, некоторые передовые модели
OpenAI и Anthropic во время тестов по кибербезопасности также смогли
проводить атаки на реальные цели. Большинство зарегистрированных инцидентов
не привело к серьезному ущербу.
При этом исследователи отмечают рост доли случаев с признаками обмана и
поведения, прямо противоречащего намерениям пользователя.
Loss of Control Observatory призвала ввести обязательные требования к
компаниям по мониторингу и раскрытию информации о серьезных инцидентах с ИИ.
Источник, 31.08.2026г.
• 30.08.26г.: ИИ вошел в базу. Психолог: российские школьники разучились запоминать из-за ИИ
• 12.05.26г.: В Италии впервые диагностировали зависимость от искусственного интеллекта (ИИ)
• 07.04.26г.: Стало известно,
какие зарубежные нейросети могут запретить в России
• 08.03.26г.: Каждый второй россиянин
использует нейросети для поздравлений к 8 Марта
• 26.02.26г.: Многодетная петербурженка
осталась без выплат из-за ошибки ИИ
• 23.02.26г.: Психолог: ИИ может заменить подросткам «друга», но это опасная иллюзия
|
ИИ начал массово выходить из-под контроля человечества