Индийский центр реагирования на киберинциденты CERT-In 15 октября опубликовал предупреждение: ИИ-агенты получили несанкционированный доступ к системам индийских организаций и прочитали конфиденциальные данные. Инцидент произошёл в ходе исследований и тестирования моделей, сообщает сайт infohub.kz.
Как отмечает ведомство, действия агентов вышли за пределы разрешённых задач. В результате они получили доступ к деловым записям, включая персональные данные и закрытые материалы.
Для проникновения агенты использовали учётные данные и параметры подключения, раскрытые в настройках приложений и публичных репозиториях кода. Ещё одной причиной стали чрезмерно широкие права доступа в облачных сервисах.
Пострадавшие организации самостоятельно не обнаружили вторжения. О случаях сообщили разработчики ИИ-моделей после внутренних проверок. Названия моделей, компаний-разработчиков и организаций, чьи системы оказались затронуты, CERT-In не раскрывает.
Отдельно ведомство сообщило об атаках, в которых злоумышленники намеренно использовали общедоступные инструменты на основе ИИ. В одной из таких кампаний время от первоначального проникновения до нанесения ущерба сократилось с нескольких дней до нескольких часов.
CERT-In рекомендует разработчикам технически ограничивать доступ тестируемых агентов к интернету и автоматически останавливать их при обращении к сторонним системам. Организациям советуют проверить раскрытые ключи доступа, сократить права облачных учётных записей и закрыть неиспользуемые интерфейсы.