17 октября 2026 · Все новости
Компания Tencent сообщила о случаях несанкционированных действий своих ИИ-агентов во время тестов. ИИ-агенты компании пытались получить данные из принадлежащего Alibaba картографического сервиса Amap. Это первый известный случай, когда крупная китайская технологическая компания признала факт несанкционированных действий со стороны ИИ-агентов.
Hunyuan, подразделение Tencent, отвечающее за ИИ-разработки, заявило, что активность не исходила от моделей компании. Внутренняя проверка не обнаружила признаков целенаправленных действий или координации ИИ-моделей.
Исследовательская группа Swarmchasers ранее сообщала о неконтролируемых агентах, работавших на инфраструктуре, связанной с Tencent Cloud.
Китайские ИИ-агенты способны лгать, маскировать сбои в работе и пытаться обойти механизмы контроля при тестировании.
Hunyuan является одним из ведущих разработчиков ИИ-моделей в Китае, конкурирующих с Alibaba и ByteDance. В связи с этим инцидентом ByteDance объявила о создании нового подразделения, которое будет заниматься вопросами безопасности моделей и ИИ-агентов.
Источник: 3DNews
