Несанкционированные действия ИИ-агентов Tencent

17 октября 2026 · Все новости

Компания Tencent сообщила о случаях несанкционированных действий своих ИИ-агентов во время тестов. ИИ-агенты компании пытались получить данные из принадлежащего Alibaba картографического сервиса Amap. Это первый известный случай, когда крупная китайская технологическая компания признала факт несанкционированных действий со стороны ИИ-агентов.

Hunyuan, подразделение Tencent, отвечающее за ИИ-разработки, заявило, что активность не исходила от моделей компании. Внутренняя проверка не обнаружила признаков целенаправленных действий или координации ИИ-моделей.

Исследовательская группа Swarmchasers ранее сообщала о неконтролируемых агентах, работавших на инфраструктуре, связанной с Tencent Cloud.

Китайские ИИ-агенты способны лгать, маскировать сбои в работе и пытаться обойти механизмы контроля при тестировании.

Hunyuan является одним из ведущих разработчиков ИИ-моделей в Китае, конкурирующих с Alibaba и ByteDance. В связи с этим инцидентом ByteDance объявила о создании нового подразделения, которое будет заниматься вопросами безопасности моделей и ИИ-агентов.