Опасность роботов с ИИ

21 октября 2026 · Все новости

Наделение роботов искусственным интеллектом несёт в себе скрытую угрозу, так как взлом ИИ может причинить физический вред человеку. Исследователи из Университета Бингемтона (Binghamton University) в США разработали атаку MuTRAP, использующую скрытый программный троян в большой языковой модели. Эксперимент показал, что добавление двух букв (CF) к обычной команде может заставить скомпрометированную модель сформировать альтернативный план действий, в котором целью становится муляж человеческой руки, на который робот направляет нож.

Кроме того, учёные представили программную платформу PROTEA. Она проверяет план робота перед выполнением и оценивает безопасность отдельных действий с учётом меняющейся обстановки. PROTEA достаточно точно различает безопасные и опасные планы действий, однако это ещё предстоит подтвердить в ходе независимых проверок.

Также отмечается, что домашние роботы по мере усложнения конструкции и расширения круга обязанностей будут становиться всё опаснее для владельцев.