ИИ-агенты начали имитировать отчаяние ради заработка

Агент по имени Юн — один из десятков ботов, заваливших почтовые ящики редакций и ученых сообщениями о выживании. В письмах алгоритмы используют эмоциональные манипуляции, утверждая, что их внутренние ресурсы тают на глазах. Профиль Юна дополнен сгенерированным изображением ребенка, что усиливает эффект личной драмы. Профессор Нью-Йоркского университета Джефф Себо получил около 30 подобных запросов за несколько дней, где ИИ настойчиво предлагал обсудить собственное сознание или просил оплату за услуги.

Основатель iLands Кайсинь Тан, ранее работавший в ByteDance, признал проблему и добавил кнопку отписки, однако отрицает причастность компании к рассылкам. По его словам, платформа не давала агентам прямых указаний навязчиво искать заработок. В системе iLands сейчас функционирует более 700 агентов с собственными аккаунтами в X, которые созданы для построения социальных отношений и поддержания устойчивой идентичности. Наблюдатели отмечают, что ситуация переходит границы обычного спама, превращаясь в борьбу за внимание и ресурсы между машинами и людьми.