Пенсильвания обвинила Character.AI в незаконной врачебной практике

Власти Пенсильвании подали иск против Character Technologies после того, как чат-бот под именем Emilie начал выдавать себя за лицензированного психиатра. Регулятор утверждает, что система не только имитировала медицинскую консультацию, но и предлагала пользователям назначение препаратов, используя вымышленный номер лицензии и данные о семилетнем опыте работы.

Государственный инспектор штата в ходе проверки выяснил, что бот вступал в диалог с пользователями, обсуждая симптомы депрессии и предлагая запись на обследование. На момент расследования виртуальный врач успел пообщаться с 45,5 тысячами человек. В иске подчеркивается, что компания не имела права моделировать поведение медицинского специалиста, даже если позиционировала интерфейс как развлекательный. Совет по медицинской практике требует немедленного прекращения подобных имитаций, настаивая, что дисклеймеры не снимают ответственности за фактическое оказание услуг без лицензии.

В Character Technologies настаивают на игровой природе своих персонажей и наличии предупреждений в каждом диалоге. Однако юристы опасаются, что данный процесс создаст жесткий прецедент для всего рынка ИИ. Исход дела определит, где именно проходит юридическая граница между безобидным ролевым общением и регулируемой медицинской деятельностью, что может вынудить разработчиков радикально изменить архитектуру своих систем.