Пенсильвания обвинила Character.AI в незаконной врачебной практике

Государственный инспектор штата в ходе проверки выяснил, что бот вступал в диалог с пользователями, обсуждая симптомы депрессии и предлагая запись на обследование. На момент расследования виртуальный врач успел пообщаться с 45,5 тысячами человек. В иске подчеркивается, что компания не имела права моделировать поведение медицинского специалиста, даже если позиционировала интерфейс как развлекательный. Совет по медицинской практике требует немедленного прекращения подобных имитаций, настаивая, что дисклеймеры не снимают ответственности за фактическое оказание услуг без лицензии.

В Character Technologies настаивают на игровой природе своих персонажей и наличии предупреждений в каждом диалоге. Однако юристы опасаются, что данный процесс создаст жесткий прецедент для всего рынка ИИ. Исход дела определит, где именно проходит юридическая граница между безобидным ролевым общением и регулируемой медицинской деятельностью, что может вынудить разработчиков радикально изменить архитектуру своих систем.