Компания Anthropic пытается решить фундаментальную проблему: как научить языковую модель принимать решения в ситуациях, где нет однозначного ответа. Вместо жестких алгоритмов разработчики опираются на «конституцию» — свод принципов, управляющих поведением бота. Однако попытки создать универсальную систему ценностей внутри индустрии буксуют, так как разработчики осознали невозможность навязать миру единый моральный стандарт.
Встречи с религиозными лидерами, которые координирует швейцарская организация Interfaith Alliance for Safer Communities, направлены на поиск общих этических закономерностей. Подобные дискуссии уже прошли в Нью-Йорке, а в планах компании — расширить географию на Китай, Кению и ОАЭ. В проекте участвует британский политик Джоанна Шилдс, а эксперты, такие как глава Humane Intelligence Румман Чоудхури, связывают этот тренд с крахом наивных ожиданий Кремниевой долины о создании «безупречной» этики для всех.
На данный момент Anthropic не раскрывает, как именно советы теологов влияют на код Claude. Остается открытым вопрос: способны ли машины на самом деле усваивать мораль или все эти усилия лишь создают фасад этичного поведения у систем, которые лишены понимания последствий своих действий.
Комментарии (0)
Пока нет комментариев. Будьте первым!