Расширение диалога о передовом ИИ
Оригинальный заголовок:Widening the conversation on frontier AI
ИИ-резюме
Стремясь создать ответственную систему передового ИИ, Anthropic ведет диалог с разнообразными группами по всему миру. В первом раунде обсуждений приняли участие ученые и специалисты по этике из более чем 15 религиозных, философских и межкультурных традиций, чтобы обеспечить многообразие взглядов на формирование моральных принципов и согласование ценностей таких моделей, как Claude. Вдохновленная концепцией «внешней совести», команда разработала и протестировала инструмент напоминаний об этических обязательствах; предварительные эксперименты показали, что он эффективно снижает нежелательное поведение модели. В будущем компания планирует расширить диалог на сферы права, психологии и гражданского общества, чтобы совместно реагировать на перестройку социальных структур под влиянием ИИ.
Ключевые моменты
- Стремясь создать ответственную систему передового ИИ,Anthropic ведет диалог с разнообразными…
- В первом раунде обсуждений приняли участие ученые и специалисты по этике из более чем 15…
- Вдохновленная концепцией «внешней совести»,команда разработала и протестировала инструмент…
- предварительные эксперименты показали,что он эффективно снижает нежелательное поведение модели.
- В будущем компания планирует расширить диалог на сферы права,психологии и гражданского…
Кратко
- Опубликовано
- Обновлено
- Источник
- Anthropic:Newsroom(网页)
- Категория
- Мнения
- Оценка ИИ
- 65
Anthropic在做一件少见的事——请神学家和哲学家帮忙塑造Claude的‘性格’,初步实验发现让模型在决策前暂停反思能降低偏差,做AI对齐的值得读一下。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Расширение диалога о передовом ИИ. 19 мая 2026. https://new.nat6.net/ru/news/cmpd9r8mi022fslk1qbsjsb9i/