Мнения

Расширение диалога о передовом ИИ

Оригинальный заголовок:Widening the conversation on frontier AI

ИИ-резюме

Стремясь создать ответственную систему передового ИИ, Anthropic ведет диалог с разнообразными группами по всему миру. В первом раунде обсуждений приняли участие ученые и специалисты по этике из более чем 15 религиозных, философских и межкультурных традиций, чтобы обеспечить многообразие взглядов на формирование моральных принципов и согласование ценностей таких моделей, как Claude. Вдохновленная концепцией «внешней совести», команда разработала и протестировала инструмент напоминаний об этических обязательствах; предварительные эксперименты показали, что он эффективно снижает нежелательное поведение модели. В будущем компания планирует расширить диалог на сферы права, психологии и гражданского общества, чтобы совместно реагировать на перестройку социальных структур под влиянием ИИ.

Ключевые моменты

  • Стремясь создать ответственную систему передового ИИ,Anthropic ведет диалог с разнообразными…
  • В первом раунде обсуждений приняли участие ученые и специалисты по этике из более чем 15…
  • Вдохновленная концепцией «внешней совести»,команда разработала и протестировала инструмент…
  • предварительные эксперименты показали,что он эффективно снижает нежелательное поведение модели.
  • В будущем компания планирует расширить диалог на сферы права,психологии и гражданского…

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Newsroom(网页)
Категория
Мнения
Оценка ИИ
65
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Anthropic在做一件少见的事——请神学家和哲学家帮忙塑造Claude的‘性格’,初步实验发现让模型在决策前暂停反思能降低偏差,做AI对齐的值得读一下。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Расширение диалога о передовом ИИ. 19 мая 2026. https://new.nat6.net/ru/news/cmpd9r8mi022fslk1qbsjsb9i/

Смотреть все →