OpenAI представила deliberative alignment: повышение безопасности языковых моделей через рассуждение
Оригинальный заголовок:Deliberative alignment: reasoning enables safer language models
ИИ-резюме
OpenAI представила новую стратегию выравнивания для модели o1 — deliberative alignment: модель напрямую обучают правилам безопасности и заставляют рассуждать об этих правилах в процессе вывода, что повышает безопасность языковых моделей.
Кратко
- Опубликовано
- Обновлено
- Источник
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Категория
- Статьи и исследования
- Оценка ИИ
- 60
OpenAI 自己阐述了 o1 的对齐策略思路,读者可以了解推理能力如何被用于安全规范。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: OpenAI представила deliberative alignment: повышение безопасности языковых моделей через рассуждение. 20 декабря 2024. https://new.nat6.net/ru/news/vk99jdzrgrjfraabufoyr2o3u/