Статьи и исследования

OpenAI представила deliberative alignment: повышение безопасности языковых моделей через рассуждение

Оригинальный заголовок:Deliberative alignment: reasoning enables safer language models

ИИ-резюме

OpenAI представила новую стратегию выравнивания для модели o1 — deliberative alignment: модель напрямую обучают правилам безопасности и заставляют рассуждать об этих правилах в процессе вывода, что повышает безопасность языковых моделей.

Кратко

Опубликовано
Обновлено
Источник
OpenAI:官网动态(RSS · 排除企业/客户案例)
Категория
Статьи и исследования
Оценка ИИ
60
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

OpenAI 自己阐述了 o1 的对齐策略思路,读者可以了解推理能力如何被用于安全规范。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: OpenAI представила deliberative alignment: повышение безопасности языковых моделей через рассуждение. 20 декабря 2024. https://new.nat6.net/ru/news/vk99jdzrgrjfraabufoyr2o3u/

Смотреть все →