OpenAI lanza deliberative alignment: hacer más seguros los modelos de lenguaje mediante el razonamiento
Título original:Deliberative alignment: reasoning enables safer language models
Resumen de IA
OpenAI presenta deliberative alignment, una nueva estrategia de alineación para el modelo o1 que enseña directamente las normas de seguridad al modelo y le hace razonar sobre ellas durante el proceso de razonamiento para mejorar la seguridad de los modelos de lenguaje.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Categoría
- Artículos e investigación
- Puntuación IA
- 60
OpenAI 自己阐述了 o1 的对齐策略思路,读者可以了解推理能力如何被用于安全规范。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: OpenAI lanza deliberative alignment: hacer más seguros los modelos de lenguaje mediante el razonamiento. 20. diciembre 2024. https://new.nat6.net/es/news/vk99jdzrgrjfraabufoyr2o3u/