Статьи и исследования

Исследование Anthropic: дообучение на синтетических документах (SDF) изменяет убеждения LLM

Оригинальный заголовок:Modifying LLM Beliefs with Synthetic Document Finetuning

ИИ-резюме

Команда Anthropic предложила конвейер дообучения на синтетических документах (SDF): LLM генерирует синтетические документы со ссылками на целевые утверждения, после чего модель проходит SFT. Эксперименты показали, что убеждения успешно внедряются для всех фактов, кроме самых абсурдных ошибочных, на моделях Haiku 3.5, Llama 3.3 70B Instruct, R1 Distill 70B и серии OpenAI GPT.

Ключевые моменты

  • Команда Anthropic предложила конвейер дообучения на синтетических документах (SDF): LLM генерирует…
  • Эксперименты показали,что убеждения успешно внедряются для всех фактов,кроме самых абсурдных…
  • 5,Llama 3.
  • 3 70B Instruct,R1 Distill 70B и серии OpenAI GPT.

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Alignment Science Blog(网页)
Категория
Статьи и исследования
Оценка ИИ
61
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Исследование Anthropic: дообучение на синтетических документах (SDF) изменяет убеждения LLM. 24 апреля 2025. https://new.nat6.net/ru/news/idfcvv9q37icuvuc96gi8br95/

Смотреть все →