Исследование Anthropic: дообучение на синтетических документах (SDF) изменяет убеждения LLM
Оригинальный заголовок:Modifying LLM Beliefs with Synthetic Document Finetuning
ИИ-резюме
Команда Anthropic предложила конвейер дообучения на синтетических документах (SDF): LLM генерирует синтетические документы со ссылками на целевые утверждения, после чего модель проходит SFT. Эксперименты показали, что убеждения успешно внедряются для всех фактов, кроме самых абсурдных ошибочных, на моделях Haiku 3.5, Llama 3.3 70B Instruct, R1 Distill 70B и серии OpenAI GPT.
Ключевые моменты
- Команда Anthropic предложила конвейер дообучения на синтетических документах (SDF): LLM генерирует…
- Эксперименты показали,что убеждения успешно внедряются для всех фактов,кроме самых абсурдных…
- 5,Llama 3.
- 3 70B Instruct,R1 Distill 70B и серии OpenAI GPT.
Кратко
- Опубликовано
- Обновлено
- Источник
- Anthropic:Alignment Science Blog(网页)
- Категория
- Статьи и исследования
- Оценка ИИ
- 61
原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Исследование Anthropic: дообучение на синтетических документах (SDF) изменяет убеждения LLM. 24 апреля 2025. https://new.nat6.net/ru/news/idfcvv9q37icuvuc96gi8br95/