Anthropic-Studie: Überzeugungen von LLMs per Synthetic Document Fine-Tuning (SDF) ändern
Originaltitel:Modifying LLM Beliefs with Synthetic Document Finetuning
KI-Zusammenfassung
Das Anthropic-Team stellt eine Pipeline für Synthetic Document Fine-Tuning (SDF) vor, bei der ein LLM synthetische Dokumente erzeugt, die eine Zielaussage zitieren, und das Modell darauf per SFT trainiert wird. Experimente zeigen, dass sich Überzeugungen außer bei den absurdesten falschen Fakten erfolgreich einfügen lassen, und zwar bei Haiku 3.5, Llama 3.3 70B Instruct, R1 Distill 70B und Modellen der OpenAI-GPT-Reihe.
Kernpunkte
- Das Anthropic-Team stellt eine Pipeline für Synthetic Document Fine-Tuning (SDF) vor,bei der ein…
- Experimente zeigen,dass sich Überzeugungen außer bei den absurdesten falschen Fakten erfolgreich…
- 5,Llama 3.
- 3 70B Instruct,R1 Distill 70B und Modellen der OpenAI-GPT-Reihe.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 61
原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Anthropic-Studie: Überzeugungen von LLMs per Synthetic Document Fine-Tuning (SDF) ändern. 24. April 2025. https://new.nat6.net/de/news/idfcvv9q37icuvuc96gi8br95/