Papers & Forschung

Anthropic-Studie: Überzeugungen von LLMs per Synthetic Document Fine-Tuning (SDF) ändern

Originaltitel:Modifying LLM Beliefs with Synthetic Document Finetuning

KI-Zusammenfassung

Das Anthropic-Team stellt eine Pipeline für Synthetic Document Fine-Tuning (SDF) vor, bei der ein LLM synthetische Dokumente erzeugt, die eine Zielaussage zitieren, und das Modell darauf per SFT trainiert wird. Experimente zeigen, dass sich Überzeugungen außer bei den absurdesten falschen Fakten erfolgreich einfügen lassen, und zwar bei Haiku 3.5, Llama 3.3 70B Instruct, R1 Distill 70B und Modellen der OpenAI-GPT-Reihe.

Kernpunkte

  • Das Anthropic-Team stellt eine Pipeline für Synthetic Document Fine-Tuning (SDF) vor,bei der ein…
  • Experimente zeigen,dass sich Überzeugungen außer bei den absurdesten falschen Fakten erfolgreich…
  • 5,Llama 3.
  • 3 70B Instruct,R1 Distill 70B und Modellen der OpenAI-GPT-Reihe.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Anthropic:Alignment Science Blog(网页)
Kategorie
Papers & Forschung
KI-Bewertung
61
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Anthropic-Studie: Überzeugungen von LLMs per Synthetic Document Fine-Tuning (SDF) ändern. 24. April 2025. https://new.nat6.net/de/news/idfcvv9q37icuvuc96gi8br95/

Alle ansehen →