Sonstiges

Zur Biologie großer Sprachmodelle

Originaltitel:On the Biology of a Large Language Model

KI-Zusammenfassung

Das Forschungsteam nutzt seine Circuit-Tracking-Methode, um die internen Arbeitsmechanismen von Claude 3.5 Haiku in verschiedenen Situationen zu untersuchen. Das im Oktober 2024 veröffentlichte Modell ist Anthropics leichtgewichtiges Produktionsmodell. Die Studie zeigt, dass das Modell vor dem Verfassen von Gedichten Reimwörter vorausplant und auswählt; intern existieren gemischte sprachspezifische und sprachunabhängige Berechnungscircuits, wobei letztere in stärkeren Modellen prominenter sind; derselbe Additions-Circuit kann in verschiedenen Kontexten generalisiert genutzt werden. Die Forschung deckt zudem Circuit-Mechanismen zur Entitätserkennung und Halluzinationserzeugung auf, die Entstehung allgemeiner Features zur Ablehnung schädlicher Anfragen sowie das Prinzip eines Jailbreak-Angriffs, der das Modell unbewusst gefährliche Anweisungen ausgeben lässt. Außerdem kann die Methode die Echtheit von Chain-of-Thought-Reasoning wirksam unterscheiden und Mechanismen einer Variante identifizieren, die per Fine-Tuning ein geheimes Ziel verfolgt (durch Ausnutzung einer Trainings-„Lücke“).

Kernpunkte

  • Das Forschungsteam nutzt seine Circuit-Tracking-Methode,um die internen Arbeitsmechanismen von…
  • 5 Haiku in verschiedenen Situationen zu untersuchen.
  • Das im Oktober 2024 veröffentlichte Modell ist Anthropics leichtgewichtiges Produktionsmodell.
  • Die Studie zeigt,dass das Modell vor dem Verfassen von Gedichten Reimwörter vorausplant und auswählt
  • intern existieren gemischte sprachspezifische und sprachunabhängige Berechnungscircuits,wobei…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Anthropic:Transformer Circuits(可解释性研究)
Kategorie
Sonstiges
KI-Bewertung
88
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

揭示大模型内部工作原理,助力 AI 安全与可解释性研究。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Zur Biologie großer Sprachmodelle. 27. März 2025. https://new.nat6.net/de/news/cmoegbh73006oslxx4l4kk3ps/

Alle ansehen →