Circuit-Tracking: Berechnungsgraphen in Sprachmodellen sichtbar machen
Originaltitel:Circuit Tracing: Revealing Computational Graphs in Language Models
KI-Zusammenfassung
Das Forschungsteam schlägt die Methode „Circuit-Tracking“ vor, um die Berechnungsmechanismen hinter dem Verhalten von Sprachmodellen offenzulegen. Die Methode verfolgt Berechnungsschritte in einem Ersatzmodell und erzeugt Graphen, die den Ausführungsprozess des Modells beschreiben; das Ersatzmodell approximiert die Originalstruktur mit interpretierbaren Komponenten wie schichtübergreifenden Transkodierern. Das Team entwickelte Visualisierungs- und Validierungswerkzeuge, um einfache Attributionsgraphen des Verhaltens eines 18-Schicht-Sprachmodells zu untersuchen, und legte damit die Grundlage für weitere Forschung; eine Anwendung auf Claude 3.5 Haiku ist geplant. Zentrale Entscheidungen umfassen die Nutzung schichtübergreifender Transkodierer zur Feature-Extraktion und den Aufbau von Attributionsgraphen linearer Interaktionen zwischen Features.
Kernpunkte
- Das Forschungsteam schlägt die Methode „Circuit-Tracking“ vor,um die Berechnungsmechanismen hinter…
- Die Methode verfolgt Berechnungsschritte in einem Ersatzmodell und erzeugt Graphen,die den…
- das Ersatzmodell approximiert die Originalstruktur mit interpretierbaren Komponenten wie…
- Das Team entwickelte Visualisierungs- und Validierungswerkzeuge,um einfache Attributionsgraphen…
- eine Anwendung auf Claude 3.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Sonstiges
- KI-Bewertung
- 76
揭示大模型内部机制,为AI安全与调试提供新工具。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Circuit-Tracking: Berechnungsgraphen in Sprachmodellen sichtbar machen. 27. März 2025. https://new.nat6.net/de/news/cmoegbh73006pslxxkpwgqif7/