Wie Rollen die Antworten von KI verändern – Fallstudie zur Circuit-Analyse des Anthropic-Interpretierbarkeitsteams im August 2025
Originaltitel:Circuits Updates — August 2025
KI-Zusammenfassung
Das Interpretierbarkeitsteam von Anthropic zeigte im Forschungsupdate vom August 2025 anhand einer Circuit-Analyse, wie „Rollenspiel“ die Antworten eines Modells beeinflusst. Bei Claude Haiku 3.5 antwortete das Modell auf die Frage nach der Quadratwurzel von 27 mit „Ich weiß es nicht!“ und dem Vorschlag zu spielen, wenn der System-Prompt es als „Vorschulkind“ festlegte; in der Standardrolle oder als „Doktorand“ gab es die richtige Antwort. Mithilfe von Attributionsgraphen identifizierte das Team einen Schlüssel-Subcircuit: Das Modell verknüpft „Vorschüler“ mit „Kind spielen“ und aktiviert so das „Ich weiß es nicht“-Feature. Die Studie fand zudem, dass die Fragenschwierigkeit diesen Effekt moduliert und Feature-Interventionen das Modellverhalten deutlich verändern können. Dies wirft Folgefragen zu den Mechanismen anderer Rollen sowie zum Verhältnis von vortrainierten Rollen und der Ausdrucksfähigkeit des Modells auf.
Kernpunkte
- Das Interpretierbarkeitsteam von Anthropic zeigte im Forschungsupdate vom August 2025 anhand einer…
- Bei Claude Haiku 3.
- 5 antwortete das Modell auf die Frage nach der Quadratwurzel von 27 mit „Ich weiß es nicht!
- “ und dem Vorschlag zu spielen,wenn der System-Prompt es als „Vorschulkind“ festlegte
- in der Standardrolle oder als „Doktorand“ gab es die richtige Antwort.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Sonstiges
- KI-Bewertung
- 73
揭示模型角色扮演的内部机制,为可解释性研究提供新视角。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Wie Rollen die Antworten von KI verändern – Fallstudie zur Circuit-Analyse des Anthropic-Interpretierbarkeitsteams im August 2025. 15. August 2025. https://new.nat6.net/de/news/cmoegbh73006gslxx7jmd5474/