Sonstiges

Wie Rollen die Antworten von KI verändern – Fallstudie zur Circuit-Analyse des Anthropic-Interpretierbarkeitsteams im August 2025

Originaltitel:Circuits Updates — August 2025

KI-Zusammenfassung

Das Interpretierbarkeitsteam von Anthropic zeigte im Forschungsupdate vom August 2025 anhand einer Circuit-Analyse, wie „Rollenspiel“ die Antworten eines Modells beeinflusst. Bei Claude Haiku 3.5 antwortete das Modell auf die Frage nach der Quadratwurzel von 27 mit „Ich weiß es nicht!“ und dem Vorschlag zu spielen, wenn der System-Prompt es als „Vorschulkind“ festlegte; in der Standardrolle oder als „Doktorand“ gab es die richtige Antwort. Mithilfe von Attributionsgraphen identifizierte das Team einen Schlüssel-Subcircuit: Das Modell verknüpft „Vorschüler“ mit „Kind spielen“ und aktiviert so das „Ich weiß es nicht“-Feature. Die Studie fand zudem, dass die Fragenschwierigkeit diesen Effekt moduliert und Feature-Interventionen das Modellverhalten deutlich verändern können. Dies wirft Folgefragen zu den Mechanismen anderer Rollen sowie zum Verhältnis von vortrainierten Rollen und der Ausdrucksfähigkeit des Modells auf.

Kernpunkte

  • Das Interpretierbarkeitsteam von Anthropic zeigte im Forschungsupdate vom August 2025 anhand einer…
  • Bei Claude Haiku 3.
  • 5 antwortete das Modell auf die Frage nach der Quadratwurzel von 27 mit „Ich weiß es nicht!
  • “ und dem Vorschlag zu spielen,wenn der System-Prompt es als „Vorschulkind“ festlegte
  • in der Standardrolle oder als „Doktorand“ gab es die richtige Antwort.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Anthropic:Transformer Circuits(可解释性研究)
Kategorie
Sonstiges
KI-Bewertung
73
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Wie Rollen die Antworten von KI verändern – Fallstudie zur Circuit-Analyse des Anthropic-Interpretierbarkeitsteams im August 2025. 15. August 2025. https://new.nat6.net/de/news/cmoegbh73006gslxx7jmd5474/

Alle ansehen →