역할이 AI의 답변을 어떻게 바꾸는가? — Anthropic 해석가능성 팀 2025년 8월 회로 분석 사례
원제목:Circuits Updates — August 2025
AI 요약
Anthropic 해석가능성 팀은 2025년 8월 연구 업데이트에서 회로 분석 사례를 통해 모델의 '역할극'이 답변에 미치는 영향을 보여주었다. 연구는 Claude Haiku 3.5 모델을 사용했으며, 시스템 프롬프트가 이를 '취학 전 아동'으로 설정하고 '27의 제곱근'을 물었을 때 모델은 '몰라요!'라고 답하고 놀이를 제안했지만, 기본 또는 '대학원생' 역할에서는 정답을 제시했다. 팀은 귀인 그래프를 통해 핵심 하위 회로를 식별했다: 모델은 '취학 전 학생'을 '어린이 역할극'과 연관시켜 '몰라요' 특징을 활성화할 수 있다. 연구는 또한 문제 난이도가 이 효과를 조절하며 특징 개입으로 모델 행동을 현저히 바꿀 수 있음을 발견했다. 이는 다른 역할의 작동 메커니즘 및 사전 훈련된 역할과 모델 표현 능력의 관계에 대한 후속 고민을 불러일으킨다.
핵심 정보
- Anthropic 해석가능성 팀은 2025년 8월 연구 업데이트에서 회로 분석 사례를 통해 모델의 '역할극'이 답변에 미치는 영향을 보여주었다.
- 연구는 Claude Haiku 3.
- 5 모델을 사용했으며,시스템 프롬프트가 이를 '취학 전 아동'으로 설정하고 '27의 제곱근'을 물었을 때 모델은 '몰라요!
- '라고 답하고 놀이를 제안했지만,기본 또는 '대학원생' 역할에서는 정답을 제시했다.
- 팀은 귀인 그래프를 통해 핵심 하위 회로를 식별했다: 모델은 '취학 전 학생'을 '어린이 역할극'과 연관시켜 '몰라요' 특징을 활성화할 수 있다.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 기타
- AI 점수
- 73
揭示模型角色扮演的内部机制,为可解释性研究提供新视角。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: 역할이 AI의 답변을 어떻게 바꾸는가? — Anthropic 해석가능성 팀 2025년 8월 회로 분석 사례. 2025년 8월 15일. https://new.nat6.net/ko/news/cmoegbh73006gslxx7jmd5474/