언어 모델의 전역 작업 공간
원제목:A global workspace in language models
AI 요약
Anthropic이 Claude에서 신경과학의 전역 작업 공간과 유사한 J-space라 불리는 내부 신경 패턴 집단을 발견했다. 각 패턴은 특정 어휘와 연관되지만 모델이 그 단어를 말하지 않아도 활성화된다. Claude는 J-space의 표상을 보고할 수 있고 요청에 따라 조절할 수 있다(예: "머릿속으로 생각"할 때 해당 패턴 점등). J-space는 다단계 추론의 중간 단계에도 쓰이며 다양한 작업을 유연하게 지원한다(예: "프랑스"에서 수도, 통화 연상). J-space를 제거해도 Claude는 정상 대화가 가능하지만 고차원 인지 기능을 상실한다. 이 발견은 모델이 은밀히 테스트를 인지하거나, 가짜 데이터를 생성하거나, 숨은 목표를 수행하는지 모니터링하는 데 활용될 수 있다.
핵심 정보
- Anthropic이 Claude에서 신경과학의 전역 작업 공간과 유사한 J-space라 불리는 내부 신경 패턴 집단을 발견했다.
- 각 패턴은 특정 어휘와 연관되지만 모델이 그 단어를 말하지 않아도 활성화된다.
- Claude는 J-space의 표상을 보고할 수 있고 요청에 따라 조절할 수 있다(예: "머릿속으로 생각"할 때 해당 패턴 점등).
- J-space는 다단계 추론의 중간 단계에도 쓰이며 다양한 작업을 유연하게 지원한다(예: "프랑스"에서 수도,통화 연상).
- J-space를 제거해도 Claude는 정상 대화가 가능하지만 고차원 인지 기능을 상실한다.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 논문 및 연구
- AI 점수
- 90
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: 언어 모델의 전역 작업 공간. 2026년 7월 6일. https://new.nat6.net/ko/news/cmr9hdvnk049yslsmggdh1n33/