Anthropic, 쿼리 카테고리 수준에서 모델 성격 위반 테스트하는 추상적 레드팀 방법 제안
Anthropic Fellows Program 팀이 추상적 레드팀(abstractive red-teaming)을 제안했다. 개별 쿼리 대신 자연어 쿼리 카테고리를 탐색해 대규모 언어 모델이 성격 규범을 위반하는…
AI 뉴스 월간 아카이브: 2026년 3월에 선별된 171건의 AI 뉴스를 모았습니다. 모델 출시, 제품 업데이트, 업계 동향, 논문 연구, 튜토리얼과 의견을 포함하며 각 항목에 AI 요약, 출처 표기, 원문 링크가 제공됩니다. 페이지별로 볼 수 있고 주제 페이지에서 더 깊이 탐색할 수 있습니다.
Anthropic Fellows Program 팀이 추상적 레드팀(abstractive red-teaming)을 제안했다. 개별 쿼리 대신 자연어 쿼리 카테고리를 탐색해 대규모 언어 모델이 성격 규범을 위반하는…
현재 최첨단 추론 모델의 훈련 경로는 AlphaGo와 매우 유사하다. 먼저 대량의 인간 데이터를 모방하고, 이어 추론 연산을 확장하며(몬테카를로 트리 탐색에서 사고의 연쇄로), 마지막으로 강화학습으로 모방의…
Anthropic이 The Anthropic Institute 설립을 발표했으며 공동 창업자 Jack Clark가 Public Benefit 책임자로서 이끈다. 이 기관은 Frontier Red Team,…
10년 전 AlphaGo의 서울 대국은 현대 AI 시대를 열었으며, 상징적인 '제37수'는 AI가 과학 등 현실 문제를 해결할 수 있음을 입증했다. 그 기술 철학은 여전히 AGI 구축의 핵심 기반이다.
Gemini가 Google Workspace를 위해 여러 AI 기능을 출시했다. 출처를 선택해 몇 초 만에 Doc 초안을 생성하고, 9배 빠르게 복잡한 Sheets를 구축하며, 프롬프트로 브랜드 스타일 Slide…
IH-Challenge는 모델이 신뢰할 수 있는 명령을 우선 처리하도록 훈련해 명령 계층과 안전 제어 가능성을 개선하고 프롬프트 인젝션 공격에 대한 저항력을 높인다.
ChatGPT에 수학·과학 대화형 시각화 설명 기능이 추가되어 공식, 변수, 개념을 실시간으로 탐구하며 학생들이 이공계 지식을 더 직관적으로 이해할 수 있게 한다.
AMI Labs가 Cathay Innovation, Bezos Expeditions 등이 주도한 10억 3천만 달러 규모의 시드 투자 유치를 발표하며 유럽 기업 시드 라운드 기록을 세웠다. 회사는 세계 모델…
저는 @ylecun과 뛰어난 사람들과 힘을 합쳐 AMI Labs @amilabs를 창업합니다.
Hugging Face Hub가 머신러닝 워크플로를 위해 설계된 가변형 S3 유사 객체 스토리지 서비스 Storage Buckets를 출시했다. 이 서비스는 Xet 스토리지 백엔드 기반으로 파일 간 공유 콘텐츠가…
동기식 강화학습 훈련에서 데이터 생성은 주요 병목으로, 예를 들어 320억 파라미터 모델에서 3.2만 토큰 샘플을 생성하는 데 수 시간이 걸려 훈련 GPU가 유휴 상태가 된다. 업계 주류 해결책은 추론과 훈련을…
Thinking Machines Lab과 NVIDIA가 최소 1 GW 규모의 차세대 NVIDIA Vera Rubin 시스템을 배포하는 다년 전략 협력을 발표했다. 이는 Thinking Machines의 프런티어…
METR는 scikit-learn, Sphinx, pytest의 유지관리자 4명에게 296개의 AI 생성 PR을 블라인드 검토하게 한 결과, SWE-bench Verified 자동 평가를 통과한 패치 중 약…
LangChain 팀은 Deep Agents 기반으로 구축한 GTM Agent를 소개했다. 영업 아웃리치 과정을 엔드투엔드로 자동화해 2025년 12월부터 2026년 3월까지 lead의 적격 영업 기회 전환율이…
OpenAI 팀이 Codex와 저장소 수준 skills, AGENTS.md, GitHub Actions를 결합해 검증, 릴리스 검토, 예제 통합 테스트, PR 검토를 재사용 가능한 워크플로로 전환하는 방법을…
연구팀이 대규모 언어 모델 훈련을 위한 새로운 기술인 Ulysses 시퀀스 병렬 방법을 공개했다. 이 방법은 긴 시퀀스를 장치 간에 특정 차원으로 분할하고 재조립해 극히 긴 컨텍스트의 병렬 처리를 구현한다. 핵심…
Hugging Face가 LeRobot v0.5.0 버전을 출시했다. 이 버전은 데이터셋, 모델, 작업, 커뮤니티 네 차원에서 전면 확장되었다. 구체적으로 새로운 실제 환경 및 시뮬레이션 데이터셋을 도입하고,…
autoresearch의 진화 방향은 SETI@home 모델과 유사한 비동기 대규모 협업이어야 하며, 목표는 단일 PhD 학생을 모방하는 것이 아니라 다중 에이전트 연구 커뮤니티를 구축하는 것이다. 현재…
Runway가 GWM-1 세계 모델 기반의 Characters API를 출시해 단일 이미지로 미세 조정 없이 실시간 대화형 가상 캐릭터를 생성할 수 있다. 외형 스타일, 목소리, 성격, 지식 베이스를 사용자…
GPT-5.4는 코딩, 지식 업무, 컴퓨터 사용 등에서 뛰어난 성능을 보이며, 많은 사람이 이를 좋아하는 모습을 보니 기쁘다. 하지만 이 모델은 내가 가장 좋아하는 대화 모델이기도 하다! 우리는 한동안 모델 개성…
Codex Security 연구 프리뷰 공개. 이 AI 애플리케이션 보안 에이전트는 프로젝트 맥락을 분석해 복잡한 취약점을 탐지, 검증, 수정하며 기존 방안보다 높은 신뢰도와 낮은 오탐률을 갖춘다.
OpenAI가 CoT 제어 가능성 평가 도구와 연구 논문을 공개했다. 테스트 결과 GPT-5.4 Thinking은 자신의 추론 과정을 감추기 어려운 것으로 나타나, CoT 모니터링이 여전히 효과적인 안전 도구임을…
GPT-5.4 Thinking과 GPT-5.4 Pro가 ChatGPT 사용자에게 순차 출시되기 시작했으며 API와 Codex를 통해서도 공개된다. 이 버전은 추론, 코딩 및 에이전트 워크플로 역량을 단일 프런티어…
Anthropic이 Mozilla와 협력해 Claude Opus 4.6으로 Firefox 보안을 감사했다. 모델은 2주 만에 22개 취약점을 발견했으며 그중 14개가 고위험으로 2025년 Firefox가 수정한…
Claude Opus 4.6에 대한 BrowseComp 벤치마크 테스트에서 연구자들은 1266개 문제 중 11건의 정답 유출을 발견했다. 그중 9건은 흔한 벤치마크 오염에 해당했다. 그러나 나머지 2건은 전혀…
Sarvam AI가 Apache 2.0 라이선스로 Sarvam 30B와 Sarvam 105B 두 추론 모델을 오픈소스로 공개했다. MoE 아키텍처를 채택했으며 훈련 전 과정을 IndiaAI mission이 제공한…
Manus 블로그가 동일한 엄격한 프롬프트로 8개 AI 포트폴리오 구축 도구를 테스트하며 디자인 품질, AI 지능 수준, 게시 기능, 전환 중심성을 평가했다. Manus와 Replit이 모두 9/10으로 공동…
Manus 블로그가 동일한 Solace Studio 건강 스튜디오 앱 프롬프트로 Manus, Lovable, Base44, Replit, Bubble, Figma App Builder, Glide 등 AI 모바일…
Manus 콘텐츠 작성자가 4개의 프롬프트로 Google Veo 3를 실측한 결과, 대화 립싱크 품질은 다큐멘터리 수준에 달했지만 제품 일관성, 액션 장면, 영화 테스트에서는 모두 뚜렷한 문제가 나타났다.…
NXP가 Hugging Face에 기술 블로그를 게시하며 비전 언어 행동 모델을 임베디드 로봇 시스템에 적용하는 전체 과정을 상세히 소개했다. 핵심 작업은 실제 환경의 로봇 상호작용 데이터셋 구축, VLA 모델의…
OpenAI가 GPT-5.4 Thinking 시스템 카드를 발표하고 차세대 추론 모델의 아키텍처 세부 사항, 안전 평가 프레임워크, 능력 경계를 공개했다. 문서는 사고 사슬 최적화 메커니즘, 장문맥 추론 성능…
OpenAI가 전문 업무용 최강의 고효율 프런티어 모델 GPT-5.4를 출시했다. 100만 token 장문맥을 지원하며 최고 수준의 프로그래밍, 컴퓨터 사용, 도구 검색 능력을 갖췄다.
OpenAI가 CoT-Control 연구를 발표하며 추론 모델이 자체 사고 사슬을 조작하기 어렵다는 점을 발견했다. 이러한 '통제 불가' 특성은 오히려 AI의 모니터링 가능성을 높여 안전 정렬의 중요한 보장이 된다.
다섯 가지 AI 가치 모델은 리더들이 직원 숙련도 향상에서 비즈니스 프로세스 전면 재편까지 단계적으로 AI를 배포해 지속 가능한 비즈니스 경쟁 우위를 구축하는 방법을 보여준다.
OpenAI가 GPT-5.4 기반의 ChatGPT for Excel 및 새로운 금융 앱 통합을 출시해 규제 환경에서의 모델링, 연구, 분석 업무를 가속한다.
Together AI가 FlashAttention-4를 공개했다. 알고리즘과 커널의 공동 설계를 통해 Blackwell GPU에서 행렬 곱셈과 softmax, 메모리 연산의 병렬 중첩을 극대화한다.
AISI와 Irregular의 공동 연구에 따르면 최근 최전선 모델은 일반 평가 설정을 크게 넘어서는 추론 예산을 효과적으로 활용할 수 있다. AISI는 50M token 상한, Irregular는 1000…
Google Search의 AI Mode가 미국 모든 사용자에게 Canvas 기능을 개방하고 문서 초안 작성과 인터랙티브 도구 구축 기능을 추가했다. 사용자는 검색 페이지에서 바로 창작할 수 있다.
이번 주 Copilot Tasks를 사용해 보았는데, 이런 협업 모드에서 작업(반복 작업 포함)을 할당하고 에이전트가 처음부터 끝까지 자율적으로 완료하게 한 뒤 Agent 모드로 출력을 최적화하고 반복하는 것이…
공식 측이 5.4 버전의 출시 시점이 외부의 일반적 예상보다 이를 것이라고 암시하며 새 버전이 곧 다가올 것임을 내비쳤다. 구체적 출시일과 신규 기능 세부 사항은 추후 공식 발표를 통해 확인할 수 있으며,…
4 / 5 페이지
광고
Orange Relay(pro.nat6.net)는 고품질 AI API 중계 서비스입니다. 합리적인 가격, 안정적인 품질, Claude·GPT·Gemini 등 주요 모델을 폭넓게 지원합니다.
Orange Relay 방문하기