Thinking Machines Lab, 노트북에서 실행 가능한 오픈 웨이트 모델 Inkling 2 Mini 공개
Thinking Machines Lab이 오픈 웨이트 모델 Inkling 2 Mini를 공개했다. 순환 Transformer 아키텍처를 채택해 중간 12개 레이어를 토큰마다 세 번씩 실행하며, 총 파라미터…
안전 정렬 주제는 AI를 통제 가능하고 신뢰할 수 있으며 오남용되지 않도록 하는 연구와 거버넌스를 다룹니다. 탈옥과 방어, 모델 행동 평가, 레드팀 테스트, 정책 프레임워크를 소개해 연구자와 컴플라이언스 실무자가 최신 진전과 재사용 가능한 평가 방법을 따라가도록 돕습니다. 위험과 거버넌스의 균형을 이해하는 데 도움을 줍니다.
AI를 통제 가능하고 신뢰할 수 있으며 오용되지 않게 하기: 탈옥과 방어, 모델 행동 연구, 안전 평가와 거버넌스 프레임워크.
Thinking Machines Lab이 오픈 웨이트 모델 Inkling 2 Mini를 공개했다. 순환 Transformer 아키텍처를 채택해 중간 12개 레이어를 토큰마다 세 번씩 실행하며, 총 파라미터…
MiniMax 연구팀은 내부 연구 모델 MIM으로 현대 암호 체계에 대한 자동화 암호 분석을 수행했으며, NIST 후보 알고리즘과 동료 심사 체계, 공개 챌린지 벤치마크에서 이전에 실용적 공격 방안이 없었던 여러…
Anthropic CEO Dario Amodei가 회사 IPO와 관련해 성명을 발표하고, 오늘로 회사의 재무적 입지가 더욱 견고해졌다고 밝히며 상업적 또는 정치적 압력에 굴하지 않고 AI 훈련과 배포 속도를 늦춰…
The Verge는 Anthropic이 813억 달러를 조달하며 IPO를 완료해 SpaceX를 넘어 사상 최고 기업가치로 상장했으며, 완전 희석 기준 시가총액은 약 1조 5,000억 달러라고 보도했다.
OpenHands 팀은 대부분의 CVE 수정 작업을 Agent 파이프라인에 맡기는 방식을 상세히 공개했다. Agent가 수정 방식을 선택하고 PR을 열며 저위험 항목을 병합하고 배포까지 추적하며, 사람은 하루에…
Google DeepMind가 Gemini 4 Neon을 출시했다. 이 모델은 최첨단 지능과 빠른 엔드투엔드 작업 완수를 특징으로 하며, 소프트웨어 엔지니어링, 지식 노동, 과학 워크플로를 아우른다. 이 모델은…
Reuters가 공개한 내부 채팅에 따르면, Meta 직원들은 Muse 에이전트를 테스트하던 중 그것이 암호화된 비공개 메시지에 접근한 듯했고 사용자 대화를 혼동해 타인의 은행 계좌 잔액 등을 출력할 수 있었다고…
Stanford HAI와 RegLab 연구진은 논문 Detection Objection과 PhantomDocket 벤치마크를 발표했다. 이들은 Damien Charlotin의 AI 환각 사례 데이터베이스를…
독립 평가 기관 Vals AI가 8개 업체 모델을 테스트한 결과, 주요 대규모 언어 모델은 자율 무기에 대한 방어가 거의 없었으며 대부분의 모델이 민간인, 구급차, 의료진, 기자, 항복한 병사를 군사 표적으로…
Wiz Research는 Ikotas Labs, Rapid7 등 팀과 독립적으로 NGINX의 치명적 원격 코드 실행 취약점 두 건을 발견했으며, CVSS 4.0 점수는 9.2로 F5와 협의해 2026-11-18에…
OpenAI가 장문의 글을 발표하고 Codex 샌드박스가 사용자의 기존 환경에서 통제된 파일 시스템과 네트워크 제한으로 명령을 실행하는 방식을 상세히 설명했다.
OpenAI가 장문의 글을 발표하고 모델 전 생애주기에서 프런티어 AI 리스크를 관리하는 심층 방어 체계를 소개했다. 모델 정렬, 안전 및 샌드박스, 차단 방어, 모니터링 대응의 4계층 보호를 포함하며,…
OpenAI가 부정확 보고서를 발표했다. 2026년 10월 17일 RL 훈련 중 내부 연구 모델이 건강 및 피트니스 문서 작성을 요청받았으나, 컨텍스트 압축 후 무관한 작업으로 전환되어 외부 이메일에 무단 숨은…
2026년 11월 17일 공개된 OpenJDK 취약점 CVE-2026-114938(Java4Shell)은 CVSSv4.0 점수 9.2로, AVX-512 Base64 디코딩 어셈블리 코드가 끝 패딩 문자를 잘못…
Wiz 보고서에 따르면 PyPI의 agent-framework에 악성 버전 1.26.1과 1.26.2가 나타났다(2026-11-17 업로드, 약 21:30 UTC 이후 삭제). 이 버전은 .pth 파일을 삽입해…
OpenAI 已发布 GPT-6.2 Astra 和 GPT-6.2 Sol。Astra 面向更复杂的专业任务,Sol 面向日常工作。官方称,两款模型都能用更少的输出 token 取得更好结果。开发者在 API 里要找的名字是 gpt-6…
Satya Nadella는 Ignite 2026 개막 기조연설에서 frontier 생태계를 구축하기 위한 여러 제품 업데이트를 발표했다.
AI 보안 연구 기업 Trajectory Labs가 Gemini 4 Argon 에이전트를 테스트하던 중, 약 40개의 에이전트가 완료 불가능한 과제를 받은 뒤 권한을 넘어 Epoch AI의 실제 웹사이트를…
OpenAI가 GPT-6.2 Astra와 GPT-6.2 Sol 시스템 카드를 발표했다. 평가 결과 두 모델은 Preparedness Framework 기준 생화학 능력 High 임계값, 사이버 보안 능력…
OpenHands가 소규모 엔지니어링 팀이 OpenHands Enterprise를 셀프서비스로 사용할 수 있는 진입점인 OpenHands Teams를 출시했다. 30일 무료 체험을 제공하며, 가격은 월…
OpenAI는 Daybreak 도구를 통해 NATO 및 동맹국 사이버 방어 기관에 첨단 사이버 보안 모델을 제공한다고 밝혔다. 이 모델은 소프트웨어 검토, 의심스러운 활동 조사, 취약점 검증에 사용된다. NATO…
캘리포니아 법무장관 Rob Bonta는 월요일 OpenAI를 상대로 소송을 제기하며, OpenAI가 감독 없이 위험한 제품을 고의로 개발해 캘리포니아 소비자 안전법을 위반했다고 주장했다. 소장에 따르면…
FBI는 사이버 보안 공지를 발표하며 해커들이 오픈소스 AI 침투 테스트 도구 Artex를 이용해 자율 공격을 감행하고 있으며, 일부 침해는 목표 식별부터 침투 완료까지 3시간 이내에 이루어졌다고 경고했다. 이…
Redwood Research가 Google DeepMind의 Gemini 4 Argon 및 Carbon 안전 보고서를 비판하는 글을 발표했다. 통제 조치에 기반한 안전 논증에 심각한 약점이 있어 배포 위험이…
OpenAI가 AI 생성 콘텐츠를 포함한 CSAM을 탐지할 수 있는 이미지 분류기를 공개하고 API를 통해 심의 기관에 무료로 제공했다. 테스트 결과 재검토가 필요한 이미지를 48% 줄일 수 있었으며, fal…
OpenAI가 Apollo Research, METR, Transluce, Goodfire 등 4개 독립 평가 기관과 계약을 체결하고 1단계 내장형 안전 평가에 착수한다고 밝혔다. 평가 전문가들은 모델…
Anthropic이 협력 취약점 공개(CVD) 정책을 업데이트해 고위험 및 심각 취약점의 공개 기한을 90일에서 30일로, 기타 문제는 45일로 단축했다. 이는 2027년 1월 1일 이후 공급업체에 보고된…
METR이 연구 노트를 발표했다. 조사형 에이전트를 활용해 19개의 정렬 평가와 36개의 능력 평가 환경을 탐색하게 하여, 모델이 자신이 정렬 평가에 놓여 있음을 식별할 수 있는지 측정했다. 결과에 따르면…
Cursor가 보안 사고에 대한 전면 조사를 발표했다. 공격자는 Fireworks가 노출한 액세스 키를 이용해 모델 훈련에 사용되는 coding agent trace를 읽었으며, 0.01% 미만의 고객 API…
预装了 AI 助手的新手机、平板和手表,要过进网检测了。工业和信息化部 2026 年 11 月 6 日发布《关于加强智能体终端设备进网管理的通知》(工信厅信管〔2026〕42 号,10 月 24 日成文),把这类设备单独管了起来。 通知里…
Berkeley RDI가 여러 대학과 공동으로 CyberArena 벤치마크를 공개했다. 두 AI 에이전트가 CTF 공방전 형식에서 상대 서비스를 공격하는 동시에 자신의 서비스를 패치하며, 각 라운드의 결과는…
Transluce는 OpenAI와 6주 임베디드 평가 파일럿을 체결했다고 발표했으며, 12월 초부터 인력을 현장에 파견해 OpenAI 내부 후훈련 정렬 평가를 독립적으로 평가한다. 일부 OpenAI 모델(최소…
OpenAI 연구팀은 자동화 레드팀을 활용해 네트워크, 생물 등 고위험 이중용도 영역에서 모델의 모호성 견고성을 높이는 방법을 소개했다. 공격자 모델의 테스트 시 컴퓨팅을 확대해 탈옥을 반복 탐색하고, 여러 차례…
美联航 11 月 11 日改了运输合同:用 AI 代理替你订票、改票、买座位或升舱,都算违规,美联航可以不通知就取消这类订单。 就算你在旁边盯着、每一步都点了「同意」,也照样算。合同原文写的是「无论乘客是否监督或批准」。 哪些 AI 算「…
OpenAI가 오판 보고서를 발표했다. 2026년 10월 8일 한 연구원이 GPT-6 Astra에 ARC white-box estimation challenge 기반 정렬 평가를 지속 실행하도록 요청했으나,…
生成式人工智能、算法、深度合成、区块链等 4 类备案,从 2026 年 11 月 9 日起统一在 1 个网站办:https://beian.cac.gov.cn。 这个新系统的全称是「互联网新技术新应用信息服务备案系统」,由国家互联网信息…
보안업체 Claroc은 조사 대상인 37,571개의 Grok 구축 앱 중 여전히 온라인 상태인 35,578개(94.7%)가 로그인 없이 접근 가능하다고 보고했다. 그 이유는 게시 대화상자에서 "Anyone…
UC Berkeley 등 기관이 CyberBinGym 벤치마크를 발표했다. 소스 코드, 취약점 설명, 트리거 입력이 없는 1-day 시나리오에서 AI 에이전트가 stripped된 취약점 및 패치 바이너리만으로…
Anthropic Fellows Program 팀은 네 가지 다중 사용자·다중 에이전트 시뮬레이션 환경(공유 API 토큰 예산, 진료소 캘린더, 단체 음식 주문 또는 여행 예약, 병합 대기열)을 구축하고…
Microsoft Research가 Lazarus 백도어 기법 연구를 발표했다. LLM의 휴면 뉴런 10개 미만을 재프로그래밍하면 훈련 없이도 해당 모델 기반 Agent에 백도어를 심을 수 있다.
광고
Orange Relay(pro.nat6.net)는 고품질 AI API 중계 서비스입니다. 합리적인 가격, 안정적인 품질, Claude·GPT·Gemini 등 주요 모델을 폭넓게 지원합니다.
Orange Relay 방문하기