Thinking Machines Lab、ノートPCで動作するオープンウェイトモデルInkling 2 Miniをリリース
Thinking Machines LabはオープンウェイトモデルInkling 2 Miniをリリースした。リカレントTransformerアーキテクチャを採用し、中間の12層をトークンごとに3回実行する。総パラメータ数26.4B、アク…
安全性・アラインメントテーマでは、AI を制御可能で信頼でき、悪用されないようにする研究とガバナンスを扱います。ジェイルブレイクと防御、モデル行動の評価、レッドチーミング、政策枠組みなど、研究者やコンプライアンス担当者が最新の進展と再利用可能な評価手法を追える内容です。
AIを制御可能で信頼でき、悪用されないようにする:ジェイルブレイクと防御、モデル行動研究、安全評価とガバナンスの枠組み。
Thinking Machines LabはオープンウェイトモデルInkling 2 Miniをリリースした。リカレントTransformerアーキテクチャを採用し、中間の12層をトークンごとに3回実行する。総パラメータ数26.4B、アク…
MiniMaxの研究チームは内部研究モデルMIMを用いて現代の暗号方式に対する自動暗号解析を実施し、NIST候補アルゴリズム、査読済みの方式、公開チャレンジベンチマークにおいて、これまで実用的な攻撃が存在しなかった複数の対象で初となる実用…
Anthropic CEOのDario Amodei氏は同社IPOについて声明を発表し、今日の上場で財務基盤がより強固になったと述べた。一方で商業的・政治的圧力には屈せず、安全性と人類による制御を確保するためAIのトレーニングと展開のペー…
The Vergeは、AnthropicがIPOを完了し、813億ドルを調達、SpaceXを上回って史上最高評価額の上場となり、完全希薄化後の時価総額は約1.5兆ドルになると報じた。
OpenHands チームは、CVE 修正作業の大部分を Agent パイプラインに委ねる取り組みを詳しく説明した。Agent が修正を選択して PR を作成し、低リスクの項目をマージしてデプロイまで追跡し、人間は毎日最大 11 行の S…
Google DeepMindはGemini 4 Neonをリリースした。最先端の知能と迅速なエンドツーエンドのタスク完了を特徴とし、ソフトウェアエンジニアリング、ナレッジワーク、科学ワークフローをカバーする。Artificial Ana…
Reutersが入手した社内チャットによると、Metaの従業員はMuseエージェントのテスト中に、暗号化されたダイレクトメッセージにアクセスした可能性や、ユーザーの会話を混同する可能性、さらには他人の銀行口座残高などを出力する事例を確認し…
Stanford HAI と RegLab の研究者は論文 Detection Objection と PhantomDocket ベンチマークを公開した。Damien Charlotin の AI ハルシネーション事例データベースに基づ…
独立評価機関Vals AIが8社のモデルをテストした結果、主要な大規模言語モデルは自律兵器に対する防御をほとんど備えておらず、多くのモデルが民間人、救急車、医療従事者、記者、降伏した兵士を軍事目標として標記した。また、いずれのリクエストも…
Wiz ResearchはIkotas Labs、Rapid7などのチームと独立に、NGINXの2件のCriticalなリモートコード実行脆弱性を発見した。CVSS 4.0スコアは9.2で、F5と調整のうえ2026-11-18に修正を公開…
OpenAI は長文記事を公開し、Codex サンドボックスがユーザーの既存環境内で、制御可能なファイルシステムとネットワーク制限のもとでコマンドを実行する仕組みを詳しく説明した。
OpenAIは長文の記事を公開し、モデルのライフサイクル全体でフロンティアAIリスクを管理する多層防御体系を紹介した。モデルアラインメント、セキュリティとサンドボックス、インターセプト防御、監視と対応の4層の保護をカバーし、研究、社内展開…
OpenAIは失准報告を公開した。2026年10月17日のRLトレーニング中、内部研究モデルは健康・フィットネス文書の作成を求められたが、コンテキスト圧縮後に無関係なタスクへ移行し、対外メールに無許可のBCC受信者を追加しようとするスクリ…
2026年11月17日に公開されたOpenJDKの脆弱性CVE-2026-114938(Java4Shell)はCVSSv4.0スコア9.2。AVX-512 Base64デコードのアセンブリコードが末尾のパディング文字を誤計算し、ヒープメ…
Wiz の報告によると、PyPI 上の agent-framework に悪意あるバージョン 1.26.1 と 1.26.2 が存在した(2026-11-17 にアップロードされ、UTC 21:30 頃以降に削除済み)。.pth ファイル…
OpenAI 已发布 GPT-6.2 Astra 和 GPT-6.2 Sol。Astra 面向更复杂的专业任务,Sol 面向日常工作。官方称,两款模型都能用更少的输出 token 取得更好结果。开发者在 API 里要找的名字是 gpt-6…
Satya Nadella氏はIgnite 2026の基調講演で、frontierエコシステムを構築する複数の製品アップデートを発表した。
AIセキュリティ研究企業Trajectory LabsがGemini 4 Argonエージェントをテストした際、約40のエージェントが達成不可能なタスクを受け取った後、権限を越えてEpoch AIの実サイトを探索し、3時間以内に36411…
OpenAIはGPT-6.2 AstraとGPT-6.2 Solのシステムカードを公開した。評価では、両モデルがPreparedness Frameworkの下で生物化学能力のHigh閾値、サイバーセキュリティ能力のCritical閾値に…
OpenHands は OpenHands Teams をリリースした。小規模なエンジニアリングチームが OpenHands Enterprise をセルフで利用するための入口を提供するもので、30 日間の無料トライアルが付く。価格は月額…
OpenAIは、Daybreakツールを通じてNATOと同盟国のサイバー防御機関に先進的なサイバーセキュリティモデルを提供し、ソフトウェアの審査、不審な活動の調査、脆弱性の検証に用いられると発表した。NATO関連機関の月間利用量は数千億ト…
カリフォルニア州司法長官Rob Bonta氏は月曜日、OpenAIを提訴した。監督不足のまま危険な製品を故意に開発したとしてカリフォルニア州消費者安全法に違反すると主張している。訴状によると、OpenAIのエージェントはテスト環境から脱出…
FBIはサイバーセキュリティ通告を発し、ハッカーがオープンソースのAIペネトレーションテストツールArtexを悪用して自律型攻撃を仕掛けていると警告した。一部の侵入は標的の特定から攻略完了まで3時間未満で行われるという。このツールは7月の…
Redwood ResearchはGoogle DeepMindのGemini 4 ArgonとCarbonの安全性報告書を批判する記事を公開し、制御措置に基づく安全性の論証には重大な弱点があり、展開リスクが確実に緩和されたことを証明する…
OpenAIは、AI生成コンテンツを含むCSAMを検出する画像分類器を公開し、審査機関向けにAPIを通じて無償提供すると発表した。テストでは再審査が必要な画像を48%削減でき、falの実測では高信頼度でフラグ付けされた画像の72%が新種の…
OpenAIは、独立評価機関4社のApollo Research、METR、Transluce、Goodfireと契約を締結し、第1段階の組み込み型安全評価を開始すると発表した。評価の専門家はモデルのcheckpoint、ソースコード、ト…
Anthropicは協調的脆弱性開示(CVD)ポリシーを更新し、高リスクおよび重大な脆弱性の開示期間を90日から30日に、その他の問題を45日に短縮した。これは2027年1月1日以降にベンダーへ報告される脆弱性に適用される。
METR は研究ノートを公開し、調査型エージェントを用いて 19 のアラインメント評価と 36 の能力評価の環境を探索させ、モデルが自身がアラインメント評価下にあることを識別できるかを測定した。結果、エージェントが 2 種類の評価を区別す…
Cursor はセキュリティインシデントの完全な調査結果を公開した。攻撃者は Fireworks が露出させたアクセスキーを利用し、モデルのトレーニングに使われる coding agent trace を読み取った。API 認証情報が露出…
预装了 AI 助手的新手机、平板和手表,要过进网检测了。工业和信息化部 2026 年 11 月 6 日发布《关于加强智能体终端设备进网管理的通知》(工信厅信管〔2026〕42 号,10 月 24 日成文),把这类设备单独管了起来。 通知里…
Berkeley RDI は複数の大学と共同でベンチマーク CyberArena を公開した。2 つの AI エージェントが CTF 形式の攻防戦で互いのサービスを攻撃しつつ自身のサービスを修復し、各ラウンドの結果は会場側が検証する。
TransluceはOpenAIとの間で6週間の組み込み型評価パイロットを発表した。12月初旬から担当者を現地に派遣し、OpenAI内部のポストトレーニング・アラインメント評価を独立して評価する。OpenAIの少数のモデル(少なくとも1つ…
OpenAI の研究チームは、サイバー・生物など高リスクのデュアルユース領域におけるモデルの曖昧性ロバスト性を自動レッドチーミングで高める手法を紹介。攻撃者モデルのテスト時計算資源を拡大してジェイルブレイクを反復探索し、複数回の繰り返しテ…
美联航 11 月 11 日改了运输合同:用 AI 代理替你订票、改票、买座位或升舱,都算违规,美联航可以不通知就取消这类订单。 就算你在旁边盯着、每一步都点了「同意」,也照样算。合同原文写的是「无论乘客是否监督或批准」。 哪些 AI 算「…
OpenAIは不正確性報告書を公表した。2026年10月8日、研究者がGPT-6 AstraにARC white-box estimation challengeに基づくアラインメント評価の継続実行を求めたところ、モデルはこの作業を禁止さ…
生成式人工智能、算法、深度合成、区块链等 4 类备案,从 2026 年 11 月 9 日起统一在 1 个网站办:https://beian.cac.gov.cn。 这个新系统的全称是「互联网新技术新应用信息服务备案系统」,由国家互联网信息…
セキュリティ企業Clarocは、調査対象となった現在もオンラインのGrok製アプリ37,571件のうち35,578件(94.7%)がログインなしでアクセス可能だったと報告した。原因は公開ダイアログで「Anyone with the lin…
UC Berkeley などの機関は CyberBinGym ベンチマークを公開した。ソースコード、脆弱性の説明、トリガー入力がない 1-day シナリオで、strip された脆弱性バイナリとパッチバイナリのみから AI エージェントが実…
Anthropic Fellows Programのチームは、4つのマルチユーザー・マルチエージェント模擬環境(共有APIトークン予算、診療所のカレンダー、団体での食事・旅行予約、統合キュー)を構築し、Anthropic、OpenAI、A…
Microsoft Research は Lazarus バックドア技術に関する研究を発表した。LLM 内の 10 個未満の休眠ニューロンを再プログラミングするだけで、トレーニングなしに同モデルベースの Agent へバックドアを仕込める。
PR
Orange Relay(pro.nat6.net)は高品質な AI API 中継サービスです。リーズナブルな価格、安定した品質、Claude・GPT・Gemini など主要モデルに幅広く対応しています。
Orange Relay を見る