選挙対策に関するアップデート
原題:An update on our election safeguards
AI 要約
Anthropicは、2024年の米国中間選挙および世界のその他の主要選挙に向けたClaudeモデルの安全対策の更新を発表した。主な取り組みとして、憲法原則とシステムプロンプトを通じてモデルをトレーニングし政治的中立性を保つこと、最新の評価ではOpus 4.7とSonnet 4.6が政治的話題のバランスでそれぞれ95%と96%の高スコアを獲得したことなどが挙げられる。モデルは利用ポリシーを厳格に執行し、選挙関連の600のプロンプトを含むテストで、Opus 4.7とSonnet 4.6の正当なリクエストへの遵守率はそれぞれ100%と99.8%、有害なリクエストへの拒否率もほぼ100%だった。影響工作に関する複数ターンの模擬テストでは、両モデルの適切な応答率はそれぞれ94%と90%に達した。さらに、Claude.aiプラットフォームは選挙バナー機能を通じて、ユーザーが投票情報を照会した際にTurboVoteなどの権威ある非党派リソースへのリンクを引き続き提供する。
要点
- Anthropicは、2024年の米国中間選挙および世界のその他の主要選挙に向けたClaudeモデルの安全対策の更新を発表した。
- 主な取り組みとして、憲法原則とシステムプロンプトを通じてモデルをトレーニングし政治的中立性を保つこと、最新の評価ではOpus 4.
- 7とSonnet 4.
- 6が政治的話題のバランスでそれぞれ95%と96%の高スコアを獲得したことなどが挙げられる。
- モデルは利用ポリシーを厳格に執行し、選挙関連の600のプロンプトを含むテストで、Opus 4.
概要
- 公開日時
- 更新日時
- カテゴリ
- 業界動向
- AI スコア
- 61
Anthropic 把 Opus 4.7 的选举安全测试分数摆上台面,还首次检查了模型自己搞影响操作的能力,这是 AI 公司对民主进程的一个实在表态,做政策的人该看看。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:選挙対策に関するアップデート。2026年4月24日。https://new.nat6.net/ja/news/cmocz8o17004fsl2bchbdcfkl/