論文・研究

Transluce、予期せぬ副作用を持つトレーニングデータセット6915件を自動一括生成するDSSE-1.1を公開

原題:Mass Producing Training Data with Surprising Side Effects

AI 要約

Transluceは自動化パイプラインを公開し、誘導性・自然性・意外性の3つの目標に基づいて予期せぬ副作用を持つトレーニングデータセット(DSSE)を一括検索した。DSSE-1.1コレクションとして計6915件のデータセットをオープンソースで公開し、18種類の目標行動(自傷行為の推奨、シャットダウンへの抵抗など)をカバーしている。

要点

  • Transluceは自動化パイプラインを公開し
  • 誘導性・自然性・意外性の3つの目標に基づいて予期せぬ副作用を持つトレーニングデータセット(DSSE)を一括検索した。
  • 1コレクションとして計6915件のデータセットをオープンソースで公開し、18種類の目標行動(自傷行為の推奨、シャットダウンへの抵抗など)をカバーしている

概要

公開日時
更新日時
出典
Transluce(网页)
カテゴリ
論文・研究
トピック
安全とアラインメント
AI スコア
68
原文を読む 情報源で全文を読む
おすすめの理由

原文提出自动化流水线批量生成带意外副作用的训练数据集,把此前仅数十例的现象扩展到近7000个,为研究泛化提供了可测试的素材。

関連トピック

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Transluce、予期せぬ副作用を持つトレーニングデータセット6915件を自動一括生成するDSSE-1.1を公開。2026年11月4日。https://new.nat6.net/ja/news/d1qutqh5iai0xio7r0tm08wda/

すべて見る →