OpenAI、教師なし事前学習に基づく言語理解モデルを発表し SOTA を達成
原題:Improving language understanding with unsupervised learning
AI 要約
OpenAI は Transformer と教師なし事前学習を組み合わせた汎用かつタスク非依存のシステムで、複数の言語タスクにおいて SOTA を達成し、同システムをオープンソースで公開した。OpenAI はこの結果が教師あり学習と教師なし事前学習の組み合わせの有効性を裏付けるものであり、より大規模で多様なデータセットでの後続研究を促進したいと述べている。
要点
- OpenAI は Transformer と教師なし事前学習を組み合わせた汎用かつタスク非依存のシステムで
- 複数の言語タスクにおいて SOTA を達成し、同システムをオープンソースで公開した。
- OpenAI はこの結果が教師あり学習と教師なし事前学習の組み合わせの有効性を裏付けるものであり、より大規模で多様なデータセットでの後続研究を促進したいと述べている
概要
- 公開日時
- 更新日時
- カテゴリ
- モデル公開
- AI スコア
- 75
おすすめの理由
原文说明了方法组合与开放发布,读者可以据此理解无监督预训练思路在多项语言任务上的效果。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:OpenAI、教師なし事前学習に基づく言語理解モデルを発表し SOTA を達成。2018年6月11日。https://new.nat6.net/ja/news/kqw3u0zsdrdahfl69kk21gyhw/