KPopの新手法によりRing-2.6-1TがSWE-bench Verifiedで76点を突破
原題:From IcePop to KPop — our team keeps pushing on RL training stability for large MoE models. 👇 KPop...
AI 要約
チームは、大規模MoEモデルのエージェント強化学習トレーニングを安定させるKPopを発表した。これは、以前のIcePop手法における固定比率マスクを、二元KLダイバージェンスに基づく適応型マスク機構に置き換え、トレーニング過程におけるトレーニングと推論の不一致の程度に応じて動的に調整できる。この改善により、Ring-2.6-1Tモデルはインフラの変更やルーティングの再生なしに、純粋なRLトレーニングのみでSWE-bench Verifiedにおいて76点を超える成績を達成した。
要点
- チームは、大規模MoEモデルのエージェント強化学習トレーニングを安定させるKPopを発表した。
- これは、以前のIcePop手法における固定比率マスクを、二元KLダイバージェンスに基づく適応型マスク機構に置き換え、トレーニング過程におけるトレーニングと推論の不一致の程度に応じて動的に調整できる。
- この改善により、Ring-2.
- 6-1Tモデルはインフラの変更やルーティングの再生なしに、純粋なRLトレーニングのみでSWE-bench Verifiedにおいて76点を超える成績を達成した
概要
- 公開日時
- 更新日時
- カテゴリ
- 論文・研究
- AI スコア
- 68
おすすめの理由
蚂蚁团队把 IcePop 升级成 KPop,从固定掩码变成自适应 KL 区域,思路很巧。Ring-2.6-1T 纯 RL 直接冲到 SWE-bench 76+,做 agentic RL 训练的同学值得翻一下博客。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:KPopの新手法によりRing-2.6-1TがSWE-bench Verifiedで76点を突破。2026年5月26日。https://new.nat6.net/ja/news/cmpmsjd610rghsl01l5zfielj/