新論文:iREPA拡散モデルはその基盤表現のレンダラーである。この新しい設定により、これらの表現の真の意味についてより明確な洞察が得られる
原題:new paper: iREPA diffusion models are a renderer of their underlying representations. with this new...
AI 要約
新論文:iREPA拡散モデルはその基盤表現のレンダラーである。この新しい設定により、これらの表現の真の意味についてより明確な洞察が得られる。Jasが自発的な探求を始め、過去3か月で多くを学んだ。ps. これは新しいタイプのオンライン「ウォータークーラー効果」に関する我々の小さな実験でもあり、この現象を見るのがとても好きだ。議論し、話し合い、そして真の努力でそれをまともな科学に変えよう。[引用 @1jaskiratsingh]:‼️ 表現は生成にとって重要だ!しかし、表現が生成をどのように助けるかについての我々の理解は常に間違っていたことが判明した ‼️ 我々の以前の考え:(間違っていた) ❌ より大きな視覚エンコーダ → より良い表現 → より良い生成 ❌ より良いグローバル意味 → より良い表現 → より良い生成 判明したこと: 🤯 表現アラインメントにおいて、20倍以上小さい視覚エンコーダがより大きなモデルと同程度またはそれ以上の性能を達成できる 🤯 線形プローブ精度約20%(グローバル意味の指標)の視覚エンコーダが精度>80%のエンコーダを上回ることができる 🤯 SiFTやHoGのような古典的特徴でさえ、現代のはるかに大きな視覚エンコーダに匹敵する改善をもたらす ‼️ 🚨 紹介:表現アラインメントに何が重要か?グローバル情報か空間構造か 🚨 TL;DR: ✅ より良いグローバル意味情報 ≠ より良い生成 ✅ 空間構造(グローバル意味ではなく)が表現の生成性能を駆動する ✅ 我々はiREPAを提案:わずか3行のコードで空間構造の転移を強調し、REPA、REPA-E、Meanflow、JiTなどの手法で収束速度を継続的に向上させる @AdobeResearchでの刺激的なプロジェクトで、@xingjian_leng、@zongze_wu、@LiangZheng_06、@rzhang88、@elishechtman、@sainingxieと協力 🙏 私にとってこれは特に楽しくユニークな経験でもあり、プロジェクトの各ステップで我々自身の偏見が間違っていることを証明した 😆 @YouJiacheng、@ShumingHu、@gallabytesにも大いに感謝。彼らのXでのコメントがこの方向の探求を始めるきっかけとなった 🫡 論文:https://arxiv.org/abs/2512.10794 コード:https://github.com/End2End-Diffusion/iREPA プロジェクトページ:https://end2end-diffusion.github.io/irepa 詳細はスレッドで:[1/n] 🧵
要点
- 新論文:iREPA拡散モデルはその基盤表現のレンダラーである。
- この新しい設定により、これらの表現の真の意味についてより明確な洞察が得られる。
- Jasが自発的な探求を始め、過去3か月で多くを学んだ。
- これは新しいタイプのオンライン「ウォータークーラー効果」に関する我々の小さな実験でもあり、この現象を見るのがとても好きだ。
- 議論し、話し合い、そして真の努力でそれをまともな科学に変えよう。
概要
- 公開日時
- 更新日時
- カテゴリ
- その他
颠覆认知:小20倍视觉编码器也能驱动高质量生成,空间结构才是关键
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:新論文:iREPA拡散モデルはその基盤表現のレンダラーである。この新しい設定により、これらの表現の真の意味についてより明確な洞察が得られる。2025年12月16日。https://new.nat6.net/ja/news/cmnz6dpf402amsl0fxz3kh21f/