Xiaohongshu Rilis Arsitektur Baru Model Besar PIPO
Judul asli:小红书发布大模型新架构 PIPO ,让模型一次「吞两个、吐两个」
Ringkasan AI
Xiaohongshu mengusulkan arsitektur PIPO, yang melalui kompresor sisi input melipat dua token menjadi satu latent, dan MTP head sisi output mengembangkan status tersembunyi menjadi token tambahan, sehingga panjang input menjadi setengah dan keluaran per langkah menjadi dua kali lipat. Berbasis backbone Qwen3.5-4B/9B, arsitektur ini memberikan peningkatan hingga +7,15 pass@4 pada tolok ukur seperti AIME 2025. Dalam evaluasi penerapan, TTFT dipercepat sekitar 1,23× dan TPOT sekitar 1,86×. Pelatihan menggunakan dua tahap, SFT dan On-Policy Distillation, untuk mendistilasi kemampuan verifikasi verifier ke dalam confidence head yang ringan.
Poin utama
- Xiaohongshu mengusulkan arsitektur PIPO,yang melalui kompresor sisi input melipat dua token…
- Berbasis backbone Qwen3.
- 5-4B/9B,arsitektur ini memberikan peningkatan hingga +7,15 pass@4 pada tolok ukur seperti AIME 2025.
- Dalam evaluasi penerapan,TTFT dipercepat sekitar 1,23× dan TPOT sekitar 1,86×.
- Pelatihan menggunakan dua tahap,SFT dan On-Policy Distillation,untuk mendistilasi kemampuan…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- 公众号:小红书技术(dots.llm)
- Kategori
- Makalah & Riset
- Skor AI
- 70
PIPO把输入压缩和输出多token预测统一起来,并且用蒸馏把验证成本前置,长推理的场景下这可能是下一代推理引擎的样子,做模型加速的应该认真看看。
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Xiaohongshu Rilis Arsitektur Baru Model Besar PIPO. 10 Juli 2026. https://new.nat6.net/id/news/cmrerlfrs0046ihm87smc2el4/