Xiaohongshu lancar seni bina model bahasa besar baharu PIPO
Tajuk asal:小红书发布大模型新架构 PIPO ,让模型一次「吞两个、吐两个」
Ringkasan AI
Xiaohongshu mencadangkan seni bina PIPO, yang melalui pemampat sisi input melipat dua token menjadi satu laten, manakala kepala MTP sisi output mengembangkan keadaan tersembunyi menjadi token tambahan, menjadikan panjang input separuh dan output setiap langkah berganda. Berdasarkan tulang belakang Qwen3.5-4B/9B, ia memberikan peningkatan sehingga +7.15 pass@4 pada penanda aras seperti AIME 2025. Dalam penilaian penggunaan, TTFT dipercepat kira-kira 1.23× dan TPOT kira-kira 1.86×. Latihan menggunakan dua peringkat iaitu SFT dan On-Policy Distillation, menyuling keupayaan pengesahan verifier ke dalam kepala keyakinan ringan.
Maklumat penting
- Xiaohongshu mencadangkan seni bina PIPO,yang melalui pemampat sisi input melipat dua token menjadi…
- Berdasarkan tulang belakang Qwen3.
- 5-4B/9B,ia memberikan peningkatan sehingga +7.
- 15 pass@4 pada penanda aras seperti AIME 2025.
- Dalam penilaian penggunaan,TTFT dipercepat kira-kira 1.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- 公众号:小红书技术(dots.llm)
- Kategori
- Kertas penyelidikan
- Skor AI
- 70
PIPO把输入压缩和输出多token预测统一起来,并且用蒸馏把验证成本前置,长推理的场景下这可能是下一代推理引擎的样子,做模型加速的应该认真看看。
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Xiaohongshu lancar seni bina model bahasa besar baharu PIPO. 10 Julai 2026. https://new.nat6.net/ms/news/cmrerlfrs0046ihm87smc2el4/