Makalah & Riset

Xiaohongshu Rilis Arsitektur Baru Model Besar PIPO

Judul asli:小红书发布大模型新架构 PIPO ,让模型一次「吞两个、吐两个」

Ringkasan AI

Xiaohongshu mengusulkan arsitektur PIPO, yang melalui kompresor sisi input melipat dua token menjadi satu latent, dan MTP head sisi output mengembangkan status tersembunyi menjadi token tambahan, sehingga panjang input menjadi setengah dan keluaran per langkah menjadi dua kali lipat. Berbasis backbone Qwen3.5-4B/9B, arsitektur ini memberikan peningkatan hingga +7,15 pass@4 pada tolok ukur seperti AIME 2025. Dalam evaluasi penerapan, TTFT dipercepat sekitar 1,23× dan TPOT sekitar 1,86×. Pelatihan menggunakan dua tahap, SFT dan On-Policy Distillation, untuk mendistilasi kemampuan verifikasi verifier ke dalam confidence head yang ringan.

Poin utama

  • Xiaohongshu mengusulkan arsitektur PIPO,yang melalui kompresor sisi input melipat dua token…
  • Berbasis backbone Qwen3.
  • 5-4B/9B,arsitektur ini memberikan peningkatan hingga +7,15 pass@4 pada tolok ukur seperti AIME 2025.
  • Dalam evaluasi penerapan,TTFT dipercepat sekitar 1,23× dan TPOT sekitar 1,86×.
  • Pelatihan menggunakan dua tahap,SFT dan On-Policy Distillation,untuk mendistilasi kemampuan…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
公众号:小红书技术(dots.llm)
Kategori
Makalah & Riset
Skor AI
70
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

PIPO把输入压缩和输出多token预测统一起来,并且用蒸馏把验证成本前置,长推理的场景下这可能是下一代推理引擎的样子,做模型加速的应该认真看看。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Xiaohongshu Rilis Arsitektur Baru Model Besar PIPO. 10 Juli 2026. https://new.nat6.net/id/news/cmrerlfrs0046ihm87smc2el4/

Lihat semua →