Productos y aplicaciones

Perplexity abre el tokenizador Unigram para reducir el uso de CPU

Título original:We're open-sourcing the Unigram tokenizer we rebuilt to reduce CPU utilization by 5-6x. Small reran...

Resumen de IA

Hemos publicado como código abierto el tokenizador Unigram reconstruido, que puede reducir el uso de CPU entre 5 y 6 veces. Los pequeños rerankers y modelos de embeddings se ejecutan en GPU en solo unos pocos milisegundos, lo que convierte la tokenización en CPU en una parte importante de la latencia total. http://github.com/perplexityai/pplx-garden

Puntos clave

  • Hemos publicado como código abierto el tokenizador Unigram reconstruido,que puede reducir el uso…
  • Los pequeños rerankers y modelos de embeddings se ejecutan en GPU en solo unos pocos milisegundos
  • lo que convierte la tokenización en CPU en una parte importante de la latencia total.

Resumen rápido

Publicado
Actualizado
Fuente
X:Perplexity (@perplexity_ai)
Categoría
Productos y aplicaciones
Puntuación IA
68
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Perplexity 开源的这个 tokenizer 能把 CPU 利用率砍掉五六倍,做实时推理的团队值得立马试试,对延迟敏感的场景是实打实的优化。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Perplexity abre el tokenizador Unigram para reducir el uso de CPU. 27. mayo 2026. https://new.nat6.net/es/news/cmpo929df03ztslv4z9v93608/

Ver todo →