Cartesia publica un estudio de leyes de escala de H-Net: las redes jerárquicas a nivel de byte mejoran la eficiencia computacional hasta 3-5x frente a BPE
Título original:From Tokens to Bytes I: Scaling Hierarchical Networks
Resumen de IA
Cartesia publica la primera entrega de una serie de blogs con los resultados de leyes de escala de su red jerárquica (H-Net) en modelado de lenguaje a nivel de byte: frente a un Transformer BPE estrictamente emparejado, H-Net de 1 etapa ahorra 1,28x de cómputo en pérdida de validación, alrededor de 2x en evaluaciones posteriores, una mediana de 2,04x en tareas de código y una mediana de hasta 3,10x en lenguajes de programación fuera de distribución (por ejemplo, 5,37x en Prolog).
Puntos clave
- Cartesia publica la primera entrega de una serie de blogs con los resultados de leyes de escala de…
- H-Net de 1 etapa ahorra 1
- 28x de cómputo en pérdida de validación,alrededor de 2x en evaluaciones posteriores,una mediana de…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- Cartesia 产品与研究
- Categoría
- Artículos e investigación
- Puntuación IA
- 60
Cartesia 原创研究给出 H-Net 替代 BPE 分词的对照实验与 3-5x 计算效率数据,可了解字节级学习的实际进展。
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Cartesia publica un estudio de leyes de escala de H-Net: las redes jerárquicas a nivel de byte mejoran la eficiencia computacional hasta 3-5x frente a BPE. 27. octubre 2026. https://new.nat6.net/es/news/ctuk7r4h4qbyyligi680s7gtr/