Artículos e investigación

Cartesia publica un estudio de leyes de escala de H-Net: las redes jerárquicas a nivel de byte mejoran la eficiencia computacional hasta 3-5x frente a BPE

Título original:From Tokens to Bytes I: Scaling Hierarchical Networks

Resumen de IA

Cartesia publica la primera entrega de una serie de blogs con los resultados de leyes de escala de su red jerárquica (H-Net) en modelado de lenguaje a nivel de byte: frente a un Transformer BPE estrictamente emparejado, H-Net de 1 etapa ahorra 1,28x de cómputo en pérdida de validación, alrededor de 2x en evaluaciones posteriores, una mediana de 2,04x en tareas de código y una mediana de hasta 3,10x en lenguajes de programación fuera de distribución (por ejemplo, 5,37x en Prolog).

Puntos clave

  • Cartesia publica la primera entrega de una serie de blogs con los resultados de leyes de escala de…
  • H-Net de 1 etapa ahorra 1
  • 28x de cómputo en pérdida de validación,alrededor de 2x en evaluaciones posteriores,una mediana de…

Resumen rápido

Publicado
Actualizado
Fuente
Cartesia 产品与研究
Categoría
Artículos e investigación
Puntuación IA
60
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Cartesia 原创研究给出 H-Net 替代 BPE 分词的对照实验与 3-5x 计算效率数据,可了解字节级学习的实际进展。

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Cartesia publica un estudio de leyes de escala de H-Net: las redes jerárquicas a nivel de byte mejoran la eficiencia computacional hasta 3-5x frente a BPE. 27. octubre 2026. https://new.nat6.net/es/news/ctuk7r4h4qbyyligi680s7gtr/

Ver todo →