Tutoriales y consejos

Claude 3.5 Sonnet establece un nuevo récord en la prueba de referencia SWE-bench Verified

Título original:Raising the bar on SWE-bench Verified with Claude 3.5 Sonnet

Resumen de IA

La versión mejorada de Claude 3.5 Sonnet alcanzó una tasa de resolución del 49% en SWE-bench Verified, una prueba de referencia para la evaluación de ingeniería de software, superando el 45% del mejor modelo anterior. La prueba evalúa la capacidad de los modelos de IA para completar tareas de ingeniería de software mediante problemas reales de GitHub, y exige que el modelo comprenda, modifique y pruebe código en un entorno dado, con validación final mediante las pruebas unitarias originales. El diseño del agente creado por el equipo de Claude es sencillo: solo incluye prompts, una herramienta Bash y una herramienta de edición, y otorga al modelo suficiente espacio para decidir de forma autónoma y resolver problemas con pasos flexibles. Actualmente ningún modelo supera el 50% de tasa de resolución en esta prueba.

Puntos clave

  • La versión mejorada de Claude 3.
  • 5 Sonnet alcanzó una tasa de resolución del 49% en SWE-bench Verified,una prueba de referencia…
  • La prueba evalúa la capacidad de los modelos de IA para completar tareas de ingeniería de software…
  • El diseño del agente creado por el equipo de Claude es sencillo: solo incluye prompts,una…
  • Actualmente ningún modelo supera el 50% de tasa de resolución en esta prueba.

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Engineering(事故复盘 + 工程实践 · 网页)
Categoría
Tutoriales y consejos
Puntuación IA
72
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Anthropic 把自家 SWE-bench agent 的 prompt、工具设计和踩坑经验全公开了,做 coding agent 的人可以直接抄作业,比看十篇二手解读都管用。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Claude 3.5 Sonnet establece un nuevo récord en la prueba de referencia SWE-bench Verified. 6. enero 2025. https://new.nat6.net/es/news/cmorb7ml1008rslhfl2itv1d3/

Ver todo →