Mga Opinyon at Komentaryo

Kaya na ng lokal na AI model ang 89% ng pang-araw-araw na query, patungo sa personalisasyon ang data center

Orihinal na pamagat:Mainframes became personal. So will your data center.

AI summary

Ipinapakita ng pananaliksik ng Stanford University at Together AI na sa mahigit isang milyong totoong query, ang kalidad ng sagot ng lokal na AI model sa 89% ng pang-araw-araw na chat at reasoning na tanong ay hindi na pahuhuli sa cloud frontier model. Tumaas ang win/tie rate ng lokal na modelo laban sa frontier model mula 23.2% noong 2023 tungo sa 71.3% noong 2025, at tumaas ng 5.3× ang intelligence per watt sa parehong panahon. Kumpara sa all-cloud na solusyon, ang kombinasyon ng lokal na modelo at router ay makakababa ng 80% na enerhiya, 77% na compute at 74% na gastos, ngunit nananatiling may kalamangan ang cloud sa multi-step reasoning at mahihirap na larangan.

Mahahalagang impormasyon

  • Ipinapakita ng pananaliksik ng Stanford University at Together AI na sa mahigit isang milyong…
  • Tumaas ang win/tie rate ng lokal na modelo laban sa frontier model mula 23.
  • 2% noong 2023 tungo sa 71.
  • 3% noong 2025,at tumaas ng 5.
  • 3× ang intelligence per watt sa parehong panahon.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Tomasz Tunguz 博客(VC 分析)
Kategorya
Mga Opinyon at Komentaryo
AI na marka
64
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

作者借 Koomey 定律类比,把本地模型与云端效率数据放进历史框架,帮助读者理解端侧 AI 的演进节奏。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Kaya na ng lokal na AI model ang 89% ng pang-araw-araw na query, patungo sa personalisasyon ang data center. 21 Agosto 2026. https://new.nat6.net/fil/news/cmtggvk4n0cgxroj7axiz5gik/

Tingnan lahat →