Mga Opinyon at Komentaryo

Lokal na model ang humahawak sa kalahati ng pang-araw-araw na gawain, mas mabilis ang response kaysa cloud

Orihinal na pamagat:Localmaxxing

AI summary

Natuklasan ng limang linggong eksperimento na sa kabuuang humigit-kumulang 1,400 pang-araw-araw na gawain, mga 50% ay kayang hawakan ng lokal na 35B parameter model (tulad ng Qwen 3.6 35B), na sumasaklaw sa email, schedule, summary, at administrative tasks. Ipinakita ng performance comparison na ang average response time ng lokal na model sa regular agent tasks ay 2.8 segundo, 2.1 beses na mas mabilis kaysa sa cloud Claude Opus 4.5, bagama't nangunguna pa rin ang huli ng mga 20% sa complex reasoning. Mas concise ang output ng lokal na model, habang mas mahusay ang cloud model sa structure at code standardization. Sa pagbuti ng performance ng lokal na model, ang paglipat ng compute load sa lokal upang harapin ang cloud cost ay naging inevitable trend.

Mahahalagang impormasyon

  • Natuklasan ng limang linggong eksperimento na sa kabuuang humigit-kumulang 1,400 pang-araw-araw na…
  • 6 35B),na sumasaklaw sa email,schedule,summary,at administrative tasks.
  • Ipinakita ng performance comparison na ang average response time ng lokal na model sa regular…
  • 8 segundo,2.
  • 1 beses na mas mabilis kaysa sa cloud Claude Opus 4.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Tomasz Tunguz 博客(VC 分析)
Kategorya
Mga Opinyon at Komentaryo
AI na marka
67
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Tunguz用数据告诉你,本地35B模型延迟只有Opus的一半且能完成半数任务,对极致追求响应速度的产品思路冲击很大,本地优先可能会从边缘变成主流。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Lokal na model ang humahawak sa kalahati ng pang-araw-araw na gawain, mas mabilis ang response kaysa cloud. 11 Mayo 2026. https://new.nat6.net/fil/news/cmp1l3yq300ghsl8b7ydcjq7y/

Tingnan lahat →