Ang data black hole ng AI center
Orihinal na pamagat:The data black hole at the center of AI
AI summary
Ang isang depinisyon ng intelligence ay sample efficiency, ngunit ang pag-unlad ng AI sa mga nakaraang taon ay pangunahing nakasalalay sa pagpapalawak ng data distribution at pagdaragdag ng compute. Ang reinforcement learning ay sa esensya synthetic data generation—malaking compute ang inilalagay upang i-filter ang "magandang" data sa pamamagitan ng verifier, at pagkatapos ay sinasanay ang modelo na hulaan ang tamang output. Nangangailangan ang prosesong ito ng napakaraming human expert example sa bawat larangan at kasanayan, at ang data industry ay umabot na sa bilyon-bilyong dolyar na taunang kita. Kamakailan, iniulat ng Epoch na ang open source model ay nahuhuli lamang ng 4 na buwan sa frontier closed model, dahil ang data ay maaaring i-distill mula sa public API, habang ang hyperparameter at iba pa ay mahirap kopyahin. Sa buong buhay ng tao, mga 200 milyong token ang nae-encounter, habang ang frontier model training ay nasa pagitan ng dose-dosenang hanggang daan-daang T token, halos isang milyong beses ang agwat—may malaking efficiency gap din sa robotics, autonomous driving at iba pang larangan.
Mahahalagang impormasyon
- Ang isang depinisyon ng intelligence ay sample efficiency,ngunit ang pag-unlad ng AI sa mga…
- Ang reinforcement learning ay sa esensya synthetic data generation—malaking compute ang inilalagay…
- Nangangailangan ang prosesong ito ng napakaraming human expert example sa bawat larangan at…
- Kamakailan,iniulat ng Epoch na ang open source model ay nahuhuli lamang ng 4 na buwan sa frontier…
- Sa buong buhay ng tao,mga 200 milyong token ang nae-encounter,habang ang frontier model training…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Dwarkesh Patel:Podcast & Blog(RSS)
- Kategorya
- Mga Opinyon at Komentaryo
- AI na marka
- 60
Dwarkesh 把 AI 的‘笨’归因于数据效率远低于人类,计算虽简但直指要害,他给出的一个逆向洞察是开源模型四个月追上闭源,正是数据驱动进步的最好证据。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Ang data black hole ng AI center. 20 Hunyo 2026. https://new.nat6.net/fil/news/cmql6vhtu01n0slluxpq3yvzh/