Opini & Komentar

Lubang hitam data di pusat AI

Judul asli:The data black hole at the center of AI

Ringkasan AI

Salah satu definisi kecerdasan adalah efisiensi sampel, tetapi kemajuan AI dalam beberapa tahun terakhir terutama didorong oleh perluasan distribusi data dan peningkatan daya komputasi. Reinforcement learning pada dasarnya adalah pembuatan data sintetis—menginvestasikan daya komputasi besar untuk menyaring data "baik" melalui verifier, lalu melatih model memprediksi keluaran yang benar. Proses ini membutuhkan contoh ahli manusia dalam jumlah besar untuk setiap bidang dan keterampilan, dan industri data telah mencapai pendapatan tahunan miliaran dolar. Baru-baru ini Epoch melaporkan bahwa model sumber terbuka hanya tertinggal 4 bulan dari model tertutup terdepan, karena data dapat didistilasi dari API publik, sedangkan hyperparameter dan sejenisnya sulit direplikasi. Manusia terpapar sekitar 200 juta token seumur hidup, sementara pelatihan model terdepan berada di antara puluhan hingga ratusan triliun token—selisih hampir sejuta kali; kesenjangan efisiensi serupa juga terjadi di bidang robotika dan mengemudi otonom.

Poin utama

  • Salah satu definisi kecerdasan adalah efisiensi sampel,tetapi kemajuan AI dalam beberapa tahun…
  • Reinforcement learning pada dasarnya adalah pembuatan data sintetis—menginvestasikan daya…
  • Proses ini membutuhkan contoh ahli manusia dalam jumlah besar untuk setiap bidang dan…
  • Baru-baru ini Epoch melaporkan bahwa model sumber terbuka hanya tertinggal 4 bulan dari model…
  • Manusia terpapar sekitar 200 juta token seumur hidup,sementara pelatihan model terdepan berada di…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Dwarkesh Patel:Podcast & Blog(RSS)
Kategori
Opini & Komentar
Skor AI
60
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Dwarkesh 把 AI 的‘笨’归因于数据效率远低于人类,计算虽简但直指要害,他给出的一个逆向洞察是开源模型四个月追上闭源,正是数据驱动进步的最好证据。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Lubang hitam data di pusat AI. 20 Juni 2026. https://new.nat6.net/id/news/cmql6vhtu01n0slluxpq3yvzh/

Lihat semua →