Meinung

Das Daten-Schwarze-Loch der KI-Zentren

Originaltitel:The data black hole at the center of AI

KI-Zusammenfassung

Eine Definition von Intelligenz ist die Stichprobeneffizienz, doch der jüngste KI-Fortschritt beruht hauptsächlich auf der Erweiterung der Datenverteilung und mehr Rechenleistung. Reinforcement Learning ist im Wesentlichen synthetische Datengenerierung – es wird viel Rechenleistung eingesetzt, um über Verifier „gute“ Daten zu filtern und dann Modelle zu trainieren, korrekte Ausgaben vorherzusagen. Dieser Prozess erfordert riesige Mengen menschlicher Expertenbeispiele für jeden Bereich und jede Fähigkeit; die Datenbranche erzielt bereits jährliche Einnahmen in Milliardenhöhe. Kürzlich berichtete Epoch, dass Open-Source-Modelle nur vier Monate hinter geschlossenen Frontier-Modellen zurückliegen, weil Daten über öffentliche APIs destilliert werden können, während Hyperparameter und Ähnliches schwer zu kopieren sind. Ein Mensch nimmt im Leben etwa 200 Millionen Token auf, während Frontier-Modelle mit Dutzenden bis Hunderten Billionen Token trainiert werden – ein Unterschied von fast einer Million Mal. Auch in Bereichen wie Robotik und autonomem Fahren besteht eine enorme Effizienzlücke.

Kernpunkte

  • Eine Definition von Intelligenz ist die Stichprobeneffizienz,doch der jüngste KI-Fortschritt…
  • Reinforcement Learning ist im Wesentlichen synthetische Datengenerierung – es wird viel…
  • Dieser Prozess erfordert riesige Mengen menschlicher Expertenbeispiele für jeden Bereich und jede…
  • die Datenbranche erzielt bereits jährliche Einnahmen in Milliardenhöhe.
  • Kürzlich berichtete Epoch,dass Open-Source-Modelle nur vier Monate hinter geschlossenen…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Dwarkesh Patel:Podcast & Blog(RSS)
Kategorie
Meinung
KI-Bewertung
60
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

Dwarkesh 把 AI 的‘笨’归因于数据效率远低于人类,计算虽简但直指要害,他给出的一个逆向洞察是开源模型四个月追上闭源,正是数据驱动进步的最好证据。

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Das Daten-Schwarze-Loch der KI-Zentren. 20. Juni 2026. https://new.nat6.net/de/news/cmql6vhtu01n0slluxpq3yvzh/

Alle ansehen →