Makalah & Riset

Penelitian Anthropic: mengubah keyakinan LLM dengan penyempurnaan dokumen sintetis (SDF)

Judul asli:Modifying LLM Beliefs with Synthetic Document Finetuning

Ringkasan AI

Tim Anthropic mengusulkan pipeline penyempurnaan dokumen sintetis (SDF), yang menggunakan LLM untuk menghasilkan dokumen sintetis yang mengutip proposisi target dan melakukan SFT pada model; eksperimen menunjukkan keyakinan dapat disisipkan dengan sukses kecuali untuk fakta keliru yang paling absurd, mencakup Haiku 3.5, Llama 3.3 70B Instruct, R1 Distill 70B, dan seri OpenAI GPT.

Poin utama

  • Tim Anthropic mengusulkan pipeline penyempurnaan dokumen sintetis (SDF),yang menggunakan LLM untuk…
  • eksperimen menunjukkan keyakinan dapat disisipkan dengan sukses kecuali untuk fakta keliru yang…
  • 5,Llama 3.
  • 3 70B Instruct,R1 Distill 70B,dan seri OpenAI GPT.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Alignment Science Blog(网页)
Kategori
Makalah & Riset
Skor AI
61
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Penelitian Anthropic: mengubah keyakinan LLM dengan penyempurnaan dokumen sintetis (SDF). 24 April 2025. https://new.nat6.net/id/news/idfcvv9q37icuvuc96gi8br95/

Lihat semua →