Penelitian Anthropic: mengubah keyakinan LLM dengan penyempurnaan dokumen sintetis (SDF)
Judul asli:Modifying LLM Beliefs with Synthetic Document Finetuning
Ringkasan AI
Tim Anthropic mengusulkan pipeline penyempurnaan dokumen sintetis (SDF), yang menggunakan LLM untuk menghasilkan dokumen sintetis yang mengutip proposisi target dan melakukan SFT pada model; eksperimen menunjukkan keyakinan dapat disisipkan dengan sukses kecuali untuk fakta keliru yang paling absurd, mencakup Haiku 3.5, Llama 3.3 70B Instruct, R1 Distill 70B, dan seri OpenAI GPT.
Poin utama
- Tim Anthropic mengusulkan pipeline penyempurnaan dokumen sintetis (SDF),yang menggunakan LLM untuk…
- eksperimen menunjukkan keyakinan dapat disisipkan dengan sukses kecuali untuk fakta keliru yang…
- 5,Llama 3.
- 3 70B Instruct,R1 Distill 70B,dan seri OpenAI GPT.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 61
原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Penelitian Anthropic: mengubah keyakinan LLM dengan penyempurnaan dokumen sintetis (SDF). 24 April 2025. https://new.nat6.net/id/news/idfcvv9q37icuvuc96gi8br95/