บทแนะนำและเทคนิค

MedQA: โมเดลตอบคำถามทางคลินิกจากการปรับแต่ง Qwen3-1.7B ด้วย LoRA บน AMD ROCm

หัวข้อต้นฉบับ:MedQA: Fine-Tuning a Clinical AI on AMD ROCm — No CUDA Required

สรุปโดย AI

โครงการนี้ใช้ AMD Instinct MI300X (หน่วยความจำ HBM3 192 GB) และ ROCm ปรับแต่งโมเดล Qwen3-1.7B ด้วย LoRA เพื่อทำการตอบคำถามทางการแพทย์ การฝึกอบรมใช้ตัวอย่าง MedMCQA เพียง 2000 รายการ เสร็จสิ้นในเวลาประมาณ 5 นาที อัปเดตพารามิเตอร์เพียงประมาณ 2.2 ล้านตัว (คิดเป็น 0.1443% ของพารามิเตอร์ทั้งหมดของโมเดล) ใช้ความแม่นยำ fp16 ตลอดกระบวนการ โดยไม่ต้องทำ quantization ระบบนิเวศ HuggingFace (Transformers, PEFT, TRL, Accelerate) ทำงานบน ROCm ได้อย่างราบรื่น สามารถทดแทน CUDA ได้โดยตรงโดยไม่ต้องแก้ไขโค้ด โมเดลถูกอัปโหลดไปยัง HuggingFace Hub แล้วและมี Demo ออนไลน์ให้ใช้งาน

ข้อมูลสำคัญ

  • โครงการนี้ใช้ AMD Instinct MI300X (หน่วยความจำ HBM3 192 GB) และ ROCm ปรับแต่งโมเดล Qwen3-1.
  • 7B ด้วย LoRA เพื่อทำการตอบคำถามทางการแพทย์ การฝึกอบรมใช้ตัวอย่าง MedMCQA เพียง 2000 รายการ…
  • 2 ล้านตัว (คิดเป็น 0.
  • 1443% ของพารามิเตอร์ทั้งหมดของโมเดล) ใช้ความแม่นยำ fp16 ตลอดกระบวนการ โดยไม่ต้องทำ quantization…

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Hugging Face 社区博客(混合发现)
หมวดหมู่
บทแนะนำและเทคนิค
คะแนน AI
58
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

一个月前的教程了,但如果你是 AMD 党想跑医疗微调,这篇把坑都踩完了,代码直接能复现,LoRA 适配器也挂在 Hub 上,拿来就能用。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: MedQA: โมเดลตอบคำถามทางคลินิกจากการปรับแต่ง Qwen3-1.7B ด้วย LoRA บน AMD ROCm 8 พฤษภาคม 2026 https://new.nat6.net/th/news/cmownduwl00kdslkuwxyxo7l7/

ดูทั้งหมด →