Туториалы и советы

MedQA: клиническая модель вопросов и ответов на основе AMD ROCm и LoRA-дообучения Qwen3-1.7B

Оригинальный заголовок:MedQA: Fine-Tuning a Clinical AI on AMD ROCm — No CUDA Required

ИИ-резюме

Проект использует AMD Instinct MI300X (192 ГБ HBM3) и ROCm для дообучения модели Qwen3-1.7B методом LoRA в целях медицинских вопросов и ответов. Обучение заняло около 5 минут на всего 2000 примерах MedMCQA и обновило лишь около 2,2 млн параметров (0,1443% от общего числа параметров модели); весь процесс выполнялся в точности fp16 без квантования. Экосистема HuggingFace (Transformers, PEFT, TRL, Accelerate) без проблем работает на ROCm и может напрямую заменить CUDA без изменения кода. Модель загружена на HuggingFace Hub, также доступна онлайн-демо.

Ключевые моменты

  • Проект использует AMD Instinct MI300X (192 ГБ HBM3) и ROCm для дообучения модели Qwen3-1.
  • 7B методом LoRA в целях медицинских вопросов и ответов.
  • Обучение заняло около 5 минут на всего 2000 примерах MedMCQA и обновило лишь около 2,2 млн…
  • весь процесс выполнялся в точности fp16 без квантования.
  • Экосистема HuggingFace (Transformers,PEFT,TRL,Accelerate) без проблем работает на ROCm и может…

Кратко

Опубликовано
Обновлено
Источник
Hugging Face 社区博客(混合发现)
Категория
Туториалы и советы
Оценка ИИ
58
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

一个月前的教程了,但如果你是 AMD 党想跑医疗微调,这篇把坑都踩完了,代码直接能复现,LoRA 适配器也挂在 Hub 上,拿来就能用。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: MedQA: клиническая модель вопросов и ответов на основе AMD ROCm и LoRA-дообучения Qwen3-1.7B. 8 мая 2026. https://new.nat6.net/ru/news/cmownduwl00kdslkuwxyxo7l7/

Смотреть все →