Tutoriels et astuces

Hugging Face explique comment affiner un grand modèle de langage de 20B par RLHF sur un GPU grand public de 24 Go

Titre original:Fine-tuning 20B LLMs with RLHF on a 24GB consumer GPU

Résumé IA

Hugging Face publie un blog expliquant comment affiner par RLHF un grand modèle de langage de 20B paramètres sur un GPU grand public de 24 Go, en s'appuyant sur TRL et PEFT (voir le lien original https://huggingface.co/blog/trl-peft). L'extraction du corps de l'article a échoué ; seul le titre est disponible, les détails supplémentaires sont à consulter dans l'original.

Points clés

  • Hugging Face publie un blog expliquant comment affiner par RLHF un grand modèle de langage de 20B…
  • en s'appuyant sur TRL et PEFT (voir le lien original L'extraction du corps de l'article a échoué
  • seul le titre est disponible,les détails supplémentaires sont à consulter dans l'original.

En bref

Publié
Mis à jour
Source
Hugging Face 社区博客(混合发现)
Catégorie
Tutoriels et astuces
Score IA
66
Lire l'original Lire l'article complet à la source d'origine

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Hugging Face explique comment affiner un grand modèle de langage de 20B par RLHF sur un GPU grand public de 24 Go. 9. mars 2023. https://new.nat6.net/fr/news/xxfxuskrs9xhj8ia31gowdt32/

Tout voir →