DeepSeek-V4 Flash 강화 학습 훈련, AMD Instinct MI355X GPU에登陆... Miles 프레임워크 지원
원제목:News Bringing DeepSeek-V4 Flash RL Training to AMD Instinct MI355X GPUs with Miles DeepSeek-V4 RL is now supported in Miles on AMD Instinct™ MI355X GPUs with ROCm™! RL requires SGLang rollout and Megatron training to implement the same policy closely enough that token probabilities ... AMD & Miles Team
AI 요약
DeepSeek-V4 Flash의 강화 학습 훈련이 이제 AMD Instinct MI355X GPU에서 Miles 프레임워크를 통해 지원되며, ROCm 소프트웨어 스택 기반으로运行한다. 이 2840억 파라미터 MoE 모델(토큰당 130억 파라미터 활성화)은 SGLang의 rollout 생성, Megatron의 정책 업데이트, Miles의 비동기 루프와 가중치 동기화를 필요로 한다. 팀은 SGLang과 Megatron 간 모델 정렬, 양자화 상태 온라인 업데이트, 멀티노드 병렬 안정성이라는 세 가지 과제를 해결했고, 최종적으로 4개 8-GPU 노드에서 엔드투엔드 검증을 완료했다. 100개 이상의 옵티마이저 단계에서 훈련-rollout 로그 확률 차이가 제어 가능했고, 온라인 보상이 지속적으로 향상되었으며, 오프라인 AIME-2024 벤치마크 점수도 함께 상승했다.
핵심 정보
- DeepSeek-V4 Flash의 강화 학습 훈련이 이제 AMD Instinct MI355X GPU에서 Miles 프레임워크를 통해 지원되며,ROCm 소프트웨어 스택 기반으로运行…
- 이 2840억 파라미터 MoE 모델(토큰당 130억 파라미터 활성화)은 SGLang의 rollout 생성,Megatron의 정책 업데이트,Miles의 비동기 루프와 가중치…
- 팀은 SGLang과 Megatron 간 모델 정렬,양자화 상태 온라인 업데이트,멀티노드 병렬 안정성이라는 세 가지 과제를 해결했고,최종적으로 4개 8-GPU 노드에서 엔드투엔드…
- 100개 이상의 옵티마이저 단계에서 훈련-rollout 로그 확률 차이가 제어 가능했고,온라인 보상이 지속적으로 향상되었으며,오프라인 AIME-2024 벤치마크 점수도 함께…
한눈에 보기
- 게시
- 업데이트
- 출처
- LMSYS Blog
- 카테고리
- 논문 및 연구
- AI 점수
- 61
把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上,不是画饼,而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的,可以照着踩坑。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: DeepSeek-V4 Flash 강화 학습 훈련, AMD Instinct MI355X GPU에登陆... Miles 프레임워크 지원. 2026년 7월 10일. https://new.nat6.net/ko/news/cmrf7a5kg000wihpr80vvnaxn/