튜토리얼 및 팁

Step 3.7 Flash: 데스크톱급 기기에서 실행 가능한 198B 비전 모델

원제목:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....

AI 요약

스텝파이낸스(阶跃星辰)가 DGX Spark 등 데스크톱 기기에서 실행하는 것을 목표로 하는 198B 파라미터 비전 모델 Step 3.7 Flash를 출시했습니다. 사용자 실측에 따르면 128GB 통합 메모리가 실행 기준이며 모델은 약 104GB를 차지합니다. 배포에는 공식 전용 llama.cpp 브랜치가 필요 없고 메인라인 버전으로 가능합니다. 컨텍스트 길이에는 트레이드오프가 있습니다. 비전 기능을 활성화하면 q8 KV cache 기준 64K가 상한이며, 최대 256K 컨텍스트를 사용하려면 비전을 비활성화하고 q4 KV cache로 전환해야 하며 이때 모델과 캐시가 총 약 114GB 메모리를 차지합니다. 이 모델은 추론 모델로 사고 과정이 많은 max_tokens를 소모할 수 있어 설정에 주의해야 합니다.

핵심 정보

  • 스텝파이낸스(阶跃星辰)가 DGX Spark 등 데스크톱 기기에서 실행하는 것을 목표로 하는 198B 파라미터 비전 모델 Step 3.
  • 7 Flash를 출시했습니다.
  • 사용자 실측에 따르면 128GB 통합 메모리가 실행 기준이며 모델은 약 104GB를 차지합니다.
  • 배포에는 공식 전용 llama.
  • cpp 브랜치가 필요 없고 메인라인 버전으로 가능합니다.

한눈에 보기

게시
업데이트
출처
X:阶跃星辰 StepFun (@StepFun_ai)
카테고리
튜토리얼 및 팁
AI 점수
80
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。

관련 엔티티

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: Step 3.7 Flash: 데스크톱급 기기에서 실행 가능한 198B 비전 모델. 2026년 5월 31일. https://new.nat6.net/ko/news/cmptg4k4t09zzsluzw0x9fbxd/

전체 보기 →