기타

Meta 연구진, Facebook이 2020년부터 TPU로 AI 훈련했다고 공개

원제목:most of people didn’t know this we had been using TPUs at *Facebook* as far back as 2020. Kaiming le...

AI 요약

Meta 연구진은 Facebook이 2020년부터 TPU로 AI를 훈련했으며, Kaiming He가 주도해 TF와 JAX 코드베이스를 개발했고 MAE, DiT 등 모델이 전적으로 TPU 기반으로 구축됐다고 밝혔다. 내부 활용이 제한적이어서 Meta는 2023년 GCP 계약을 취소했다. 트윗은 Google, Anthropic 등 연구소가 오랫동안 TPU로 대규모 언어 모델을 훈련해 왔으며 Nvidia의 CUDA 해자도 넘을 수 없는 것이 아니고, OpenAI도 대안으로 Triton에 투자하고 있다고 지적했다. TPU와 GPU의 효율 차이가 핵심이 아니라 시스템 엔지니어링 인재가 결정적 요인이라는 것이다.

핵심 정보

  • Meta 연구진은 Facebook이 2020년부터 TPU로 AI를 훈련했으며,Kaiming He가 주도해 TF와 JAX 코드베이스를 개발했고 MAE,DiT 등 모델이 전적으로…
  • 내부 활용이 제한적이어서 Meta는 2023년 GCP 계약을 취소했다.
  • 트윗은 Google,Anthropic 등 연구소가 오랫동안 TPU로 대규모 언어 모델을 훈련해 왔으며 Nvidia의 CUDA 해자도 넘을 수 없는 것이 아니고,OpenAI도…
  • TPU와 GPU의 효율 차이가 핵심이 아니라 시스템 엔지니어링 인재가 결정적 요인이라는 것이다.

한눈에 보기

게시
업데이트
출처
X:谢赛宁 (@sainingxie)
카테고리
기타
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

何恺明团队2020年起用TPU训练MAE/DiT,Nvidia护城河比想象更浅

관련 엔티티

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: Meta 연구진, Facebook이 2020년부터 TPU로 AI 훈련했다고 공개. 2025년 11월 27일. https://new.nat6.net/ko/news/cmnz6dpf402aosl0fdjpw0kw1/

전체 보기 →
  • Diffusers, FLUX-2 모델 통합

    Hugging Face의 Diffusers 라이브러리가 Black Forest Labs가 개발한 FLUX-2 텍스트-이미지 모델을 공식 통합했다. 이 모델은 120억 파라미터를 갖추고 멀티모달 확산 트랜스포머…

    Hugging Face 社区博客(混合发现)기타AI 점수 80

  • Transformers v5: 단순화된 모델 정의로 AI 생태계 주도

    Transformers v5가 정식 공개되었다. 일일 pip 설치량은 v4의 2만 회에서 300만 회 이상으로 크게 늘었고, 총 설치량은 12억 회를 돌파했다. 모델 아키텍처 수는 40개에서 400개 이상으로,…

    Hugging Face 社区博客(混合发现)기타AI 점수 93

  • 제1원리로 본 연속 배치 처리

    연속 배치 처리는 대규모 언어 모델 추론 처리량을 최적화하는 핵심 기술로, 여러 대화를 병렬 처리하고 생성 완료 후 작업을 동적으로 교체해 하드웨어 활용률을 극대화한다. 어텐션 메커니즘과 KV 캐시의 기본…

    Hugging Face 社区博客(混合发现)기타AI 점수 76

  • AI 발전에 대한 고찰(2025년 12월)

    저자는 인공지능 발전에 대해 단계적 전망을 제시했다. 단기적으로는 온건한 약세를 보이며 업계가 조정기나 성장 둔화를 겪을 수 있다고 본다. 장기적으로는 극도로 강세를 보이며 폭발적 성장을 예상한다. 이 관점은 기술…

    Dwarkesh Patel:Podcast & Blog(RSS)기타