모델 출시
Answer.AI와 LightOn, 8192 시퀀스 길이 지원하며 BERT를 전면 능가하는 ModernBERT 인코더 모델 출시
원제목:Finally, a Replacement for BERT: Introducing ModernBERT
AI 요약
Answer.AI와 LightOn은 base(149M 파라미터)와 large(395M 파라미터) 두 규격을 제공하는 ModernBERT 인코더 모델 시리즈를 출시했다. BERT 계열 모델의 직접 대체로 사용할 수 있다.
핵심 정보
Answer.
AI와 LightOn은 base(149M 파라미터)와 large(395M 파라미터) 두 규격을 제공하는 ModernBERT 인코더 모델 시리즈를 출시했다.
BERT 계열 모델의 직접 대체로 사용할 수 있다.
한눈에 보기
게시
2024년 12월 19일
업데이트
2026년 11월 6일
AI 점수
71
추천 이유
原文详细披露了架构改进、训练数据和实测效率数字,读者可据此评估它在现有 BERT 类工作流中能否直接替换。
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
원문 기사
· AIHOT 항목
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: Answer.AI와 LightOn, 8192 시퀀스 길이 지원하며 BERT를 전면 능가하는 ModernBERT 인코더 모델 출시. 2024년 12월 19일. https://new.nat6.net/ko/news/yji28f1gnjnxjb9m5x1evdpiv/
Orange Relay(pro.nat6.net)는 고품질 AI API 중계 서비스입니다. 합리적인 가격, 안정적인 품질, Claude·GPT·Gemini 등 주요 모델을 폭넓게 지원합니다.
Orange Relay 방문하기
DeepSeek가 deepseek-chat 모델을 DeepSeek-V2.5-1210으로 업그레이드해 각종 능력을 향상시켰다. 수학 능력은 MATH-500 벤치마크에서 74.8%에서 82.8%로, 코드 능력은…
DeepSeek:API 更新日志 모델 출시 AI 점수 67
2024년 12월 10일
Answer.AI와 LightOn이 BERT를 대체하기 위한 SOTA 인코더 모델 시리즈 ModernBERT를 공동 공개했다. 이 모델은 Flash Attention, RoPE 등 LLM의 최신 아키텍처 개선을…
Answer.AI 官方研发博客(RSS) 모델 출시 AI 점수 82
2024년 12월 19일
Prime Intellect가 글로벌 협업으로 훈련한 최초의 10B 파라미터 언어 모델이라 주장하는 INTELLECT-1을 출시했다. Llama-3 아키텍처 기반으로 1T 토큰에서 42일간 훈련됐으며, 5개국…
Prime Intellect(网页) 모델 출시 AI 점수 67
2024년 11월 29일
深度求索이 DeepSeek-V3 모델을 정식 발표했다. 성능은 세계 최정상 모델에 필적하며 속도가 도약했고 가격도 업데이트됐다.
公众号:DeepSeek(深度求索) 모델 출시 AI 점수 67
2024년 12월 26일
DeepSeek이 추론 모델 프리뷰를 출시했다. 추론 성능은 OpenAI의 o1-preview에 상응하며 모델의 전체 사고 사슬을 공개했다.
公众号:DeepSeek(深度求索) 모델 출시 AI 점수 66
2024년 11월 20일
Mistral AI가 Codestral 25.01을 출시했다. 더 효율적인 아키텍처와 개선된 tokenizer를 채택해 코드 생성 및 완성 속도가 원버전 대비 약 2배 향상됐다.
Mistral AI:News(网页) 모델 출시 AI 점수 63
2025년 1월 13일
이전 기사 Answer.AI, BERT 대체할 차세대 인코더 모델 ModernBERT 공개
다음 기사 효율적 에이전트 구축: 단순한 패턴에서 시작