๊ธฐํ
๐ DeepSeek-VL2 ์ถ์! ์ฐจ์ธ๋ ๋น์ -์ธ์ด ๋ชจ๋ธ์ด MoE ์๋์ ์ง์
์์ ๋ชฉ๏ผ๐ DeepSeek-VL2 is here! Our next-gen vision-language model enters the MoE era. ๐ค DeepSeek-MoE arc...
AI ์์ฝ
๐ DeepSeek-VL2๊ฐ ์ถ์๋๋ค! ์ฐ๋ฆฌ์ ์ฐจ์ธ๋ ๋น์ -์ธ์ด ๋ชจ๋ธ์ด MoE ์๋์ ์ง์
ํ๋ค. ๐ค DeepSeek-MoE ์ํคํ
์ฒ + ๋์ ์ด๋ฏธ์ง ๋ถํ โก 3B/16B/27B ๊ท๋ชจ๋ก ์ ์ฐํ๊ฒ ์ฌ์ฉ ๐ ๋ชจ๋ ๋ฒค์น๋งํฌ์์ ์ฐ์ํ ์ฑ๋ฅ ๐งต 1/n https://t.co/C7FvQ7p0ym
ํต์ฌ ์ ๋ณด
- ๐ DeepSeek-VL2๊ฐ ์ถ์๋๋ค!
- ์ฐ๋ฆฌ์ ์ฐจ์ธ๋ ๋น์ -์ธ์ด ๋ชจ๋ธ์ด MoE ์๋์ ์ง์
ํ๋ค.
- ๐ค DeepSeek-MoE ์ํคํ
์ฒ + ๋์ ์ด๋ฏธ์ง ๋ถํ โก 3B/16B/27B ๊ท๋ชจ๋ก ์ ์ฐํ๊ฒ ์ฌ์ฉ ๐ ๋ชจ๋ ๋ฒค์น๋งํฌ์์ ์ฐ์ํ ์ฑ๋ฅ ๐งต 1/n
ํ๋์ ๋ณด๊ธฐ
- ๊ฒ์
-
- ์
๋ฐ์ดํธ
-
์๋ฌธ ์ฝ๊ธฐ
์ ๋ณด ์ถ์ฒ์์ ์ ์ฒด ๋ณธ๋ฌธ ์ฝ๊ธฐ
์ถ์ฒ ์ด์
DeepSeek ๅผๆบ VL2 ่ง่งๆจกๅ๏ผ3B ่ฝป้็ๅฏ็ซฏไพง้จ็ฝฒ๏ผMoE ๆถๆๆฏๆๅจๆๅพๅๅๅ
์ถ์ฒ ๋ฐ ์ ์๊ถ
์ด ๊ธฐ์ฌ๋ AIHOT ๊ณต๊ฐ API๊ฐ ์ ๊ณตํ๋ ์ ๋ณ ์ ๋ชฉ๊ณผ AI ์์ฝ์ ๋ฐํ์ผ๋ก ํ๋ฉฐ, ์ถ์ฒ๋ฅผ ๋ฐํ๊ณ ์๋ฌธ์ผ๋ก ์ฐ๊ฒฐํฉ๋๋ค. ์๋ฌธ ์ ์๊ถ์ ์ ๋ฏธ๋์ด์ ์ ์์๊ฒ ์์ผ๋ฉฐ, ๋ณธ ์ฌ์ดํธ๋ ์ ๋ฌธ์ ์ ์ฌํ์ง ์์ต๋๋ค.
์๋ฌธ ๊ธฐ์ฌ
ยท AIHOT ํญ๋ชฉ
์ธ์ฉ ๋ฐฉ๋ฒ
๋ณธ๋ฌธ์ ์ธ์ฉํ ๋๋ ์ ๋ชฉ, ๋ ์ง, ์๊ตฌ ๋งํฌ๋ฅผ ์ ์งํ๊ณ ์ถ์ฒ๋ฅผ Orange News(์ผ)๋ก ํ๊ธฐํด ์ฃผ์ธ์.
Orange News: ๐ DeepSeek-VL2 ์ถ์! ์ฐจ์ธ๋ ๋น์ -์ธ์ด ๋ชจ๋ธ์ด MoE ์๋์ ์ง์
. 2024๋
12์ 13์ผ. https://new.nat6.net/ko/news/cmo77611u003nslhe88mpekza/
-
Grok์ด ๋ชจ๋ ์ฌ์ฉ์์๊ฒ ๋ฌด๋ฃ๋ก ๊ณต๊ฐ๋๋ฉฐ ๊ธฐ์กด X Premium ๊ตฌ๋
์ ์ ์ฉ ์ ํ์ด ํด์ ๋๋ค. ์ฌ์ฉ์๋ ์ ๋ฃ ๊ตฌ๋
์์ด๋ xAI์ AI ์ด์์คํดํธ๋ฅผ ๋ฐ๋ก ์ฌ์ฉํ ์ ์์ด ์ด์ฉ ์ฅ๋ฒฝ์ด ํฌ๊ฒ ๋ฎ์์ก๋ค.
xAI๏ผNews๏ผ็ฝ้กต๏ผ๊ธฐํ
-
xAI๊ฐ 60์ต ๋ฌ๋ฌ ๊ท๋ชจ์ C๋ผ์ด๋ ํฌ์ ์ ์น๋ฅผ ์๋ฃํ๋ค๊ณ ๋ฐํํ๋ค. ์๊ธ์ Grok ๋ฑ AI ๋ชจ๋ธ ์ฐ๊ตฌ๊ฐ๋ฐ ๊ฐ์ํ์ ์ปดํจํ
์ธํ๋ผ ํ์ฅ์ ์ฌ์ฉ๋ ์์ ์ด๋ค. ์ด๋ฒ ํฌ์๋ก ํ์ฌ ๊ฐ์น๋ ๋์ฑ ๋์์ก์ผ๋ฉฐโฆ
xAI๏ผNews๏ผ็ฝ้กต๏ผ๊ธฐํ
-
๐ DeepSeek-V2.5-1210: ๋๋จ์ ๐ ๐ ์ธํฐ๋ท ๊ฒ์์ด ์น ๋ฒ์ ์ ์ถ์๋๋ค! https://chat.deepseek.com/ ์ ์ ์ํด "์ธํฐ๋ท ๊ฒ์"์ ์ผ๋ฉด ์ค์๊ฐ ๋ต๋ณ์ ๋ฐ์ ์ ์๋ค. ๐โฆ
X๏ผDeepSeek (@deepseek_ai)๊ธฐํ
-
Sam Altman์ ChatGPT 2์ฃผ๋
์ ๋ง์ OpenAI์ 9๋
์ฌ์ ์ ๋์๋ดค๋ค. AGI ์คํ ๊ฐ๋ฅ์ฑ์ ๊ตณ๊ฒ ๋ฏฟ๋ ๋๋ถํฐ 2022๋
์ฐ์ฐํ ChatGPT๋ฅผ ์ถ์ํด ์ ๋ก ์๋ ์ฑ์ฅ ๊ณก์ ์ ๋ง๋ ๊ณผ์ ๊น์ง๋ค.โฆ
Sam Altman๏ผBlog๏ผRSS๏ผ๊ธฐํ
-
Grok์ด ์ด๋ฏธ์ง ์์ฑ ๊ธฐ๋ฅ์ ์ ๋ณด์ด๋ฉฐ ์์ฐ์ด ๋ช
๋ น์ผ๋ก ์ง์ ์ด๋ฏธ์ง๋ฅผ ๋ง๋ค ์ ์๊ฒ ํ๋ค. ์ด ๊ธฐ๋ฅ์ X ํ๋ซํผ ์ฌ์ฉ์์๊ฒ ๊ณต๊ฐ๋์ผ๋ฉฐ, ์ด AI ์ด์์คํดํธ๊ฐ ํ
์คํธ ์ํธ์์ฉ์์ ๋ฉํฐ๋ชจ๋ฌ ์ญ๋์ผ๋ก ํ์ฅํ๋ ๊ณ๊ธฐ๊ฐโฆ
xAI๏ผNews๏ผ็ฝ้กต๏ผ๊ธฐํ
-
Anthropic ํด์๊ฐ๋ฅ์ฑ ํ์ด ํฌ์ ์คํ ์ธ์ฝ๋์ ๊ต์ฐจ ์ธ์ฝ๋ ํ๋ จ ๋ฐฉ๋ฒ์ ์ต์ ๊ฐ์ ์ฌํญ์ ๊ณต์ ํ๋ค. ์ฃผ์ ์
๋ฐ์ดํธ๋ก๋ JumpReLU ํ์ฑํ ํจ์ ๋์
, ํฌ์์ฑ์ ๊ฐํํ๊ณ '์ฃฝ์ ํน์ง'์ ์ค์ด๊ธฐ ์ํ ์์คโฆ
Anthropic๏ผTransformer Circuits๏ผๅฏ่งฃ้ๆง็ ็ฉถ๏ผ๊ธฐํAI ์ ์ 73