๐ LFM2-2.6B-Exp: 26์ต ํ๋ผ๋ฏธํฐ๋ก GPT-4๊ธ ์ถ๋ก ์ฑ๋ฅ์ ๋ฌ์ฑํ ๊ฒฝ๋ AI ๋ชจ๋ธ
| YUN AI PARTNER
๐ก ํต์ฌ ์์ฝ: Liquid AI๊ฐ ํฌ๋ฆฌ์ค๋ง์ค์ ๊ณต๊ฐํ LFM2-2.6B-Exp๋ ๋จ 26์ต ๊ฐ์ ํ๋ผ๋ฏธํฐ๋ก DeepSeek R1-0528(671B)๋ณด๋ค ๋ฐ์ด๋ ์ถ๋ก ์ฑ๋ฅ์ ๋ณด์ฌ์ค๋๋ค. 263๋ฐฐ ์์ ๋ชจ๋ธ์ด ๋ ๋๋ํ๋ค๋!
๐ LFM2-2.6B-Exp๋?
LFM2-2.6B-Exp๋ MIT ์ถ์ ์ฐ๊ตฌ์ง์ด ์ค๋ฆฝํ Liquid AI์์ 2025๋ 12์ 25์ผ ๊ณต๊ฐํ ์คํ์ ์ถ๋ก ๋ชจ๋ธ์ ๋๋ค.
๊ฐ์ฅ ๋๋ผ์ด ์ ์ ์์ ๊ฐํํ์ต(Pure RL)๋ง์ผ๋ก ํ๋ จ๋์๋ค๋ ๊ฒ์ ๋๋ค. ๊ธฐ์กด ๋ชจ๋ธ๋ค์ด ์ฌ์ฉํ๋ ์ง๋ํ์ต(SFT) ์์ด, ์ค์ง ๊ฐํํ์ต๋ง์ผ๋ก ์ถ๋ก ๋ฅ๋ ฅ์ ํ์ตํ์ต๋๋ค.
| ๋ฒค์น๋งํฌ | LFM2-2.6B-Exp | ๋น๊ณ |
|---|---|---|
| GPQA Diamond | ~42% | ๋ํ์ ์์ค ๊ณผํ ๋ฌธ์ |
| IFEval | >88% | ์ง์ ๋ฐ๋ฅด๊ธฐ ๋ฅ๋ ฅ |
| GSM8K | >82% | ์ด๋ฑ ์ํ ๋ฌธ์ |
| MATH-500 | ~50% | ๊ณ ๊ธ ์ํ ์ถ๋ก |
๐๏ธ ํ์ ์ ์ธ ํ์ด๋ธ๋ฆฌ๋ ์ํคํ ์ฒ
LFM2๋ ๊ธฐ์กด Transformer์ ์์ ํ ๋ค๋ฅธ ํ์ด๋ธ๋ฆฌ๋ ์ํคํ ์ฒ๋ฅผ ์ฌ์ฉํฉ๋๋ค:
- 22๊ฐ Convolution ๋ ์ด์ด - ํจ์จ์ ์ธ ์ง์ญ ํจํด ์ฒ๋ฆฌ
- 8๊ฐ Attention ๋ ์ด์ด - ์ฅ๊ฑฐ๋ฆฌ ์์กด์ฑ ํ์ต
- State Space Model(SSM) ๊ธฐ๋ฐ Liquid Foundation
์ด ๊ตฌ์กฐ ๋๋ถ์ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ๋์ด ์ ๊ณ , ์ฃ์ง ๋๋ฐ์ด์ค์์๋ ๋น ๋ฅด๊ฒ ๋์ํฉ๋๋ค.
"์์ ๋ชจ๋ธ๋ ์ฌ๋ฐ๋ฅธ ํ์ต ๋ฐฉ๋ฒ์ ์ฌ์ฉํ๋ฉด ๊ฑฐ๋ ๋ชจ๋ธ๊ณผ ๊ฒฝ์ํ ์ ์๋ค."
๐ฏ ์ค๋ฌด ํ์ฉ ๊ฐ๋ฅ์ฑ
26์ต ํ๋ผ๋ฏธํฐ๋ผ๋ ์์ ํฌ๊ธฐ๋ ๋ค์๊ณผ ๊ฐ์ ์ค๋ฌด ์ ์ฉ์ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค:
์จ๋๋ฐ์ด์ค AI
์ค๋งํธํฐ์์ ์ง์ ์คํ
์ฃ์ง ์ปดํจํ
๊ณต์ฅ ํ์ฅ ์ค์๊ฐ AI
๋น์ฉ ์ ๊ฐ
GPU ๋น์ฉ 1/100 ์์ค
๋๊ธ