๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ
U2DIA_Daily

LFM2-2.6B-Exp: 26์–ต ํŒŒ๋ผ๋ฏธํ„ฐ๋กœ GPT-4๊ธ‰ ์ถ”๋ก  ์„ฑ๋Šฅ์„ ๋‚ด๋Š” ๊ฒฝ๋Ÿ‰ AI ๋ชจ๋ธ

by U2DIA 2025. 12. 29.
๋ฐ˜์‘ํ˜•

๐Ÿš€ LFM2-2.6B-Exp: 26์–ต ํŒŒ๋ผ๋ฏธํ„ฐ๋กœ GPT-4๊ธ‰ ์ถ”๋ก  ์„ฑ๋Šฅ์„ ๋‹ฌ์„ฑํ•œ ๊ฒฝ๋Ÿ‰ AI ๋ชจ๋ธ

| YUN AI PARTNER

๐Ÿ’ก ํ•ต์‹ฌ ์š”์•ฝ: Liquid AI๊ฐ€ ํฌ๋ฆฌ์Šค๋งˆ์Šค์— ๊ณต๊ฐœํ•œ LFM2-2.6B-Exp๋Š” ๋‹จ 26์–ต ๊ฐœ์˜ ํŒŒ๋ผ๋ฏธํ„ฐ๋กœ DeepSeek R1-0528(671B)๋ณด๋‹ค ๋›ฐ์–ด๋‚œ ์ถ”๋ก  ์„ฑ๋Šฅ์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค. 263๋ฐฐ ์ž‘์€ ๋ชจ๋ธ์ด ๋” ๋˜‘๋˜‘ํ•˜๋‹ค๋‹ˆ!

๐Ÿ“Š LFM2-2.6B-Exp๋ž€?

LFM2-2.6B-Exp๋Š” MIT ์ถœ์‹  ์—ฐ๊ตฌ์ง„์ด ์„ค๋ฆฝํ•œ Liquid AI์—์„œ 2025๋…„ 12์›” 25์ผ ๊ณต๊ฐœํ•œ ์‹คํ—˜์  ์ถ”๋ก  ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค.

๊ฐ€์žฅ ๋†€๋ผ์šด ์ ์€ ์ˆœ์ˆ˜ ๊ฐ•ํ™”ํ•™์Šต(Pure RL)๋งŒ์œผ๋กœ ํ›ˆ๋ จ๋˜์—ˆ๋‹ค๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค. ๊ธฐ์กด ๋ชจ๋ธ๋“ค์ด ์‚ฌ์šฉํ•˜๋Š” ์ง€๋„ํ•™์Šต(SFT) ์—†์ด, ์˜ค์ง ๊ฐ•ํ™”ํ•™์Šต๋งŒ์œผ๋กœ ์ถ”๋ก  ๋Šฅ๋ ฅ์„ ํ•™์Šตํ–ˆ์Šต๋‹ˆ๋‹ค.

๋ฒค์น˜๋งˆํฌ LFM2-2.6B-Exp ๋น„๊ณ 
GPQA Diamond ~42% ๋Œ€ํ•™์› ์ˆ˜์ค€ ๊ณผํ•™ ๋ฌธ์ œ
IFEval >88% ์ง€์‹œ ๋”ฐ๋ฅด๊ธฐ ๋Šฅ๋ ฅ
GSM8K >82% ์ดˆ๋“ฑ ์ˆ˜ํ•™ ๋ฌธ์ œ
MATH-500 ~50% ๊ณ ๊ธ‰ ์ˆ˜ํ•™ ์ถ”๋ก 
์ถœ์ฒ˜:
Hugging Face - LiquidAI/LFM2-2.6B-Exp

๐Ÿ—๏ธ ํ˜์‹ ์ ์ธ ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ์•„ํ‚คํ…์ฒ˜

LFM2๋Š” ๊ธฐ์กด Transformer์™€ ์™„์ „ํžˆ ๋‹ค๋ฅธ ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ์•„ํ‚คํ…์ฒ˜๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค:

  • 22๊ฐœ Convolution ๋ ˆ์ด์–ด - ํšจ์œจ์ ์ธ ์ง€์—ญ ํŒจํ„ด ์ฒ˜๋ฆฌ
  • 8๊ฐœ Attention ๋ ˆ์ด์–ด - ์žฅ๊ฑฐ๋ฆฌ ์˜์กด์„ฑ ํ•™์Šต
  • State Space Model(SSM) ๊ธฐ๋ฐ˜ Liquid Foundation

์ด ๊ตฌ์กฐ ๋•๋ถ„์— ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ๋Ÿ‰์ด ์ ๊ณ , ์—ฃ์ง€ ๋””๋ฐ”์ด์Šค์—์„œ๋„ ๋น ๋ฅด๊ฒŒ ๋™์ž‘ํ•ฉ๋‹ˆ๋‹ค.

"์ž‘์€ ๋ชจ๋ธ๋„ ์˜ฌ๋ฐ”๋ฅธ ํ•™์Šต ๋ฐฉ๋ฒ•์„ ์‚ฌ์šฉํ•˜๋ฉด ๊ฑฐ๋Œ€ ๋ชจ๋ธ๊ณผ ๊ฒฝ์Ÿํ•  ์ˆ˜ ์žˆ๋‹ค."

— Liquid AI ์—ฐ๊ตฌํŒ€

๐ŸŽฏ ์‹ค๋ฌด ํ™œ์šฉ ๊ฐ€๋Šฅ์„ฑ

26์–ต ํŒŒ๋ผ๋ฏธํ„ฐ๋ผ๋Š” ์ž‘์€ ํฌ๊ธฐ๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์€ ์‹ค๋ฌด ์ ์šฉ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค:

๐Ÿ“ฑ

์˜จ๋””๋ฐ”์ด์Šค AI

์Šค๋งˆํŠธํฐ์—์„œ ์ง์ ‘ ์‹คํ–‰

๐Ÿญ

์—ฃ์ง€ ์ปดํ“จํŒ…

๊ณต์žฅ ํ˜„์žฅ ์‹ค์‹œ๊ฐ„ AI

๐Ÿ’ฐ

๋น„์šฉ ์ ˆ๊ฐ

GPU ๋น„์šฉ 1/100 ์ˆ˜์ค€

๐Ÿ”— ์ฐธ๊ณ  ์ž๋ฃŒ ๋ฐ ๋‹ค์šด๋กœ๋“œ

๋ฐ˜์‘ํ˜•

๋Œ“๊ธ€