Skip to main content
PromptQuorumPromptQuorum
Home/Local LLMs/์ตœ๊ณ ์˜ ์•„๋ž์–ด ๋กœ์ปฌ LLM: Jais, Falcon ๋ฐ ์•„๋ž์–ด AI ์˜จํ”„๋ ˆ๋ฏธ์Šค ์‹คํ–‰ (2026)
Best Models

์ตœ๊ณ ์˜ ์•„๋ž์–ด ๋กœ์ปฌ LLM: Jais, Falcon ๋ฐ ์•„๋ž์–ด AI ์˜จํ”„๋ ˆ๋ฏธ์Šค ์‹คํ–‰ (2026)

ยท13๋ถ„ ์ฝ๊ธฐยทBy Hans Kuepper ยท Founder of PromptQuorum, multi-model AI dispatch tool ยท PromptQuorum

Jais 30B (Core42/G42, ์•„๋ถ€๋‹ค๋น„, Apache 2.0)์™€ Falcon Arabic 7B (TII ์•„๋ถ€๋‹ค๋น„)๋Š” 2026๋…„ ์ตœ๊ณ ์˜ ์•„๋ž์–ด ๋„ค์ดํ‹ฐ๋ธŒ ๋กœ์ปฌ LLM์ž…๋‹ˆ๋‹ค. ๊ฐ•๋ ฅํ•œ ์•„๋ž์–ด ์ง€์›์„ ๊ฐ–์ถ˜ ์ผ๋ฐ˜ ๋‹ค๊ตญ์–ด ์›Œํฌ๋กœ๋“œ์˜ ๊ฒฝ์šฐ, Qwen3-8B์ด ์†Œ๋น„์ž ํ•˜๋“œ์›จ์–ด์— ๋งž๋Š” ํฌ๊ธฐ์˜ ๋ชจ๋ธ ์ค‘์—์„œ HELM Arabic ๋ฒค์น˜๋งˆํฌ๋ฅผ ์„ ๋„ํ•ฉ๋‹ˆ๋‹ค. ์„ธ ๋ชจ๋ธ ๋ชจ๋‘ Ollama ๋˜๋Š” vLLM์œผ๋กœ ์˜จํ”„๋ ˆ๋ฏธ์Šค์—์„œ ์‹คํ–‰๋˜์–ด ์•„๋ž์–ด ๊ฐœ์ธ์ •๋ณด๋ฅผ ๊ตญ๊ฒฝ ๋‚ด์— ์œ ์ง€ํ•ฉ๋‹ˆ๋‹ค.

Jais 30B (Core42/G42, ์•„๋ถ€๋‹ค๋น„, Apache 2.0)์™€ Falcon Arabic 7B (TII, ์•„๋ถ€๋‹ค๋น„)๋Š” 2026๋…„ ์ตœ๊ณ ์˜ ์•„๋ž์–ด ๋„ค์ดํ‹ฐ๋ธŒ ๋กœ์ปฌ LLM์ž…๋‹ˆ๋‹ค. ๊ฐ•๋ ฅํ•œ ์•„๋ž์–ด ์ง€์›์„ ๊ฐ–์ถ˜ ์ผ๋ฐ˜ ๋‹ค๊ตญ์–ด ์›Œํฌ๋กœ๋“œ์˜ ๊ฒฝ์šฐ, Qwen3-8B์ด ์†Œ๋น„์ž ํ•˜๋“œ์›จ์–ด์— ๋งž๋Š” ํฌ๊ธฐ์˜ ๋ชจ๋ธ ์ค‘์—์„œ HELM Arabic ๋ฒค์น˜๋งˆํฌ๋ฅผ ์„ ๋„ํ•ฉ๋‹ˆ๋‹ค. ์„ธ ๋ชจ๋ธ ๋ชจ๋‘ Ollama ๋˜๋Š” vLLM์œผ๋กœ ์˜จํ”„๋ ˆ๋ฏธ์Šค์—์„œ ์‹คํ–‰๋˜์–ด ์•„๋ž์–ด ๋ฐ์ดํ„ฐ๋ฅผ ๊ตญ๊ฒฝ ๋‚ด์— ์œ ์ง€ํ•ฉ๋‹ˆ๋‹ค. ๋ณธ ๊ฐ€์ด๋“œ๋Š” ๋ชจ๋ธ ์ˆœ์œ„๋ฅผ ๋งค๊ธฐ๊ณ , VRAM ํ‘œ๋ฅผ ์ œ๊ณตํ•˜๋ฉฐ, ์•„๋ž์–ด AI๋ฅผ ๋กœ์ปฌ์—์„œ ๋ฐฐํฌํ•˜๊ณ  ํ‰๊ฐ€ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ณด์—ฌ๋“œ๋ฆฝ๋‹ˆ๋‹ค.

Key Takeaways

  • Jais 30B (Core42/G42, ์•„๋ถ€๋‹ค๋น„): 2026๋…„ ์ตœ๊ณ ์˜ ์•„๋ž์–ด ๋„ค์ดํ‹ฐ๋ธŒ ๋กœ์ปฌ LLM์ž…๋‹ˆ๋‹ค. 126B ์•„๋ž์–ด + 251B ์˜์–ด ํ† ํฐ์œผ๋กœ ํ›ˆ๋ จ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. Apache 2.0 ๋ผ์ด์„ ์Šค. Q4 ์–‘์žํ™” ์‹œ ~18-20 GB VRAM์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค(์ „์ฒด FP16์˜ ๊ฒฝ์šฐ ๋ฉ€ํ‹ฐ GPU ๋˜๋Š” ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ GPU ํ•„์š”).
  • Falcon Arabic 7B (TII, ์•„๋ถ€๋‹ค๋น„): UAE ๋„ค์ดํ‹ฐ๋ธŒ ์•„๋ž์–ด ์ค‘์‹ฌ ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. ์†Œ๋น„์ž GPU์—์„œ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค: Q4_K_M ~5 GB VRAM. Falcon 3-7B ์•„ํ‚คํ…์ฒ˜ ๊ธฐ๋ฐ˜์ด๋ฉฐ, ๋„ค์ดํ‹ฐ๋ธŒ(๋น„๋ฒˆ์—ญ) ์•„๋ž์–ด ๋ฐ์ดํ„ฐ์…‹์œผ๋กœ ํ›ˆ๋ จ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.
  • Qwen3-8B (Alibaba Cloud): ๊ฐ•๋ ฅํ•œ ์•„๋ž์–ด ์ง€์›์„ ๊ฐ–์ถ˜ ์ตœ๊ณ ์˜ ๋‹ค๊ตญ์–ด ์˜ต์…˜์ž…๋‹ˆ๋‹ค. HELM Arabic์—์„œ ํ‰๊ท  0.786(235B ๋ณ€ํ˜•); 8B๋Š” Q4์—์„œ ~5-6 GB VRAM์— ๋งž์Šต๋‹ˆ๋‹ค. 119๊ฐœ ์–ธ์–ด ์ง€์›.
  • ALLaM 34B (HUMAIN/SDAIA, ์‚ฌ์šฐ๋””์•„๋ผ๋น„์•„): ์‚ฌ์šฐ๋”” ๊ตญ๊ฐ€ ๋ชจ๋ธ๋กœ, HUMAIN Chat์„ ๊ตฌ๋™ํ•ฉ๋‹ˆ๋‹ค. ๊ณต๊ฐœ ์ ‘๊ทผ์šฉ ์—ฐ๊ตฌ/๋น„์ƒ์—…์šฉ ๋ผ์ด์„ ์Šค์ž…๋‹ˆ๋‹ค. Microsoft Azure AI์—์„œ ์ด์šฉ ๊ฐ€๋Šฅ(7B ๋ณ€ํ˜•).
  • MSA vs. ๋ฐฉ์–ธ: ๋ชจ๋“  ๋ชจ๋ธ์ด ํ˜„๋Œ€ ํ‘œ์ค€ ์•„๋ž์–ด(MSA)๋ฅผ ์ž˜ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ๋ฐฉ์–ธ ์ปค๋ฒ„๋ฆฌ์ง€๋Š” ๋‹ค์–‘ํ•ฉ๋‹ˆ๋‹ค โ€” ๋Œ€์ƒ ๋ณ€ํ˜•์˜ ์‹ค์ œ ์˜ˆ์‹œ๋กœ ํŠน์ • ์‚ฌ์šฉ ์‚ฌ๋ก€๋ฅผ ํ…Œ์ŠคํŠธํ•˜์‹ญ์‹œ์˜ค.
  • ๋ฐฐํฌ: Ollama๋Š” Falcon 3๋ฅผ ๋„ค์ดํ‹ฐ๋ธŒ๋กœ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค(ollama pull falcon3:7b). Jais์™€ ALLaM์€ llama.cpp/Ollama์šฉ์œผ๋กœ Hugging Face์—์„œ GGUF ๋ณ€ํ™˜์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
  • ๋ฐ์ดํ„ฐ ์ฃผ๊ถŒ: ์•„๋ž์–ด NLP๋ฅผ ๋กœ์ปฌ์—์„œ ์‹คํ–‰ํ•˜๋ฉด ๊ฐœ์ธ์ •๋ณด๊ฐ€ ๊ตญ๊ฒฝ ๋‚ด์— ์œ ์ง€๋ฉ๋‹ˆ๋‹ค โ€” UAE PDPL, ์‚ฌ์šฐ๋”” NDMO ๋ฐ ๊ฑธํ”„ ๋ฐ์ดํ„ฐ ์ฃผ๊ถŒ ๋ชฉํ‘œ์— ๋ถ€ํ•ฉํ•ฉ๋‹ˆ๋‹ค.

Jais 30B (Apache 2.0, ์•„๋ถ€๋‹ค๋น„)์™€ Falcon Arabic 7B (TII, ์•„๋ถ€๋‹ค๋น„)๋Š” 2026๋…„ ์ตœ๊ณ ์˜ ์•„๋ž์–ด ๋„ค์ดํ‹ฐ๋ธŒ ๋กœ์ปฌ LLM์ด๋ฉฐ, Qwen3-8B๋Š” ์†Œ๋น„์ž ํ•˜๋“œ์›จ์–ด์šฉ ๋‹ค๊ตญ์–ด ์•„๋ž์–ด ๋ฒค์น˜๋งˆํฌ๋ฅผ ์„ ๋„ํ•ฉ๋‹ˆ๋‹ค.

์ž์ฒด ์„œ๋ฒ„์—์„œ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ๋Š” ์ตœ๊ณ ์˜ ์•„๋ž์–ด AI: ์ตœ๊ณ ์˜ ์•„๋ž์–ด ํ’ˆ์งˆ์„ ์œ„ํ•œ Jais 30B(๊ณ ๊ธ‰ GPU ํ•„์š”), ์ผ๋ฐ˜ ์ปดํ“จํ„ฐ์šฉ Falcon Arabic 7B, ๋˜๋Š” ๋‹ค๋ฅธ ์–ธ์–ด๋„ ํ•„์š”ํ•˜๋‹ค๋ฉด Qwen3-8B.

์•„๋ž์–ด ์ง€์› ๋กœ์ปฌ LLM์ด ์ค‘์š”ํ•œ ์ด์œ 

์•„๋ž์–ด๋Š” ๊ฑธํ”„, ๋ ˆ๋ฐ˜ํŠธ, ๋ถ์•„ํ”„๋ฆฌ์นด ์ „์—ญ์—์„œ 3์–ต ๋ช… ์ด์ƒ์˜ ํ™”์ž๊ฐ€ ์‚ฌ์šฉํ•˜๋Š” ๋ชจ๊ตญ์–ด์ž…๋‹ˆ๋‹ค. UAE, ์‚ฌ์šฐ๋””์•„๋ผ๋น„์•„, ์นดํƒ€๋ฅด, ์ด์ง‘ํŠธ ๋ฐ ๊ทธ ์™ธ ์ง€์—ญ์˜ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ AI์—์„œ ์•„๋ž์–ด ํ’ˆ์งˆ์€ ์‹ค์งˆ์ ์ธ ์š”๊ตฌ ์‚ฌํ•ญ์ด๋ฉฐ ๋‚˜์ค‘์— ๊ณ ๋ คํ•  ์‚ฌํ•ญ์ด ์•„๋‹™๋‹ˆ๋‹ค.

MSA vs. ๋ฐฉ์–ธ ์•„๋ž์–ด. ํ˜„๋Œ€ ํ‘œ์ค€ ์•„๋ž์–ด(ุงู„ูุตุญู‰ / MSA)๋Š” ๋ฏธ๋””์–ด, ์ •๋ถ€, ๊ต์œก์—์„œ ์‚ฌ์šฉ๋˜๋Š” ๊ณต์‹ ๋ฌธ์–ด ํ‘œ์ค€์ž…๋‹ˆ๋‹ค. ์ง€์—ญ ๋ฐฉ์–ธ(๊ฑธํ”„, ์ด์ง‘ํŠธ, ๋ ˆ๋ฐ˜ํŠธ, ๋ชจ๋กœ์ฝ”)์€ ์ƒ๋‹นํžˆ ๋‹ค๋ฆ…๋‹ˆ๋‹ค โ€” MSA๋กœ๋งŒ ํ›ˆ๋ จ๋œ ๋ชจ๋ธ์€ ๊ฑธํ”„ ๋ฐฉ์–ธ ์ž…๋ ฅ์„ ์ž˜๋ชป ์ฝ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ์‚ฌ์šฉ ์‚ฌ๋ก€์—์„œ๋Š” ๋‘˜ ๋‹ค ํ…Œ์ŠคํŠธํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

๋ฐ์ดํ„ฐ ์ฃผ๊ถŒ์ด ๋‘ ๋ฒˆ์งธ ๋™์ธ์ž…๋‹ˆ๋‹ค. ๊ฑธํ”„ ๊ทœ์ œ ๋‹น๊ตญ(UAE PDPL, ์‚ฌ์šฐ๋””์•„๋ผ๋น„์•„ NDMO)์€ ๊ตญ๊ฒฝ ๊ฐ„ ๊ฐœ์ธ์ •๋ณด ์ด์ „์„ ์ œํ•œํ•ฉ๋‹ˆ๋‹ค. ์•„๋ž์–ด ๊ณ ๊ฐ ๋˜๋Š” ํ™˜์ž ๋ฐ์ดํ„ฐ๋ฅผ ๋ฏธ๊ตญ ํ˜ธ์ŠคํŒ… ํด๋ผ์šฐ๋“œ API๋กœ ์ „์†กํ•˜๋ฉด ์ด์ „ ์œ„ํ—˜์ด ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค. ์•„๋ž์–ด NLP๋ฅผ ๋กœ์ปฌ์—์„œ ์‹คํ–‰ํ•˜๋ฉด ๊ทธ ์œ„ํ—˜์ด ์ œ๊ฑฐ๋ฉ๋‹ˆ๋‹ค. UAE PDPL ๋ฐ์ดํ„ฐ ์ฃผ๊ถŒ ๊ฐ€์ด๋“œ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

"๋ฒˆ์—ญ๋œ ์˜์–ด" ํ’ˆ์งˆ ๊ฒฉ์ฐจ. ๋งŽ์€ ๋ฒ”์šฉ LLM์ด ์•„๋ž์–ด ์ง€์›์„ ์ฃผ์žฅํ•˜์ง€๋งŒ ์ฃผ๋กœ ๋ฒˆ์—ญ๋œ ์˜์–ด ๋ฐ์ดํ„ฐ๋กœ ๋ฏธ์„ธ ์กฐ์ •๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์•„๋ž์–ด์˜ ํ† ํฐํ™”๋Š” ๋น„ํšจ์œจ์ ์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค(์•„๋ž์–ด ์Šคํฌ๋ฆฝํŠธ๋Š” ์ ์ ˆํ•œ ์˜ค๋ฅธ์ชฝ์—์„œ ์™ผ์ชฝ ํ† ํฐํ™”๊ฐ€ ํ•„์š”ํ•จ). Jais ๋ฐ Falcon Arabic๊ณผ ๊ฐ™์€ ์ง„์ •ํ•œ ์ด์ค‘ ์–ธ์–ด ๋ชจ๋ธ์€ ์•„๋ž์–ด ์ฝ”ํผ์Šค๋กœ ๋„ค์ดํ‹ฐ๋ธŒ๋กœ ํ›ˆ๋ จ๋ฉ๋‹ˆ๋‹ค.

์ตœ๊ณ ์˜ ์•„๋ž์–ด ๋กœ์ปฌ LLM: ์˜จํ”„๋ ˆ๋ฏธ์Šค ๋ฐฐํฌ๋ฅผ ์œ„ํ•œ ์ˆœ์œ„

์•„๋ž์–ด ๋Šฅ๋ ฅ ๋ฐ ๋กœ์ปฌ/์˜จํ”„๋ ˆ๋ฏธ์Šค ๋ฐฐํฌ ์ ํ•ฉ์„ฑ์— ๋”ฐ๋ผ ์ˆœ์œ„๋ฅผ ๋งค๊ฒผ์Šต๋‹ˆ๋‹ค.

  • 1. Jais 30B โ€” ์ตœ๊ณ ์˜ ์•„๋ž์–ด ํ’ˆ์งˆ (Apache 2.0, ์˜จํ”„๋ ˆ๋ฏธ์Šค ์ค€๋น„ ์™„๋ฃŒ). ๊ฐœ๋ฐœ์‚ฌ: Core42 / Inception AI (G42 ๊ทธ๋ฃน, ์•„๋ถ€๋‹ค๋น„) + MBZUAI ์—ฐ๊ตฌ + Cerebras ํ›ˆ๋ จ. ํ›ˆ๋ จ: 126B ์•„๋ž์–ด ํ† ํฐ + 251B ์˜์–ด ํ† ํฐ + 50B ์ฝ”๋“œ ํ† ํฐ. ์ธ๊ฐ„ ํ‰๊ฐ€์—์„œ Jais 30B๋Š” ํ‰๊ฐ€์˜ 96%์—์„œ ์•„๋ž์–ด๋กœ Jais 13B๋ฅผ ๋Šฅ๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. ๋ผ์ด์„ ์Šค: Apache 2.0(์™„์ „ ๊ณต๊ฐœ, ์ƒ์—…์  ์‚ฌ์šฉ ํ—ˆ์šฉ). Hugging Face: inceptionai/jais-30b-v3. VRAM: ~18-20 GB Q4 ์ถ”์ •์น˜(FP16์˜ ๊ฒฝ์šฐ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ GPU ๋˜๋Š” ๋ฉ€ํ‹ฐ GPU). ์ตœ์  ์šฉ๋„: ์•„๋ž์–ด๊ฐ€ ์ฃผ๋œ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๋ฌธ์„œ ์ฒ˜๋ฆฌ, ๊ณ ๊ฐ ์ง€์›, ์ •๋ถ€ ๋ฐฐํฌ์—์„œ ์ตœ๊ณ ์˜ ์•„๋ž์–ด ํ’ˆ์งˆ.
  • 2. Falcon Arabic 7B โ€” ์†Œ๋น„์ž ํ•˜๋“œ์›จ์–ด์— ์ตœ์  (TII ์•„๋ถ€๋‹ค๋น„). ๊ฐœ๋ฐœ์‚ฌ: Technology Innovation Institute (TII), ์•„๋ถ€๋‹ค๋น„(Advanced Technology Research Council ์‚ฐํ•˜). ๊ธฐ๋ฐ˜: Falcon 3-7B ์•„ํ‚คํ…์ฒ˜(December 17, 2024 ์ถœ์‹œ). ํ›ˆ๋ จ: ๋„ค์ดํ‹ฐ๋ธŒ(๋น„๋ฒˆ์—ญ) ์•„๋ž์–ด ๋ฐ์ดํ„ฐ์…‹, MSA ๋ฐ ์ง€์—ญ ๋ฐฉ์–ธ. ๋ผ์ด์„ ์Šค: Falcon LLM License โ€” ํ—ˆ์šฉ์ , ์ƒ์—…์  ์‚ฌ์šฉ ํ—ˆ์šฉ. VRAM: Q4_K_M ~5 GB โ€” RTX 4060 8GB, RTX 3060 12GB ๋ฐ ๋™๊ธ‰์—์„œ ์‹คํ–‰. ์ตœ์  ์šฉ๋„: ์†Œ๋น„์ž ๋ฐ ํ”„๋กœ์Šˆ๋จธ ํ•˜๋“œ์›จ์–ด ๋ฐฐํฌ; ์•„๋ถ€๋‹ค๋น„ ๊ธฐ๊ด€์˜ UAE ๋„ค์ดํ‹ฐ๋ธŒ ๋ชจ๋ธ.
  • 3. Qwen3-8B โ€” ๊ฐ•๋ ฅํ•œ ์•„๋ž์–ด๋ฅผ ๊ฐ–์ถ˜ ์ตœ๊ณ ์˜ ๋‹ค๊ตญ์–ด ์˜ต์…˜ (Alibaba Cloud). ๊ฐœ๋ฐœ์‚ฌ: Alibaba Cloud. ์–ธ์–ด: 119๊ฐœ ์–ธ์–ด ๋ฐ ๋ฐฉ์–ธ. ๋ฒค์น˜๋งˆํฌ: Qwen3-235B-A22B๋Š” HELM Arabic์—์„œ ํ‰๊ท  0.786์„ ๊ธฐ๋ก; ๋กœ์ปฌ ํ•˜๋“œ์›จ์–ด์—๋Š” 8B ๋ณ€ํ˜•์ด ๊ถŒ์žฅ๋ฉ๋‹ˆ๋‹ค. ๋ผ์ด์„ ์Šค: Apache 2.0. VRAM: Q4_K_M ~5-6 GB. ์ตœ์  ์šฉ๋„: ํ•˜๋‚˜์˜ ๋ชจ๋ธ์— ์•„๋ž์–ด + ์˜์–ด + ๊ธฐํƒ€ ์–ธ์–ด๊ฐ€ ํ•„์š”ํ•œ ํŒ€; Ollama์—์„œ ํญ๋„“๊ฒŒ ์ง€์›๋จ(ollama pull qwen3:8b).
  • 4. ALLaM 34B / 7B โ€” ์‚ฌ์šฐ๋”” ๊ตญ๊ฐ€ ๋ชจ๋ธ (HUMAIN/SDAIA). ๊ฐœ๋ฐœ์‚ฌ: SDAIA (Saudi Data and AI Authority) / HUMAIN (์‚ฌ์šฐ๋”” ๊ตญ๊ฐ€ AI ํšŒ์‚ฌ). ๋ฒ„์ „: 7B(Hugging Face, ์—ฐ๊ตฌ ์ ‘๊ทผ) ๋ฐ 34B(HUMAIN Chat ๊ตฌ๋™). Azure: ALLaM-2-7B-Instruct๋Š” September 2024๋ถ€ํ„ฐ Microsoft Azure AI์—์„œ ์ด์šฉ ๊ฐ€๋Šฅ. ๋ผ์ด์„ ์Šค: ๊ณต๊ฐœ ์ ‘๊ทผ์šฉ ์—ฐ๊ตฌ/๋น„์ƒ์—…์šฉ; HUMAIN์„ ํ†ตํ•œ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๋ผ์ด์„ ์‹ฑ. ์ตœ์  ์šฉ๋„: ์‚ฌ์šฐ๋”” ์ •๋ถ€ ๋ฐ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๋ฐฐํฌ; Vision 2030์— ๋ถ€ํ•ฉํ•˜๋Š” ์ฃผ๊ถŒ ๋ชจ๋ธ.
  • 5. Llama 3.1-8B-Instruct โ€” ์ตœ๊ณ ์˜ ์ผ๋ฐ˜ ๋‹ค๊ตญ์–ด ๊ธฐ์ค€์„  (Meta). ๊ฐœ๋ฐœ์‚ฌ: Meta. ์–ธ์–ด: ์•„๋ž์–ด ํฌํ•จ 20๊ฐœ ์ด์ƒ. ๋ผ์ด์„ ์Šค: Meta Llama 3.1 License โ€” ํ—ˆ์šฉ์ , ๊ด‘๋ฒ”์œ„ํ•œ ์ƒ์—…์  ์‚ฌ์šฉ. VRAM: Q4_K_M ~5-6 GB. ์ตœ์  ์šฉ๋„: ๊ด‘๋ฒ”์œ„ํ•œ ๋‹ค๊ตญ์–ด ์ง€์›๋„ ํ•„์š”ํ•œ ์•„๋ž์–ด ์›Œํฌ๋กœ๋“œ; ํญ๋„“์€ ์ปค๋ฎค๋‹ˆํ‹ฐ ์ง€์›๊ณผ ํ•จ๊ป˜ ๋„๋ฆฌ ๋ฐฐํฌ๋จ. ์•„๋ž์–ด ํ’ˆ์งˆ์ด ์ฃผ๋œ ๊ด€์‹ฌ์‚ฌ๋ผ๋ฉด Qwen3-8B ๋˜๋Š” Jais๋ฅผ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.
  • 6. Gemma 3 (4B/12B) โ€” ์•„๋ž์–ด ํฌํ•จ ๊ฐ•๋ ฅํ•œ ๋‹ค๊ตญ์–ด (Google). ๊ฐœ๋ฐœ์‚ฌ: Google. ์–ธ์–ด: ์•„๋ž์–ด(MSA ๋ฐ ๊ณ ์ „) ํฌํ•จ 140๊ฐœ ์ด์ƒ. ๋ผ์ด์„ ์Šค: Gemma Terms of Use(๋Œ€๋ถ€๋ถ„์˜ ์ƒ์—…์  ์šฉ๋„์— ํ—ˆ์šฉ์ ). VRAM: 4B๋Š” Q4 ~3 GB; 12B๋Š” Q4 ~8 GB. ์ตœ์  ์šฉ๋„: ์ด๋ฏธ Google ์ƒํƒœ๊ณ„์— ์žˆ๋Š” ํŒ€; ๋‹ค๊ตญ์–ด ๋ฒˆ์—ญ ๋ฐ ์š”์•ฝ; ์•„๋ž์–ด ์Šคํฌ๋ฆฝํŠธ ๋ฌธ์„œ ์ฒ˜๋ฆฌ.

์•„๋ž์–ด ๋กœ์ปฌ LLM์˜ VRAM ์š”๊ตฌ ์‚ฌํ•ญ

๋ชจ๋ธ ๋ฐ ์–‘์žํ™”๋ณ„ ํ•„์š” VRAM์ž…๋‹ˆ๋‹ค. *๋กœ ํ‘œ์‹œ๋œ ํ–‰์€ ํŒŒ๋ผ๋ฏธํ„ฐ ์Šค์ผ€์ผ๋ง ์ถ”์ •์น˜์ž…๋‹ˆ๋‹ค(๊ณต์‹ ๋ฒค์น˜๋งˆํฌ ์—†์Œ). ๋ฐฐํฌ ์ „์— ํ•ญ์ƒ ํŠน์ • ํ•˜๋“œ์›จ์–ด๋กœ ํ™•์ธํ•˜์‹ญ์‹œ์˜ค.

๋ชจ๋ธํŒŒ๋ผ๋ฏธํ„ฐQ4_K_M VRAMFP16 VRAM์ตœ์†Œ ํ•˜๋“œ์›จ์–ด
Falcon Arabic7B~5 GB~16.7 GBRTX 4060 8 GB / RTX 3060 12 GB
Jais 13B13B~8-10 GB*~26 GB*RTX 3090 24 GB (Q4)
Jais 30B30B~18-20 GB*~60 GB*RTX 4090 24 GB (Q4 ๋น ๋“ฏํ•จ), A100 40 GB (FP16)
ALLaM7B~5 GB*~16 GB*RTX 4060 8 GB / RTX 3060 12 GB
Qwen38B~5-6 GB~16 GBRTX 4060 8 GB / RTX 3060 12 GB
Llama 3.18B~5-6 GB~16 GBRTX 4060 8 GB / RTX 3060 12 GB
Gemma 34B~3 GB~8 GBRTX 3060 8 GB

Ollama๋กœ ์•„๋ž์–ด ๋ชจ๋ธ์„ ์˜จํ”„๋ ˆ๋ฏธ์Šค์—์„œ ์‹คํ–‰ํ•˜๋Š” ๋ฐฉ๋ฒ•

GPU ์„œ๋ฒ„ ๋˜๋Š” ์›Œํฌ์Šคํ…Œ์ด์…˜์—์„œ ์•„๋ž์–ด ๋ชจ๋ธ์„ ๋กœ์ปฌ๋กœ ๋ฐฐํฌํ•˜๋Š” ๋‹จ๊ณ„๋ณ„ ๋ฐฉ๋ฒ•์ž…๋‹ˆ๋‹ค.

  1. 1
    Ollama ์„ค์น˜: curl -fsSL https://ollama.com/install.sh | sh (Linux) ๋˜๋Š” ollama.com์—์„œ ๋‹ค์šด๋กœ๋“œ(Windows/Mac). Falcon 3๋ฅผ ๋„ค์ดํ‹ฐ๋ธŒ๋กœ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.
  2. 2
    Falcon Arabic 7B ๋ฐ›๊ธฐ: ollama pull falcon3:7b โ€” ~5 GB ๋‹ค์šด๋กœ๋“œ. ์‹คํ–‰: ollama run falcon3:7b. "ุงูƒุชุจ ู‚ุตูŠุฏุฉ ุนู† ุฃุจูˆุธุจูŠ"(์•„๋ถ€๋‹ค๋น„์— ๊ด€ํ•œ ์‹œ๋ฅผ ์“ฐ์„ธ์š”)์™€ ๊ฐ™์€ ํ”„๋กฌํ”„ํŠธ๋กœ ์•„๋ž์–ด๋ฅผ ํ…Œ์ŠคํŠธํ•˜์‹ญ์‹œ์˜ค.
  3. 3
    ๋‹ค๊ตญ์–ด์šฉ Qwen3-8B ๋ฐ›๊ธฐ: ollama pull qwen3:8b โ€” ~5 GB ๋‹ค์šด๋กœ๋“œ. MSA ๋ฐ ๋ฐฉ์–ธ ๋งฅ๋ฝ ์ „๋ฐ˜์—์„œ ๊ฐ•๋ ฅํ•œ ์•„๋ž์–ด.
  4. 4
    Jais 30B์˜ ๊ฒฝ์šฐ: Hugging Face(inceptionai/jais-30b-v3)์—์„œ ๋‹ค์šด๋กœ๋“œํ•˜๊ณ , llama.cpp ๋ณ€ํ™˜ ๋„๊ตฌ๋กœ GGUF๋กœ ๋ณ€ํ™˜ํ•˜๊ณ , Q4_K_M์œผ๋กœ ์–‘์žํ™”ํ•œ ๋‹ค์Œ, Ollama(ollama create jais-30b -f Modelfile) ๋˜๋Š” llama.cpp ์„œ๋ฒ„๋กœ ๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค.
  5. 5
    ํ”„๋กœ๋•์…˜ ์ถ”๋ก : ๊ณ ์ฒ˜๋ฆฌ๋Ÿ‰ ์•„๋ž์–ด API ์„œ๋น™์— vLLM์„ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค. vLLM์€ Falcon 3์™€ Qwen3๋ฅผ ๋„ค์ดํ‹ฐ๋ธŒ๋กœ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. localhost:8000์—์„œ OpenAI ํ˜ธํ™˜ ์—”๋“œํฌ์ธํŠธ๋กœ ๋…ธ์ถœํ•˜์‹ญ์‹œ์˜ค.
  6. 6
    ์•„๋ž์–ด ํ”„๋กฌํ”„ํŠธ ํŒ: ํ•ญ์ƒ ์–ธ์–ด๋ฅผ ์ง€์ •ํ•˜์‹ญ์‹œ์˜ค โ€” "ุฃุฌุจ ุจุงู„ู„ุบุฉ ุงู„ุนุฑุจูŠุฉ ุงู„ูุตุญู‰"(ํ˜„๋Œ€ ํ‘œ์ค€ ์•„๋ž์–ด๋กœ ๋‹ตํ•˜์„ธ์š”). ๋ฐฉ์–ธ์˜ ๊ฒฝ์šฐ, ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์— ๋Œ€์ƒ ๋ฐฉ์–ธ์˜ ์˜ˆ์‹œ ๋ฌธ์žฅ์„ ํฌํ•จํ•˜์‹ญ์‹œ์˜ค.

์‚ฌ์šฉ ์‚ฌ๋ก€์— ๋งž๋Š” ์•„๋ž์–ด LLM ํ’ˆ์งˆ์„ ํ‰๊ฐ€ํ•˜๋Š” ๋ฐฉ๋ฒ•

๋ฒค์น˜๋งˆํฌ๋Š” ์ถœ๋ฐœ์ ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์‹ค์ œ ์•„๋ž์–ด ํ’ˆ์งˆ์€ ํŠน์ • ๋„๋ฉ”์ธ๊ณผ ๋ฐฉ์–ธ์—์„œ ํ‰๊ฐ€ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

  • HELM Arabic (Stanford CRFM): ์ „์ฒด๋ก ์  ๋‹ค๊ตญ์–ด ํ‰๊ฐ€. Qwen3-235B๋Š” ํ‰๊ท  0.786์„ ๊ธฐ๋กํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ชจ๋ธ ๊ฐ„ ์ƒ๋Œ€์  ๋น„๊ต ๊ธฐ์ค€์œผ๋กœ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค โ€” ๋„๋ฉ”์ธ์˜ ์ ˆ๋Œ€์  ํ’ˆ์งˆ ์ ์ˆ˜๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค.
  • ALUE (Arabic Language Understanding Evaluation): ๊ฐ์„ฑ ๋ถ„์„, ์ž…์žฅ ํƒ์ง€, ๋ฐฉ์–ธ ์‹๋ณ„์„ ํฌํ•จํ•œ 8๊ฐœ NLU ์ž‘์—…. ํŠธ์œ„ํ„ฐ ์ค‘์‹ฌ ๋ฐ์ดํ„ฐ์…‹ โ€” ์†Œ์…œ ๋ฏธ๋””์–ด ๋ฐ ๊ณ ๊ฐ ํ”ผ๋“œ๋ฐฑ ์‚ฌ์šฉ ์‚ฌ๋ก€์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค.
  • ArabicMMLU: MSA์˜ ํ•™์ˆ  ๋ฐ ์ „๋ฌธ ์ง€์‹ ์ž‘์—…. ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ์ง€์‹ ๋ฒ ์ด์Šค ๋ฐ ๋ฌธ์„œ Q&A ํ’ˆ์งˆ์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๋ฒค์น˜๋งˆํฌ์ž…๋‹ˆ๋‹ค.
  • AraBench: ๋ฐฉ์–ธ๋ณ„ ๋ฒˆ์—ญ ํ’ˆ์งˆ(์ด์ง‘ํŠธ, ์‹œ๋ฆฌ์•„, ๊ฑธํ”„). ์‚ฌ์šฉ ์‚ฌ๋ก€์— ํŠนํžˆ ๊ฑธํ”„ ์•„๋ž์–ด๊ฐ€ ํฌํ•จ๋œ๋‹ค๋ฉด ์—ฌ๊ธฐ์„œ ํ…Œ์ŠคํŠธํ•˜์‹ญ์‹œ์˜ค.
  • ์ž์ฒด ํ‰๊ฐ€(๊ถŒ์žฅ): ์‹ค์ œ ๋„๋ฉ”์ธ๊ณผ ๋Œ€์ƒ ๋ฐฉ์–ธ์œผ๋กœ 20-30๊ฐœ์˜ ํ…Œ์ŠคํŠธ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž‘์„ฑํ•˜์‹ญ์‹œ์˜ค. (1) ์‚ฌ์‹ค ์ •ํ™•์„ฑ, (2) ์ž์—ฐ์Šค๋Ÿฌ์šด ์•„๋ž์–ด ๋ฌธ๋ฒ•, (3) ์ ์ ˆํ•œ ์–ด์กฐ(๊ณต์‹ vs. ๋ฐฉ์–ธ), (4) ์ถ”๋ก ์—์„œ ์˜ฌ๋ฐ”๋ฅธ ์˜ค๋ฅธ์ชฝ์—์„œ ์™ผ์ชฝ ๊ตฌ์กฐ๋กœ ์ถœ๋ ฅ์„ ์ฑ„์ ํ•˜์‹ญ์‹œ์˜ค.
  • ์œ„ํ—˜ ์‹ ํ˜ธ: ๋ชจ๋ธ์ด ์š”์ฒญ ์—†์ด ์‘๋‹ต ์ค‘๊ฐ„์— ์˜์–ด๋กœ ์ „ํ™˜ํ•˜๊ฑฐ๋‚˜ "๋ฒˆ์—ญ๋œ" ํ‘œํ˜„(์˜์–ด ํŒจํ„ด์—์„œ ๋‹จ์–ด ๋Œ€ ๋‹จ์–ด ๋ฒˆ์—ญ)์„ ์ƒ์„ฑํ•˜๋ฉด, ํ”„๋กœ๋•์…˜ ์•„๋ž์–ด ์‚ฌ์šฉ์— ํ’ˆ์งˆ์ด ๋ถˆ์ถฉ๋ถ„ํ•ฉ๋‹ˆ๋‹ค.

์•„๋ž์–ด ๋กœ์ปฌ LLM์— ๊ด€ํ•œ ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ

์ผ๋ฐ˜ ๊ฒŒ์ด๋ฐ ๋…ธํŠธ๋ถ์—์„œ ์•„๋ž์–ด LLM์„ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ, Q4 ์–‘์žํ™”์˜ 7B ํด๋ž˜์Šค ๋ชจ๋ธ์˜ ๊ฒฝ์šฐ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. Falcon Arabic 7B์™€ Qwen3-8B๋Š” ~5-6 GB VRAM์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค โ€” RTX 4060(8 GB) ๋˜๋Š” RTX 3060(12 GB)์„ ๊ฐ–์ถ˜ ๋Œ€๋ถ€๋ถ„์˜ ๊ฒŒ์ด๋ฐ ๋…ธํŠธ๋ถ์—์„œ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Jais 30B๋Š” ๊ณ ๊ธ‰ ๋ฐ์Šคํฌํ†ฑ GPU(RTX 4090 24 GB) ๋˜๋Š” Q4 ์–‘์žํ™”์˜ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ GPU๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

Jais์™€ Falcon Arabic์˜ ์ฐจ์ด์ ์€ ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

๋‘˜ ๋‹ค ์•„๋ถ€๋‹ค๋น„์—์„œ ์‹œ์ž‘๋œ ์•„๋ž์–ด ์ง€์› ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. Jais(Core42/G42)๋Š” ๋” ํฌ๊ณ (์ตœ๋Œ€ 30B) 126B ์•„๋ž์–ด ํ† ํฐ์œผ๋กœ ์•„๋ž์–ด-์˜์–ด ์ด์ค‘ ์–ธ์–ด๋กœ ํŠน๋ณ„ํžˆ ํ›ˆ๋ จ๋˜์—ˆ์Šต๋‹ˆ๋‹ค โ€” ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๊ทœ๋ชจ์—์„œ ์•„๋ž์–ด ํ’ˆ์งˆ์— ์ตœ์ ํ™”๋˜์—ˆ์Šต๋‹ˆ๋‹ค. Falcon Arabic์€ TII(๋‹ค๋ฅธ ์•„๋ถ€๋‹ค๋น„ ๊ธฐ๊ด€)์˜ 7B ๋ชจ๋ธ๋กœ, ๋” ๊ด‘๋ฒ”์œ„ํ•œ Falcon 3 ์•„ํ‚คํ…์ฒ˜ ๊ธฐ๋ฐ˜์ž…๋‹ˆ๋‹ค โ€” ์†Œ๋น„์ž GPU ์นœํ™”์ ์ด๋ฉฐ UAE AI ์ƒํƒœ๊ณ„์˜ ์ผ๋ถ€์ž…๋‹ˆ๋‹ค. ์ตœ๊ณ ์˜ ์•„๋ž์–ด ํ’ˆ์งˆ: Jais 30B. ์†Œ๋น„์ž ํ•˜๋“œ์›จ์–ด: Falcon Arabic 7B.

Qwen3๋Š” ์ „์šฉ ์•„๋ž์–ด ๋ชจ๋ธ๋งŒํผ ์•„๋ž์–ด๋ฅผ ์ง€์›ํ•ฉ๋‹ˆ๊นŒ?

Qwen3๋Š” ๋งค์šฐ ๊ฐ•๋ ฅํ•œ ์ผ๋ฐ˜ ์•„๋ž์–ด ์ง€์›(119๊ฐœ ์–ธ์–ด, ์„ ๋„์ ์ธ HELM Arabic ์ ์ˆ˜)์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ ˆ๋Œ€์ ์œผ๋กœ ์ตœ๊ณ ์˜ ์•„๋ž์–ด ํ’ˆ์งˆ์ด ํ•„์š”ํ•œ ์ˆœ์ˆ˜ ์•„๋ž์–ด ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๋ฐฐํฌ์˜ ๊ฒฝ์šฐ, ์ผ๋ฐ˜์ ์œผ๋กœ Jais 30B๊ฐ€ ์„ ํ˜ธ๋ฉ๋‹ˆ๋‹ค. ์•„๋ž์–ด๊ฐ€ ํ•„์š”ํ•œ ์—ฌ๋Ÿฌ ์–ธ์–ด ์ค‘ ํ•˜๋‚˜์ธ ํ˜ผํ•ฉ ๋‹ค๊ตญ์–ด ์›Œํฌ๋กœ๋“œ์˜ ๊ฒฝ์šฐ, ๊ทธ ํญ๊ณผ ๋ฐฐํฌ ์šฉ์ด์„ฑ์œผ๋กœ ์ธํ•ด Qwen3-8B๊ฐ€ ๋” ๋‚˜์€ ์„ ํƒ์ธ ๊ฒฝ์šฐ๊ฐ€ ๋งŽ์Šต๋‹ˆ๋‹ค.

ALLaM์€ ๋ฌด์—‡์ด๋ฉฐ ์ƒ์—…์ ์œผ๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

ALLaM์€ SDAIA(ํ˜„์žฌ HUMAIN ๋ธŒ๋žœ๋“œ ์‚ฐํ•˜)์˜ ์‚ฌ์šฐ๋”” ๊ตญ๊ฐ€ ์•„๋ž์–ด ์ค‘์‹ฌ LLM ์ œํ’ˆ๊ตฐ์ž…๋‹ˆ๋‹ค. ๊ณต๊ฐœ ๋ฆด๋ฆฌ์Šค(Hugging Face์˜ 7B, Azure AI์˜ 7B)๋Š” ์—ฐ๊ตฌ/๋น„์ƒ์—…์šฉ ๋ผ์ด์„ ์Šค๋ฅผ ๋”ฐ๋ฆ…๋‹ˆ๋‹ค. ์‚ฌ์šฐ๋””์•„๋ผ๋น„์•„์—์„œ์˜ ์ƒ์—…์  ์‚ฌ์šฉ ๋˜๋Š” ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๋ฐฐํฌ์˜ ๊ฒฝ์šฐ, HUMAIN/SDAIA์— ์ง์ ‘ ๋ฌธ์˜ํ•˜์‹ญ์‹œ์˜ค. ALLaM 34B๋Š” ๊ตญ๊ฐ€ HUMAIN Chat ์•ฑ์„ ๊ตฌ๋™ํ•˜์ง€๋งŒ ๊ณต๊ฐœ ์ ‘๊ทผ์ด ์ œํ•œ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

์•„๋ž์–ด ํ† ํฐํ™”๋Š” ๋ชจ๋ธ ํ’ˆ์งˆ์— ์–ด๋–ค ์˜ํ–ฅ์„ ๋ฏธ์นฉ๋‹ˆ๊นŒ?

์•„๋ž์–ด ์Šคํฌ๋ฆฝํŠธ๋Š” ๋ฌธ์ž ์ˆ˜์ค€ ์˜ค๋ฅ˜๋ฅผ ํ”ผํ•˜๊ธฐ ์œ„ํ•ด ์ ์ ˆํ•œ ํ† ํฐํ™”๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ์•„๋ž์–ด๋กœ ๋„ค์ดํ‹ฐ๋ธŒ ํ›ˆ๋ จ๋œ ๋ชจ๋ธ(Jais, Falcon Arabic)์€ ์•„๋ž์–ด ํ˜•ํƒœ๋ก ์— ์ตœ์ ํ™”๋œ ํ† ํฌ๋‚˜์ด์ €๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์ผ๋ฐ˜ ๋‹ค๊ตญ์–ด ๋ชจ๋ธ์€ ์•„๋ž์–ด๋ฅผ ๋น„ํšจ์œจ์ ์œผ๋กœ ํ† ํฐํ™”ํ•  ์ˆ˜ ์žˆ์–ด(์–ด๊ทผ-ํŒจํ„ด ํ˜•ํƒœ๋ก  ๋ถ„ํ• ) ๋ณต์žกํ•œ ์•„๋ž์–ด ํ…์ŠคํŠธ์—์„œ ํ’ˆ์งˆ ์ €ํ•˜๋ฅผ ์ดˆ๋ž˜ํ•ฉ๋‹ˆ๋‹ค. ํ”„๋กœ๋•์…˜ ๋ฐฐํฌ ์ „์— ์‹ค์ œ ์ž…๋ ฅ ๋ฐ์ดํ„ฐ๋กœ ํ…Œ์ŠคํŠธํ•˜์‹ญ์‹œ์˜ค.

์•„๋ž์–ด ๋กœ์ปฌ LLM์ด ์˜ค๋ฅธ์ชฝ์—์„œ ์™ผ์ชฝ(RTL) ๋ฌธ์„œ๋ฅผ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๋ชจ๋ธ์€ ์˜ฌ๋ฐ”๋ฅธ ์˜ค๋ฅธ์ชฝ์—์„œ ์™ผ์ชฝ ๋ฐฉํ–ฅ์œผ๋กœ ์•„๋ž์–ด ํ…์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค โ€” ์•„๋ž์–ด๋Š” ์œ ๋‹ˆ์ฝ”๋“œ์—์„œ ์–‘๋ฐฉํ–ฅ์ด๋ฉฐ ๋ชจ๋ธ์€ ์ ์ ˆํ•œ RTL ์•„๋ž์–ด๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ์ธํ„ฐํŽ˜์ด์Šค๊ฐ€ RTL ๋ Œ๋”๋ง(HTML dir="rtl", CSS direction:rtl)์„ ์ฒ˜๋ฆฌํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. llama.cpp, Ollama, vLLM์€ ์œ ๋‹ˆ์ฝ”๋“œ ์•„๋ž์–ด ํ…์ŠคํŠธ๋ฅผ ์˜ฌ๋ฐ”๋ฅด๊ฒŒ ๋ฐ˜ํ™˜ํ•˜๋ฉฐ; ๋ฐฉํ–ฅ์€ UI ๋ ˆ์ด์–ด๊ฐ€ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค.

UAE ์ •๋ถ€ ๋ฐฐํฌ์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ์•„๋ž์–ด LLM์€ ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Falcon Arabic 7B(TII, ์•„๋ถ€๋‹ค๋น„)์™€ Jais 30B(Core42/G42, ์•„๋ถ€๋‹ค๋น„)๋Š” ๋ชจ๋‘ UAE ์ •๋ถ€ ์ œํœด ์—ฐ๊ตฌ ๊ธฐ๊ด€์—์„œ ์œ ๋ž˜ํ•œ UAE ๋„ค์ดํ‹ฐ๋ธŒ ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. ์ฃผ๊ถŒ๊ณผ ๊ฐ์‚ฌ ๊ฐ€๋Šฅ์„ฑ ์ธก๋ฉด์—์„œ ๊ฐ€์žฅ ๋ถ€ํ•ฉํ•˜๋Š” ์„ ํƒ์ž…๋‹ˆ๋‹ค. ๋‘˜ ๋‹ค ๋ฐ์ดํ„ฐ๊ฐ€ UAE ์ธํ”„๋ผ๋ฅผ ๋ฒ—์–ด๋‚˜์ง€ ์•Š๊ณ  ์˜จํ”„๋ ˆ๋ฏธ์Šค์— ๋ฐฐํฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. UAE PDPL ๋ฐ์ดํ„ฐ ์ฃผ๊ถŒ ๊ฐ€์ด๋“œ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

ํ”„๋กฌํ”„ํŠธ์—์„œ ๊ฑธํ”„ ์•„๋ž์–ด ๋ฐฉ์–ธ๊ณผ MSA๋ฅผ ์–ด๋–ป๊ฒŒ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๊นŒ?

๊ธฐ๋ณธ ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ: "ุฃุฌุจ ุจุงู„ู„ุบุฉ ุงู„ุนุฑุจูŠุฉ ุงู„ูุตุญู‰"(ํ˜„๋Œ€ ํ‘œ์ค€ ์•„๋ž์–ด๋กœ ๋‹ตํ•˜์„ธ์š”). ๊ฑธํ”„ ์•„๋ž์–ด(์—๋ฏธ๋ฆฌํŠธ, ์‚ฌ์šฐ๋””, ์ฟ ์›จ์ดํŠธ)์˜ ๊ฒฝ์šฐ, ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์— ์˜ˆ์‹œ ๋ฐฉ์–ธ ๊ตฌ๋ฌธ์„ ์ถ”๊ฐ€ํ•˜๊ฑฐ๋‚˜ ๋„๋ฉ”์ธ ๋ฐ์ดํ„ฐ๋กœ ๋ฏธ์„ธ ์กฐ์ •ํ•˜์‹ญ์‹œ์˜ค. ๋‚˜์—ด๋œ ๋ชจ๋“  ๋ชจ๋ธ์ด MSA๋ฅผ ์ž˜ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค; ๋ฐฉ์–ธ ํ’ˆ์งˆ์€ ๋‹ค์–‘ํ•ฉ๋‹ˆ๋‹ค. ํ”„๋กœ๋•์…˜ ํ’ˆ์งˆ์„ ๊ฐ€์ •ํ•˜๊ธฐ ์ „์— 5-10๊ฐœ์˜ ์˜ˆ์‹œ ๋ฐฉ์–ธ ์ฟผ๋ฆฌ๋กœ ๊ตฌ์ฒด์ ์œผ๋กœ ํ…Œ์ŠคํŠธํ•˜์‹ญ์‹œ์˜ค.

Jais ๋˜๋Š” Falcon Arabic์„ ์ž์ฒด ์•„๋ž์–ด ๋ฐ์ดํ„ฐ๋กœ ๋ฏธ์„ธ ์กฐ์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ โ€” ๋‘˜ ๋‹ค ๋ฏธ์„ธ ์กฐ์ •์„ ํ—ˆ์šฉํ•˜๋Š” ๊ณต๊ฐœ ๋ผ์ด์„ ์Šค(Jais๋Š” Apache 2.0, Falcon Arabic์€ Falcon LLM License)๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. Unsloth ๋˜๋Š” PEFT ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์™€ ๊ฐ™์€ ๋„๊ตฌ๋กœ LoRA ๋˜๋Š” QLoRA ๋ฏธ์„ธ ์กฐ์ •์„ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค. ๋„๋ฉ”์ธ๋ณ„ ์•„๋ž์–ด ๋ฐ์ดํ„ฐ(๋ฒ•๋ฅ , ์˜๋ฃŒ, ๊ธˆ์œต)๋กœ ๋ฏธ์„ธ ์กฐ์ •ํ•˜๋ฉด ํŠนํ™”๋œ ์‚ฌ์šฉ ์‚ฌ๋ก€์˜ ํ’ˆ์งˆ์ด ํฌ๊ฒŒ ํ–ฅ์ƒ๋ฉ๋‹ˆ๋‹ค. PDPL ์ค€์ˆ˜๋ฅผ ์œ„ํ•ด ๋ฏธ์„ธ ์กฐ์ • ๋ฐ์ดํ„ฐ๋ฅผ ์˜จํ”„๋ ˆ๋ฏธ์Šค์— ์œ ์ง€ํ•˜์‹ญ์‹œ์˜ค.

Jais 30B๋ฅผ ๋กœ์ปฌ์—์„œ ์‹คํ–‰ํ•˜๋ ค๋ฉด ์–ด๋–ค ํ•˜๋“œ์›จ์–ด๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๊นŒ?

Q4_K_M ์–‘์žํ™”์—์„œ Jais 30B๋Š” ์ถ”์ • 18-20 GB VRAM์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค(์ถ”์ •์น˜ โ€” ๊ณต์‹ ๋ฒค์น˜๋งˆํฌ ์—†์Œ). NVIDIA RTX 4090(24 GB)์€ ์ ๋‹นํ•œ ์ปจํ…์ŠคํŠธ๋กœ Q4์—์„œ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ; A100 40 GB์€ FP16์—์„œ ํŽธ์•ˆํ•˜๊ฒŒ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ํ”„๋กœ๋•์…˜ ์ฒ˜๋ฆฌ๋Ÿ‰์˜ ๊ฒฝ์šฐ, ๋ฉ€ํ‹ฐ GPU ๋ชจ๋“œ์˜ ๋‘ ๊ฐœ RTX 4090 ๋˜๋Š” ๋‹จ์ผ A100/H100์ด ๊ถŒ์žฅ๋ฉ๋‹ˆ๋‹ค. VRAM ๊ณ„์‚ฐ๊ธฐ ๊ฐ€์ด๋“œ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

์ถœ์ฒ˜

  • Technology Innovation Institute (TII) โ€” Falcon 3 ๋ฐœํ‘œ, December 17, 2024 โ€” tii.ae
  • Falcon 3 Hugging Face ๋ชจ๋ธ ํŽ˜์ด์ง€ โ€” huggingface.co/tiiuae/Falcon3-7B-Instruct
  • Core42 / Cerebras โ€” Jais 30B ๋ณด๋„ ์ž๋ฃŒ โ€” cerebras.ai ๋ฐ g42.ai
  • Jais 30B on Hugging Face โ€” huggingface.co/inceptionai/jais-30b-v3
  • SDAIA / HUMAIN โ€” ALLaM 34B ๋ฐœํ‘œ, May 2025 โ€” humain.ai
  • ALLaM-2-7B on Microsoft Azure AI โ€” techcommunity.microsoft.com (September 2024)
  • HELM Arabic โ€” Stanford CRFM, December 2025 โ€” crfm.stanford.edu/2025/12/18/helm-arabic.html
  • Qwen3 Technical Report โ€” arxiv.org/abs/2505.09388
  • ALUE Benchmark โ€” aclanthology.org/2021.wanlp-1.18
  • TII Arabic LLM Benchmarks โ€” github.com/tiiuae/Arabic-LLM-Benchmarks

A Note on Third-Party Facts

This article references third-party AI models, benchmarks, prices, and licenses. The AI landscape changes rapidly. Benchmark scores, license terms, model names, and API prices can shift between the time of writing and the time you read this. Before making deployment or compliance decisions based on this article, verify current figures on each providerโ€™s official source: Hugging Face model cards for licenses and benchmarks, provider websites for API pricing, and EUR-Lex for current GDPR and EU AI Act text. This article reflects publicly available information as of May 2026.

Run PromptQuorum with a local LLM, your own API keys, or both โ€” you pick the backend.

Join the PromptQuorum Waitlist โ†’

โ† Back to Local LLMs

2026 ์ตœ๊ณ ์˜ ์•„๋ž์–ด ๋กœ์ปฌ LLM: Jais, Falcon ๋น„๊ต | PromptQuorum