Skip to main content
PromptQuorumPromptQuorum
Home/Local LLMs/2026๋…„ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์„ ์œ„ํ•œ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM: ์ด๋ฉ”์ผ, ์ œ์•ˆ์„œ, ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค
์‚ฌ์šฉ ์‚ฌ๋ก€๋ณ„ ๋ชจ๋ธ

2026๋…„ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์„ ์œ„ํ•œ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM: ์ด๋ฉ”์ผ, ์ œ์•ˆ์„œ, ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค

ยท7๋ถ„ ๋ถ„๋Ÿ‰ยทBy Hans Kuepper ยท Founder of PromptQuorum, multi-model AI dispatch tool ยท PromptQuorum

2026๋…„ 4์›” ๊ธฐ์ค€, ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๋กœ์ปฌ LLM์€ Mistral Small 3.1 24B(๊ฐ€์žฅ ๊ฐ„๊ฒฐํ•˜๊ณ  ํ†ค ์ œ์–ด์— ํƒ์›”), Qwen3 7B(๋น„์˜์–ด๊ถŒ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์— ์ตœ์ ), Llama 3.3 8B(๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ ์ ์‘๋ ฅ ์ตœ๊ณ )์ž…๋‹ˆ๋‹ค. ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์—์„œ๋Š” 7B~24B ๊ทœ๋ชจ์˜ ์†Œํ˜• ๋ชจ๋ธ์ด 70B ๋ชจ๋ธ๋ณด๋‹ค ์šฐ์ˆ˜ํ•œ ์„ฑ๋Šฅ์„ ๋ฐœํœ˜ํ•ฉ๋‹ˆ๋‹ค.

2026๋…„ 4์›” ๊ธฐ์ค€, ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๋กœ์ปฌ LLM์€ Mistral Small 3.1 24B(๊ฐ€์žฅ ๊ฐ„๊ฒฐํ•˜๊ณ  ํ†ค ์ œ์–ด์— ํƒ์›”), Qwen3 7B(๋น„์˜์–ด๊ถŒ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์— ์ตœ์ ), Llama 3.3 8B(๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ ์ ์‘๋ ฅ ์ตœ๊ณ )์ž…๋‹ˆ๋‹ค. ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์—์„œ๋Š” 7B~24B ๊ทœ๋ชจ์˜ ์†Œํ˜• ๋ชจ๋ธ์ด 70B ๋ชจ๋ธ๋ณด๋‹ค ์šฐ์ˆ˜ํ•œ ์„ฑ๋Šฅ์„ ๋ฐœํœ˜ํ•ฉ๋‹ˆ๋‹ค. ๋ถˆํ•„์š”ํ•œ ์„ค๋ช… ์—†์ด ๋” ๊น”๋”ํ•˜๊ณ  ๊ฐ„๊ฒฐํ•œ ๊ฒฐ๊ณผ๋ฌผ์„ ์ƒ์„ฑํ•˜๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค.

Key Takeaways

  • ์ „๋ฐ˜์  ์ตœ๊ณ : Mistral Small 3.1 24B(๊ฐ€์žฅ ๊ฐ„๊ฒฐํ•˜๊ณ  ํ†ค์— ์ ํ•ฉ). ๋‹ค๊ตญ์–ด ์ตœ๊ณ : Qwen3 7B(ํ”„๋ž‘์Šค์–ด/๋…์ผ์–ด/์ŠคํŽ˜์ธ์–ด/์ผ๋ณธ์–ด). ํ†ค ์ ์‘ ์ตœ๊ณ : Llama 3.3 8B.
  • 70B ๋ชจ๋ธ์€ ๋‹จ๋ฌธ ํ˜•์‹ ๋ฌธ์„œ ์ž‘์„ฑ์— ์ง€๋‚˜์น˜๊ฒŒ ์žฅํ™ฉํ•ฉ๋‹ˆ๋‹ค. 2ํŽ˜์ด์ง€ ์ด์ƒ์˜ ์žฅ๋ฌธ ๋ฌธ์„œ์—๋Š” 128K ์ปจํ…์ŠคํŠธ๋ฅผ ๊ฐ–์ถ˜ Llama 3.3 70B๊ฐ€ ๋‹ค์ค‘ ์„น์…˜ ์ œ์•ˆ์„œ๋ฅผ ์•ˆ์ •์ ์œผ๋กœ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค.
  • Mistral Small 3.1๊ณผ Llama 3.3 8B๋Š” ์ด๋ฉ”์ผ, ์ œ์•ˆ์„œ, ๋ฉ”๋ชจ์— ์ด์ƒ์ ์ž…๋‹ˆ๋‹ค.
  • ์ด๋ฉ”์ผ ์ดˆ์•ˆ ์ž‘์„ฑ: Mistral Small 3.1. ๋น„์ฆˆ๋‹ˆ์Šค ์ œ์•ˆ์„œ: ํ†ค ์˜ˆ์‹œ๊ฐ€ ํฌํ•จ๋œ Llama 3.3 8B.
  • ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์ „๋‹ฌ: ์ด๋ฉ”์ผ ์˜ˆ์‹œ 2~3๊ฐœ๋ฅผ ์ œ๊ณตํ•˜๋ฉด ๋ชจ๋ธ์ด ํ†ค๊ณผ ๋‹จ์–ด ์„ ํƒ์„ ํ•™์Šตํ•ฉ๋‹ˆ๋‹ค.
  • ํŽธ์ง‘ ๋ชจ๋“œ > ์ƒ์„ฑ ๋ชจ๋“œ: ๊ธฐ์กด ์ดˆ์•ˆ์„ ๋‹ค๋“ฌ๋Š” ๋ฐ ๋ชจ๋ธ์„ ํ™œ์šฉํ•˜๋ฉด ์™„์ „ ์ƒ์„ฑ ๋ฐฉ์‹๋ณด๋‹ค ๋” ๋‚˜์€ ์ œ์–ด๊ฐ€ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.
  • ์†๋„: Mistral Small 3.1์€ 200๋‹จ์–ด ์ด๋ฉ”์ผ์„ 8~15์ดˆ์— ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. Llama 3.3 8B๋Š” 5~10์ดˆ์ž…๋‹ˆ๋‹ค.
  • ๋น„์šฉ: ๋ฌด๋ฃŒ(์˜คํ”ˆ ์†Œ์Šค) vs. ChatGPT Plus ์›” $30 ๋˜๋Š” ๊ธฐ์—…์šฉ ์›” $200.

๋น„์ฆˆ๋‹ˆ์Šค ํ†ค์— ๋›ฐ์–ด๋‚œ ๋ชจ๋ธ์€?

๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์—๋Š” ๋ช…ํ™•์„ฑ๊ณผ ๊ฐ„๊ฒฐํ•จ์ด ์ค‘์š”ํ•ฉ๋‹ˆ๋‹ค. ์†Œํ˜• ๋ชจ๋ธ์ด ๋” ์œ ๋ฆฌํ•ฉ๋‹ˆ๋‹ค.

  • Mistral Small 3.1 24B: ๊ฐ€์žฅ ๊ฐ„๊ฒฐํ•œ ๊ฒฐ๊ณผ๋ฌผ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. ์ด๋ฉ”์ผ, Slack ๋ฉ”์‹œ์ง€, ๊ฒฝ์˜์ง„์šฉ ๋ฉ”๋ชจ ๋“ฑ ๊น”๋”ํ•˜๊ณ  ์ „๋ฌธ์ ์ธ ๋‹จ๋ฌธ ํ˜•์‹ ์ฝ˜ํ…์ธ ์— ์ตœ์ ์ž…๋‹ˆ๋‹ค. ํ†ค ์ œ์–ด์— ํƒ์›”ํ•ฉ๋‹ˆ๋‹ค.
  • Llama 3.3 8B: ๊ท ํ˜• ์žกํžŒ ์„ฑ๋Šฅ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์ œ์•ˆ์„œ, ๋ฉ”๋ชจ ๋“ฑ ์ค‘๊ฐ„ ๊ธธ์ด์˜ ์ฝ˜ํ…์ธ ์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค. ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ์— ๋Œ€ํ•œ ์ ์‘๋ ฅ์ด ๋›ฐ์–ด๋‚ฉ๋‹ˆ๋‹ค.
  • Qwen3 7B: ๋น„์˜์–ด๊ถŒ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์— ํƒ์›”ํ•ฉ๋‹ˆ๋‹ค. ํ”„๋ž‘์Šค์–ด, ๋…์ผ์–ด, ์ŠคํŽ˜์ธ์–ด, ์ผ๋ณธ์–ด, ์ค‘๊ตญ์–ด์˜ ๋„ค์ดํ‹ฐ๋ธŒ ํ† ํฌ๋‚˜์ด์ €๋ฅผ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋‹ค๊ตญ์–ด ์ž‘์—…์— ์ตœ๊ณ ์˜ ์„ ํƒ์ž…๋‹ˆ๋‹ค.
  • ๋‹จ๋ฌธ ํ˜•์‹(์ด๋ฉ”์ผ, ๋ฉ”๋ชจ)์—์„œ๋Š” 7B~24B ๋ชจ๋ธ์ด 70B๋ณด๋‹ค ๋” ๊น”๋”ํ•œ ๊ฒฐ๊ณผ๋ฌผ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. ์žฅ๋ฌธ ์ฝ˜ํ…์ธ (2ํŽ˜์ด์ง€ ์ด์ƒ์˜ ์ œ์•ˆ์„œ, ๋ณด๊ณ ์„œ)์—๋Š” 128K ์ปจํ…์ŠคํŠธ๋ฅผ ๊ฐ–์ถ˜ Llama 3.3 70B๊ฐ€ ๋‹ค์ค‘ ์„น์…˜ ๋ฌธ์„œ๋ฅผ ์•ˆ์ •์ ์œผ๋กœ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค.
Mistral Small 3.1 24B๋Š” ์ •ํ™•ํ•˜๊ณ  ๊ฐ„๊ฒฐํ•œ ์ด๋ฉ”์ผ์—์„œ ์ตœ๊ณ ์˜ ํ†ค ์ œ์–ด ์„ฑ๋Šฅ์„ ๋ฐœํœ˜ํ•ฉ๋‹ˆ๋‹ค(8~15์ดˆ). Llama 3.3 8B๋Š” ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ์— ๋Œ€ํ•œ ์ ์‘๋ ฅ์ด ๋›ฐ์–ด๋‚ฉ๋‹ˆ๋‹ค(5~10์ดˆ). Qwen3 7B๋Š” ๋น„์˜์–ด๊ถŒ ๋น„์ฆˆ๋‹ˆ์Šค ์„œ์‹ ์— ๋Œ€ํ•œ ๋„ค์ดํ‹ฐ๋ธŒ ๋‹ค๊ตญ์–ด ์ง€์›์œผ๋กœ ๊ฐ€์žฅ ๋น ๋ฆ…๋‹ˆ๋‹ค(3~8์ดˆ).
Mistral Small 3.1 24B๋Š” ์ •ํ™•ํ•˜๊ณ  ๊ฐ„๊ฒฐํ•œ ์ด๋ฉ”์ผ์—์„œ ์ตœ๊ณ ์˜ ํ†ค ์ œ์–ด ์„ฑ๋Šฅ์„ ๋ฐœํœ˜ํ•ฉ๋‹ˆ๋‹ค(8~15์ดˆ). Llama 3.3 8B๋Š” ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ์— ๋Œ€ํ•œ ์ ์‘๋ ฅ์ด ๋›ฐ์–ด๋‚ฉ๋‹ˆ๋‹ค(5~10์ดˆ). Qwen3 7B๋Š” ๋น„์˜์–ด๊ถŒ ๋น„์ฆˆ๋‹ˆ์Šค ์„œ์‹ ์— ๋Œ€ํ•œ ๋„ค์ดํ‹ฐ๋ธŒ ๋‹ค๊ตญ์–ด ์ง€์›์œผ๋กœ ๊ฐ€์žฅ ๋น ๋ฆ…๋‹ˆ๋‹ค(3~8์ดˆ).

๋ฌธ์„œ ์ž‘์„ฑ ์œ ํ˜•๋ณ„ ๋ชจ๋ธ ์ถ”์ฒœ

TaskBest ModelPrompt StrategyOutput Quality
์œ ํ˜•์ตœ์  ๋ชจ๋ธํ”„๋กฌํ”„ํŠธ ์ „๋žต๊ฒฐ๊ณผ๋ฌผ ํ’ˆ์งˆ
์ด๋ฉ”์ผ ์ดˆ์•ˆ ์ž‘์„ฑMistral Small 3.1 24B"๋Šฅ๋™ํƒœ๋กœ ์ž‘์„ฑ, ์ตœ๋Œ€ 150๋‹จ์–ด, ์ „๋ฌธ ์šฉ์–ด ์—†์ด"์šฐ์ˆ˜ - ๊ฐ„๊ฒฐํ•˜๊ณ  ์ „๋ฌธ์ 
๋น„์ฆˆ๋‹ˆ์Šค ์ œ์•ˆ์„œ(1~3ํŽ˜์ด์ง€)Llama 3.3 8B์Šคํƒ€์ผ ์ฐธ๊ณ ์šฉ์œผ๋กœ ์ œ์•ˆ์„œ ์˜ˆ์‹œ 2~3๊ฐœ ์ œ๊ณต์–‘ํ˜ธ - ํ†ค ์˜ˆ์‹œ์— ์ž˜ ์ ์‘
๊ฒฝ์˜์ง„์šฉ ๋ฉ”๋ชจMistral Small 3.1 24B"ํ˜•์‹: ๋ฌธ์ œ / ๊ถŒ๊ณ  / ๋‹ค์Œ ๋‹จ๊ณ„"์šฐ์ˆ˜ - ๊ตฌ์กฐํ™”๋œ ๊ฒฐ๊ณผ๋ฌผ
Slack/๋‚ด๋ถ€ ๋ฉ”์‹œ์ง€Qwen3 7B"์บ์ฃผ์–ผํ•˜์ง€๋งŒ ์ „๋ฌธ์ ์œผ๋กœ, ์ตœ๋Œ€ 2~3๋ฌธ์žฅ"์–‘ํ˜ธ - ์‹ค์‹œ๊ฐ„ ์‘๋‹ต์— ๋‚ฎ์€ ์ง€์—ฐ
๋น„์˜์–ด๊ถŒ ๋น„์ฆˆ๋‹ˆ์Šค ์ด๋ฉ”์ผQwen3 7B"[์–ธ์–ด] ๋น„์ฆˆ๋‹ˆ์Šค ์ด๋ฉ”์ผ, ๊ฒฉ์‹์ฒด"์šฐ์ˆ˜ - ๋„ค์ดํ‹ฐ๋ธŒ ํ† ํฌ๋‚˜์ด์ €
๊ณ„์•ฝ์„œ ์š”์•ฝLlama 3.3 70B"ํ•ต์‹ฌ ์˜๋ฌด ์‚ฌํ•ญ๊ณผ ์œ„ํ—˜ ์š”์†Œ๋ฅผ ์š”์•ฝ"์ตœ๊ณ  - ๊ธด ์ปจํ…์ŠคํŠธ๋กœ ์ „์ฒด ๋ฌธ์„œ ์ฒ˜๋ฆฌ
๊ธฐ์กด ์ดˆ์•ˆ ๋‹ค๋“ฌ๊ธฐ7B ๋ชจ๋ธ (๋ชจ๋“  ์ข…๋ฅ˜)"๋ช…ํ™•์„ฑ์„ ์œ„ํ•ด ํŽธ์ง‘, ์œ ํ–‰์–ด ์ œ๊ฑฐ, ๋Šฅ๋™ํƒœ ์‚ฌ์šฉ"์šฐ์ˆ˜ - ํŽธ์ง‘ ๋ชจ๋“œ์—์„œ ์ตœ์ƒ์˜ ํ™œ์šฉ ์‚ฌ๋ก€

๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค๋ฅผ ์œ„ํ•œ ํ”„๋กฌํ”„ํŠธ ์—”์ง€๋‹ˆ์–ด๋ง

๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์—๋Š” ์ผ๊ด€์„ฑ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ์—๊ฒŒ ๊ท€์‚ฌ์˜ ๋ณด์ด์Šค๋ฅผ ๊ฐ€๋ฅด์น˜์‹ญ์‹œ์˜ค.

  1. 1
    ์˜ˆ์‹œ ์ˆ˜์ง‘: ๊ท€์‚ฌ์˜ ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค๊ฐ€ ๋‹ด๊ธด ์ด๋ฉ”์ผ ๋˜๋Š” ๋ฉ”๋ชจ 3~5๊ฐœ๋ฅผ ์ค€๋น„ํ•˜์‹ญ์‹œ์˜ค. ์ด์ƒํ™”๋œ ์˜ˆ์‹œ๊ฐ€ ์•„๋‹Œ ์‹ค์ œ๋กœ ๋ฐœ์†กํ•œ ์ด๋ฉ”์ผ์„ ์‚ฌ์šฉํ• ์ˆ˜๋ก ๋” ํšจ๊ณผ์ ์ž…๋‹ˆ๋‹ค.
  2. 2
    ํ”„๋กฌํ”„ํŠธ ํ…œํ”Œ๋ฆฟ ์ž‘์„ฑ: "๋‹ค์Œ ์Šคํƒ€์ผ๋กœ ์ž‘์„ฑํ•˜์‹ญ์‹œ์˜ค: [์˜ˆ์‹œ]. ์ด์ œ ์ด ๋ณด์ด์Šค๋กœ [์ž‘์—…]์„ ์ดˆ์•ˆ ์ž‘์„ฑํ•˜์‹ญ์‹œ์˜ค."
  3. 3
    ์ œ์•ฝ ์กฐ๊ฑด ๋ช…์‹œ: "150๋‹จ์–ด ์ด๋‚ด๋กœ ์œ ์ง€ํ•˜์‹ญ์‹œ์˜ค.", "๋Šฅ๋™ํƒœ๋ฅผ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.", "์ „๋ฌธ ์šฉ์–ด๋‚˜ ์œ ํ–‰์–ด๋Š” ์‚ฌ์šฉํ•˜์ง€ ๋งˆ์‹ญ์‹œ์˜ค."
  4. 4
    ๊ฒฐ๊ณผ๋ฌผ ๋ฐ˜๋ณต ๊ฐœ์„ : ์ฒซ ์ดˆ์•ˆ์ด ๋„ˆ๋ฌด ๊ฒฉ์‹์ ์ด๋ผ๋ฉด ๋‹ค์Œ๊ณผ ๊ฐ™์ด ๋‹ค๋“ฌ์œผ์‹ญ์‹œ์˜ค: "๋” ๊ฐ„๋‹จํ•œ ํ‘œํ˜„์„ ์‚ฌ์šฉํ•˜๊ณ , ์œ ํ–‰์–ด๋ฅผ ์ œ๊ฑฐํ•˜๋ฉฐ, ๋™๋ฃŒ์—๊ฒŒ ๋ฌธ์ž๋ฅผ ๋ณด๋‚ด๋“ฏ ์ž‘์„ฑํ•˜์‹ญ์‹œ์˜ค."
  5. 5
    ํ…œํ”Œ๋ฆฟ ์ €์žฅ: ๋ฌธ์„œ ์œ ํ˜•๋ณ„(์˜์—…, ๊ณ ๊ฐ ์ง€์›, ๋‚ด๋ถ€ ๊ณต์ง€)๋กœ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ €์žฅํ•˜์‹ญ์‹œ์˜ค. ์ผ๊ด€์„ฑ์„ ์œ„ํ•ด ์žฌ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.

ํ”ํ•œ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ ์‹ค์ˆ˜

  • ๋‹จ๋ฌธ ํ˜•์‹ ๋ฌธ์„œ ์ž‘์„ฑ์— 70B ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ. ์žฅํ™ฉํ•˜๊ณ  ๊ณผ๋„ํ•œ ์„ค๋ช…์ด ๋‹ด๊ธด ๊ฒฐ๊ณผ๋ฌผ์ด ์ƒ์„ฑ๋ฉ๋‹ˆ๋‹ค. ์ด๋ฉ”์ผ๊ณผ ๋ฉ”๋ชจ์—๋Š” Mistral Small 3.1 24B ๋˜๋Š” Llama 3.3 8B๊ฐ€ ๋” ๋น ๋ฅด๊ณ  ๊ฐ„๊ฒฐํ•ฉ๋‹ˆ๋‹ค.
  • ์˜ˆ์‹œ๋ฅผ ์ œ๊ณตํ•˜์ง€ ์•Š๋Š” ๊ฒƒ. ๋ชจ๋ธ์ด ๊ท€์‚ฌ์˜ ๋ณด์ด์Šค๋ฅผ ์ถ”์ธกํ•˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค. ํ•ญ์ƒ ๊ท€์‚ฌ์˜ ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค๊ฐ€ ๋‹ด๊ธด ์‹ค์ œ ์ด๋ฉ”์ผ ๋˜๋Š” ๋ฉ”๋ชจ 2~3๊ฐœ๋ฅผ ์ œ๊ณตํ•˜์‹ญ์‹œ์˜ค.
  • ์ฒซ ์ดˆ์•ˆ์„ ๊ทธ๋Œ€๋กœ ์‹ ๋ขฐํ•˜๋Š” ๊ฒƒ. ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์—๋Š” 1~2ํšŒ์˜ ํŽธ์ง‘ ๊ณผ์ •์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ์ƒ์„ฑ ์ „์šฉ ์›Œํฌํ”Œ๋กœ ๋Œ€์‹  ํŽธ์ง‘ ํ”„๋กฌํ”„ํŠธ๋ฅผ ํ™œ์šฉํ•˜์‹ญ์‹œ์˜ค.
  • ์žฅ๋ฌธ ๋ฌธ์„œ์— ์ปจํ…์ŠคํŠธ ๊ธธ์ด๋ฅผ ์„ค์ •ํ•˜์ง€ ์•Š๋Š” ๊ฒƒ: Ollama์˜ ๊ธฐ๋ณธ๊ฐ’์€ 2048 ํ† ํฐ์ž…๋‹ˆ๋‹ค. 2ํŽ˜์ด์ง€์งœ๋ฆฌ ๋น„์ฆˆ๋‹ˆ์Šค ์ œ์•ˆ์„œ๋Š” ์•ฝ 1,500~2,000๋‹จ์–ด๋กœ ์ด ํ•œ๊ณ„์— ๊ทผ์ ‘ํ•˜๊ฑฐ๋‚˜ ์ดˆ๊ณผํ•ฉ๋‹ˆ๋‹ค. ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ ์ž‘์—…์„ ์œ„ํ•ด Modelfile์— ์ตœ์†Œ `PARAMETER num_ctx 8192`๋ฅผ ์„ค์ •ํ•˜์‹ญ์‹œ์˜ค. ๊ณ„์•ฝ์„œ ๊ฒ€ํ† ๋‚˜ ๋‹ค์ค‘ ํŽ˜์ด์ง€ ๋ณด๊ณ ์„œ์—๋Š” 32K ์ปจํ…์ŠคํŠธ๋ฅผ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.
  • ์ž‘์„ฑ๊ณผ ํŽธ์ง‘์— ๋™์ผํ•œ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ: ์ตœ์ ์˜ ์›Œํฌํ”Œ๋กœ๋Š” 2๋‹จ๊ณ„ ๋ฐฉ์‹์ž…๋‹ˆ๋‹ค. 7B ๋ชจ๋ธ๋กœ ๋น ๋ฅด๊ฒŒ ์ดˆ์•ˆ์„ ์ƒ์„ฑํ•œ ๋‹ค์Œ, Mistral Small 3.1 24B์˜ ํŽธ์ง‘ ๋ชจ๋“œ๋กœ ํ†ค์„ ๋‹ค๋“ฌ๊ณ  ์ „๋ฌธ ์šฉ์–ด๋ฅผ ์ œ๊ฑฐํ•˜๋ฉฐ ๊ตฌ์กฐ๋ฅผ ์ •๋ฆฌํ•˜์‹ญ์‹œ์˜ค. ๋‘ ์ž‘์—… ๋ชจ๋‘์— 70B ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ์€ ์ด 2๋‹จ๊ณ„ ์ ‘๊ทผ ๋ฐฉ์‹๋ณด๋‹ค ๋А๋ฆฌ๊ณ  ๋œ ๊ฐ„๊ฒฐํ•œ ๊ฒฐ๊ณผ๋ฌผ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.
์™ผ์ชฝ(๋นจ๊ฐ„์ƒ‰): ๋กœ์ปฌ ๋ฌธ์„œ ์ž‘์„ฑ ๋„์šฐ๋ฏธ ์„ค์ • ์‹œ ํ”ํ•œ ํ•จ์ •. ์˜ค๋ฅธ์ชฝ(์ดˆ๋ก์ƒ‰): ๊ฒ€์ฆ๋œ ํ•ด๊ฒฐ์ฑ…. ํ”ผํ•ด์•ผ ํ•  ์ฃผ์š” ์‹ค์ˆ˜: ๋น ๋ฅธ ์ด๋ฉ”์ผ์— 70B ๋ชจ๋ธ ์‚ฌ์šฉ, ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ ์ƒ๋žต, ๋ฏธ๋‹ค๋“ฌ์–ด์ง„ ์ฒซ ์ดˆ์•ˆ ์‹ ๋ขฐ, ์ปจํ…์ŠคํŠธ ์ฐฝ ํ•œ๊ณ„ ๋ฌด์‹œ, ํš์ผ์ ์ธ ๋ชจ๋ธ ๊ตฌ์„ฑ ์‚ฌ์šฉ.
์™ผ์ชฝ(๋นจ๊ฐ„์ƒ‰): ๋กœ์ปฌ ๋ฌธ์„œ ์ž‘์„ฑ ๋„์šฐ๋ฏธ ์„ค์ • ์‹œ ํ”ํ•œ ํ•จ์ •. ์˜ค๋ฅธ์ชฝ(์ดˆ๋ก์ƒ‰): ๊ฒ€์ฆ๋œ ํ•ด๊ฒฐ์ฑ…. ํ”ผํ•ด์•ผ ํ•  ์ฃผ์š” ์‹ค์ˆ˜: ๋น ๋ฅธ ์ด๋ฉ”์ผ์— 70B ๋ชจ๋ธ ์‚ฌ์šฉ, ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ ์ƒ๋žต, ๋ฏธ๋‹ค๋“ฌ์–ด์ง„ ์ฒซ ์ดˆ์•ˆ ์‹ ๋ขฐ, ์ปจํ…์ŠคํŠธ ์ฐฝ ํ•œ๊ณ„ ๋ฌด์‹œ, ํš์ผ์ ์ธ ๋ชจ๋ธ ๊ตฌ์„ฑ ์‚ฌ์šฉ.

์„ค์ •: ๋กœ์ปฌ ๋ฌธ์„œ ์ž‘์„ฑ ๋„์šฐ๋ฏธ

  1. 1
    Mistral Small 3.1๋กœ Ollama๋ฅผ ์‹œ์ž‘ํ•˜์‹ญ์‹œ์˜ค: `ollama run mistral-small3.1`.
  2. 2
    VS Code ํ™•์žฅ ํ”„๋กœ๊ทธ๋žจ "Continue" ๋˜๋Š” ์›น ์•ฑ์šฉ ๋ธŒ๋ผ์šฐ์ € ํ™•์žฅ ํ”„๋กœ๊ทธ๋žจ์„ ์„ค์น˜ํ•˜์‹ญ์‹œ์˜ค.
  3. 3
    ๊ท€์‚ฌ์˜ ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ๊ฐ€ ํฌํ•จ๋œ ๋งž์ถคํ˜• ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž‘์„ฑํ•˜์‹ญ์‹œ์˜ค.
  4. 4
    ์™„์„ฑ ๊ธฐ๋Šฅ์„ ์‹คํ–‰ํ•  ๋‹จ์ถ•ํ‚ค(์˜ˆ: Ctrl+K)๋ฅผ ์ง€์ •ํ•˜์‹ญ์‹œ์˜ค.
  5. 5
    ์ด๋ฉ”์ผ ์ดˆ์•ˆ ์ž‘์„ฑ โ†’ ํ…์ŠคํŠธ ์„ ํƒ โ†’ Ctrl+K โ†’ "[ํ†ค]์— ๋งž๊ฒŒ ์ด ์ด๋ฉ”์ผ์„ ๋‹ค๋“ฌ์–ด ์ฃผ์‹ญ์‹œ์˜ค" โ†’ ๊ฒฐ๊ณผ ๋ณต์‚ฌ.
5๋‹จ๊ณ„ ์„ค์ • ์›Œํฌํ”Œ๋กœ: 1) ollama.ai์—์„œ Ollama ์„ค์น˜, 2) Mistral Small 3.1 ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ, 3) VS Code์šฉ Continue ํ™•์žฅ ํ”„๋กœ๊ทธ๋žจ ์„ค์น˜, 4) ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ๊ฐ€ ํฌํ•จ๋œ ๋งž์ถคํ˜• ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ ์ž‘์„ฑ, 5) Ctrl+K ๋‹จ์ถ•ํ‚ค๋กœ ๋น„์ฆˆ๋‹ˆ์Šค ์ด๋ฉ”์ผ ๋‹ค๋“ฌ๊ธฐ ์‹œ์ž‘. ์ด ์„ค์ • ์‹œ๊ฐ„: ์•ฝ 10๋ถ„.
5๋‹จ๊ณ„ ์„ค์ • ์›Œํฌํ”Œ๋กœ: 1) ollama.ai์—์„œ Ollama ์„ค์น˜, 2) Mistral Small 3.1 ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ, 3) VS Code์šฉ Continue ํ™•์žฅ ํ”„๋กœ๊ทธ๋žจ ์„ค์น˜, 4) ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค ์˜ˆ์‹œ๊ฐ€ ํฌํ•จ๋œ ๋งž์ถคํ˜• ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ ์ž‘์„ฑ, 5) Ctrl+K ๋‹จ์ถ•ํ‚ค๋กœ ๋น„์ฆˆ๋‹ˆ์Šค ์ด๋ฉ”์ผ ๋‹ค๋“ฌ๊ธฐ ์‹œ์ž‘. ์ด ์„ค์ • ์‹œ๊ฐ„: ์•ฝ 10๋ถ„.

๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์„ ์œ„ํ•œ ๋กœ์ปฌ LLM: ์ง€์—ญ๋ณ„ ๋งฅ๋ฝ

EU / GDPR

๊ณ ๊ฐ, ์ง์› ๋˜๋Š” ๋น„์ฆˆ๋‹ˆ์Šค ํŒŒํŠธ๋„ˆ๋ฅผ ์–ธ๊ธ‰ํ•˜๋Š” ์ด๋ฉ”์ผ์ด๋‚˜ ๋ฌธ์„œ๋ฅผ ์ž‘์„ฑํ•˜๋Š” EU ๋น„์ฆˆ๋‹ˆ์Šค ์ „๋ฌธ๊ฐ€์—๊ฒŒ ์žˆ์–ด, ๋กœ์ปฌ ๋ฌธ์„œ ์ž‘์„ฑ ๋„์šฐ๋ฏธ๋ฅผ ์‚ฌ์šฉํ•œ๋‹ค๋Š” ๊ฒƒ์€ ์ด๋ฆ„, ์—ฐ๋ฝ์ฒ˜, ๊ฑฐ๋ž˜ ์กฐ๊ฑด ๋“ฑ์˜ ๊ฐœ์ธ ์ •๋ณด๊ฐ€ ํด๋ผ์šฐ๋“œ AI ์„œ๋น„์Šค๋กœ ์ „์†ก๋˜์ง€ ์•Š์Œ์„ ์˜๋ฏธํ•ฉ๋‹ˆ๋‹ค. GDPR ์ œ6์กฐ๋Š” ๊ฐœ์ธ ์ •๋ณด ์ฒ˜๋ฆฌ์— ์ ๋ฒ•ํ•œ ๊ทผ๊ฑฐ๋ฅผ ์š”๊ตฌํ•ฉ๋‹ˆ๋‹ค. ๊ณ ๊ฐ ์ด๋ฆ„๊ณผ ํšŒ์‚ฌ ์ •๋ณด๊ฐ€ ํฌํ•จ๋œ ๋น„์ฆˆ๋‹ˆ์Šค ์„œ์‹ ์— ํด๋ผ์šฐ๋“œ AI API๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์ œ28์กฐ์— ๋”ฐ๋ฅธ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ๊ณ„์•ฝ(DPA)์ด ํ•„์š”ํ•œ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ๊ด€๊ณ„๊ฐ€ ํ˜•์„ฑ๋ฉ๋‹ˆ๋‹ค.

๋กœ์ปฌ ์ถ”๋ก ์€ ์ด๋ฅผ ์™„์ „ํžˆ ํ•ด์†Œํ•ฉ๋‹ˆ๋‹ค. Mistral Small 3.1 24B(Mistral AI, ํ”„๋ž‘์Šค, Apache 2.0)๊ฐ€ ๊ถŒ์žฅ EU ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. EU ์ถœ์‹ , ๋ช…ํ™•ํ•œ ๋ผ์ด์„ ์Šค, ๋…์ผ์–ดยทํ”„๋ž‘์Šค์–ดยท์˜์–ด ๊ฒฉ์‹์ฒด ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์— ๋Œ€ํ•œ ๊ฐ•๋ ฅํ•œ ์ง€์‹œ ์ดํ–‰ ๋Šฅ๋ ฅ์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋…์ผ์–ด ๋น„์ฆˆ๋‹ˆ์Šค ์„œ์‹ (Geschรคftskorrespondenz)์— ํŠนํžˆ ์ ํ•ฉํ•˜๋ฉฐ, Mistral Small 3.1์€ ๋™๊ธ‰ ํฌ๊ธฐ์˜ ๋ฏธ๊ตญ ํ›ˆ๋ จ ๋ชจ๋ธ๋ณด๋‹ค DIN 5008 ํ˜•์‹ ๊ด€๋ก€๋ฅผ ๋” ์ž˜ ๋”ฐ๋ฅด๋Š” ๊ฒฐ๊ณผ๋ฌผ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.

์ผ๋ณธ(METI)

์ผ๋ณธ์–ด ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์—๋Š” ์—„๊ฒฉํ•œ ๊ฒฝ์–ด ์ฒด๊ณ„๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค(๊ฒฝ์–ด ์ˆ˜์ค€: ์ •์ค‘์–ด, ์กด๊ฒฝ์–ด, ๊ฒธ์–‘์–ด). ์ผ๋ฐ˜ LLM์€ ๊ธฐ๋ณธ์ ์œผ๋กœ ์ •์ค‘์–ด(ใฆใ„ใญใ„ใ”)๋ฅผ ์‚ฌ์šฉํ•˜์ง€๋งŒ, ๋ช…์‹œ์ ์ธ ํ”„๋กฌํ”„ํŠธ ์ง€์‹œ ์—†์ด๋Š” ์กด๊ฒฝ์–ด(ใใ‚“ใ‘ใ„ใ”)๋‚˜ ๊ฒธ์–‘์–ด(ใ‘ใ‚“ใ˜ใ‚‡ใ†ใ”)๋ฅผ ์•ˆ์ •์ ์œผ๋กœ ์ƒ์„ฑํ•˜์ง€ ๋ชปํ•ฉ๋‹ˆ๋‹ค. ์ผ๋ณธ์–ด ๋น„์ฆˆ๋‹ˆ์Šค ์„œ์‹ ์—๋Š” ๋ช…์‹œ์ ์ธ ๊ฒฝ์–ด ์ง€์‹œ๊ฐ€ ํฌํ•จ๋œ Qwen3 7B๋ฅผ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค: "ใƒกใƒผใƒซใฏไธๅฏงใชๆ•ฌ่ชž๏ผˆๅฐŠๆ•ฌ่ชžใจ่ฌ™่ญฒ่ชž๏ผ‰ใ‚’ไฝฟ็”จใ—ใฆใใ ใ•ใ„". Qwen3์˜ ์ผ๋ณธ์–ด ํ† ํฌ๋‚˜์ด์ €๋Š” ๋™๊ธ‰ ๋ชจ๋ธ ์ค‘ Llama๋ณด๋‹ค ํ•œ์ž/๊ฐ€๋‚˜ ๋น„์ฆˆ๋‹ˆ์Šค ์–ดํœ˜๋ฅผ ํ›จ์”ฌ ๋” ์ž˜ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค.

๋…์ผ(ํŠน์ˆ˜ ์‚ฌํ•ญ)

๋…์ผ์–ด ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์€ ๊ณต์‹์ ์ธ ๊ด€๋ก€๋ฅผ ๋”ฐ๋ฆ…๋‹ˆ๋‹ค. Sie ํ˜•์‹(๊ฒฉ์‹์ฒด 2์ธ์นญ), ํšŒ์‚ฌ ์ „์ฒด ์ด๋ฆ„, ๊ตฌ์กฐํ™”๋œ ๋‹จ๋ฝ ํ˜•์‹์ด ๊ทธ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์— ๋‹ค์Œ์„ ์ถ”๊ฐ€ํ•˜์‹ญ์‹œ์˜ค: "Schreiben Sie auf Deutsch mit Sie-Anrede, sachlichem Ton, ohne Anglizismen." Mistral Small 3.1์€ 2026๋…„ 4์›” ๊ธฐ์ค€ ๋กœ์ปฌ์—์„œ ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ๋ชจ๋ธ ์ค‘ ๊ฐ€์žฅ ๊ฐ•๋ ฅํ•œ ๋…์ผ์–ด ๊ฒฉ์‹์ฒด ๋น„์ฆˆ๋‹ˆ์Šค ๊ฒฐ๊ณผ๋ฌผ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. EU ๊ธฐ๋ฐ˜ ๊ฐœ๋ฐœ์—์„œ ๋น„๋กฏ๋œ ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ์— ์ƒ๋‹นํ•œ ๋…์ผ์–ด ๋น„์ฆˆ๋‹ˆ์Šค ์ฝ”ํผ์Šค๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค.

์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ

์ด๋ฉ”์ผ ์ž‘์„ฑ์—์„œ Mistral Small 3.1์ด Llama 3.3๋ณด๋‹ค ๋‚˜์€ ์ด์œ ๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Mistral Small 3.1์€ ๋” ๊ฐ„๊ฒฐํ•ฉ๋‹ˆ๋‹ค. Llama 3.3์€ ๋” ์œ ์—ฐํ•ฉ๋‹ˆ๋‹ค. ์ˆœ์ˆ˜ํ•œ ์†๋„์™€ ๊ฐ„๊ฒฐํ•จ์„ ์›ํ•œ๋‹ค๋ฉด Mistral Small 3.1์„, ํ†ค ๋งค์นญ์„ ์›ํ•œ๋‹ค๋ฉด Llama 3.3์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค.

๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์— 13B ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๊ฐ€๋Šฅํ•˜์ง€๋งŒ ๋ถˆํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. 7B๊ฐ€ ๋” ๋น ๋ฅด๊ณ  ํ’ˆ์งˆ๋„ ๋™๋“ฑํ•ฉ๋‹ˆ๋‹ค. 13B๋Š” ๊ธด ์ œ์•ˆ์„œ(2ํŽ˜์ด์ง€ ์ด์ƒ)์—์„œ ์•ฝ๊ฐ„ ๋” ์šฐ์ˆ˜ํ•ฉ๋‹ˆ๋‹ค.

์ƒ์„ฑ ๋ชจ๋“œ์™€ ํŽธ์ง‘ ๋ชจ๋“œ ์ค‘ ์–ด๋А ๊ฒƒ์„ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๊นŒ?

ํŽธ์ง‘ ๋ชจ๋“œ(๊ธฐ์กด ์ดˆ์•ˆ ๋‹ค๋“ฌ๊ธฐ)๊ฐ€ ๋” ์•ˆ์ „ํ•ฉ๋‹ˆ๋‹ค. ์ƒ์„ฑ ๋ชจ๋“œ๋Š” ๋” ๋น ๋ฅด์ง€๋งŒ ๋” ๋งŽ์€ ํ”„๋กฌํ”„ํŠธ ์ž‘์—…์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

ChatGPT์ฒ˜๋Ÿผ ๋“ค๋ฆฌ์ง€ ์•Š์œผ๋ ค๋ฉด ์–ด๋–ป๊ฒŒ ํ•ด์•ผ ํ•ฉ๋‹ˆ๊นŒ?

์†Œํ˜• ๋ชจ๋ธ(7B~24B)์„ ์‚ฌ์šฉํ•˜๊ณ , ๋ธŒ๋žœ๋“œ ์˜ˆ์‹œ๋ฅผ ์ œ๊ณตํ•˜๋ฉฐ, ๋Šฅ๋™ํƒœ์™€ ์งง์€ ๋ฌธ์žฅ์„ ์š”์ฒญํ•˜๊ณ , ๊ตฐ๋”๋”๊ธฐ ํ‘œํ˜„์„ ๋ฐฐ์ œํ•˜์‹ญ์‹œ์˜ค.

๊ธฐ๋ฐ€ ์ด๋ฉ”์ผ์— ๋กœ์ปฌ LLM์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. ์™„์ „ํžˆ ๋น„๊ณต๊ฐœ์ž…๋‹ˆ๋‹ค. ๋ฐ์ดํ„ฐ๊ฐ€ ๊ธฐ๊ธฐ๋ฅผ ๋ฒ—์–ด๋‚˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ด๊ฒƒ์ด ํด๋ผ์šฐ๋“œ API ๋Œ€๋น„ ์ฃผ๋œ ์žฅ์ ์ž…๋‹ˆ๋‹ค.

๊ฒฐ๊ณผ๋ฌผ์ด ๋„ˆ๋ฌด ๊ฒฉ์‹์ ์ด๋ฉด ์–ด๋–ป๊ฒŒ ํ•ด์•ผ ํ•ฉ๋‹ˆ๊นŒ?

ํ”„๋กฌํ”„ํŠธ๋ฅผ ๋‹ค์Œ๊ณผ ๊ฐ™์ด ์ˆ˜์ •ํ•˜์‹ญ์‹œ์˜ค: "์œ ํ–‰์–ด๋ฅผ ์ œ๊ฑฐํ•˜์‹ญ์‹œ์˜ค. ์ผ์ƒ์ ์ธ ํ‘œํ˜„์„ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค. ๋™๋ฃŒ์—๊ฒŒ ๋ฌธ์ž๋ฅผ ๋ณด๋‚ด๋“ฏ ์ž‘์„ฑํ•˜์‹ญ์‹œ์˜ค."

๋น„์˜์–ด๊ถŒ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๋กœ์ปฌ LLM์€ ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Qwen3 7B๋Š” ํ”„๋ž‘์Šค์–ด, ๋…์ผ์–ด, ์ŠคํŽ˜์ธ์–ด, ์ผ๋ณธ์–ด, ์ค‘๊ตญ์–ด, ํ•œ๊ตญ์–ด, ์•„๋ž์–ด๋ฅผ ํฌํ•จํ•œ 29๊ฐœ ์–ธ์–ด๋ฅผ ๋„ค์ดํ‹ฐ๋ธŒ๋กœ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. Llama๋‚˜ Mistral๋ณด๋‹ค ๋น„์˜์–ด๊ถŒ ๋น„์ฆˆ๋‹ˆ์Šค ํ…์ŠคํŠธ๋ฅผ ๋” ํšจ์œจ์ ์œผ๋กœ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ์œ ๋Ÿฝ ์ฃผ์š” ๊ฒฉ์‹์ฒด ๋น„์ฆˆ๋‹ˆ์Šค ์–ธ์–ด(๋…์ผ์–ด, ํ”„๋ž‘์Šค์–ด, ์ŠคํŽ˜์ธ์–ด)์—๋Š” EU ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ ๋•๋ถ„์— Mistral Small 3.1 24B๋„ ๊ฒฝ์Ÿ๋ ฅ์ด ์žˆ์Šต๋‹ˆ๋‹ค. ์•„์‹œ์•„ ๋ฐ ์ค‘๋™ ์–ธ์–ด์—๋Š” `ollama run qwen2.5:7b`๋ฅผ, ์œ ๋Ÿฝ ๊ฒฉ์‹์ฒด ๋ฌธ์„œ์—๋Š” `ollama run mistral-small3.1`์„ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค.

๋กœ์ปฌ LLM์„ ์‚ฌ์šฉํ•ด ํšŒ์‚ฌ์˜ ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค๋ฅผ ๋งž์ถ”๋ ค๋ฉด ์–ด๋–ป๊ฒŒ ํ•ด์•ผ ํ•ฉ๋‹ˆ๊นŒ?

์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์— ๊ธฐ์กด ํšŒ์‚ฌ ์ปค๋ฎค๋‹ˆ์ผ€์ด์…˜ ์˜ˆ์‹œ 3~5๊ฐœ๋ฅผ ์ œ๊ณตํ•˜์‹ญ์‹œ์˜ค: "์ด ์Šคํƒ€์ผ๋กœ ์ž‘์„ฑํ•˜์‹ญ์‹œ์˜ค: [์˜ˆ์‹œ ๋ถ™์—ฌ๋„ฃ๊ธฐ]. ๋ชจ๋“  ์‘๋‹ต์—์„œ ์ด ํ†ค๊ณผ ์–ดํœ˜๋ฅผ ์œ ์ง€ํ•˜์‹ญ์‹œ์˜ค." ๋ชจ๋ธ์€ ์˜ˆ์‹œ์—์„œ ์–ดํœ˜ ํŒจํ„ด, ๋ฌธ์žฅ ๊ธธ์ด ์„ ํ˜ธ๋„, ๊ฒฉ์‹ ์ˆ˜์ค€์„ ํ•™์Šตํ•ฉ๋‹ˆ๋‹ค. ๋ธŒ๋žœ๋“œ ๋ณด์ด์Šค๊ฐ€ ๋ณ€ํ™”ํ•จ์— ๋”ฐ๋ผ 6๊ฐœ์›”๋งˆ๋‹ค ์˜ˆ์‹œ๋ฅผ ์—…๋ฐ์ดํŠธํ•˜์‹ญ์‹œ์˜ค.

๋กœ์ปฌ LLM์ด ๋…์ผ์–ด Sie ํ˜•์‹์œผ๋กœ ์ž‘์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๋ช…์‹œ์ ์ธ ์ง€์‹œ๊ฐ€ ์žˆ์œผ๋ฉด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์— ๋‹ค์Œ์„ ์ถ”๊ฐ€ํ•˜์‹ญ์‹œ์˜ค: "Schreiben Sie auf Deutsch. Verwenden Sie ausschlieรŸlich die Sie-Form. Sachlicher, professioneller Ton ohne Anglizismen." Mistral Small 3.1๊ณผ Qwen3 7B ๋ชจ๋‘ ์ด ์ง€์‹œ๋ฅผ ์•ˆ์ •์ ์œผ๋กœ ๋”ฐ๋ฆ…๋‹ˆ๋‹ค. ๋ช…์‹œ์ ์ธ Sie ํ˜•์‹ ์ง€์‹œ ์—†์ด๋Š” ๋…์ผ์–ด์—์„œ ๋ชจ๋ธ์ด ๊ธฐ๋ณธ์ ์œผ๋กœ ๋น„๊ฒฉ์‹์ฒด์ธ du ํ˜•์‹์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.

๊ธฐ์กด ํ…์ŠคํŠธ ํŽธ์ง‘๊ณผ ์ฒ˜์Œ๋ถ€ํ„ฐ ์ƒ์„ฑํ•˜๋Š” ๋ฐ ์–ด๋–ค ๋กœ์ปฌ ๋ชจ๋ธ์ด ๊ฐ€์žฅ ์ ํ•ฉํ•ฉ๋‹ˆ๊นŒ?

ํŽธ์ง‘์—๋Š” 7B ๋ชจ๋ธ(Qwen3 7B, Llama 3.3 8B)์ด ๋ชจ๋‘ ์ž˜ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. ํŽธ์ง‘์€ ์ƒ์„ฑ๋ณด๋‹ค ๋œ ๊นŒ๋‹ค๋กญ์Šต๋‹ˆ๋‹ค. ๋ณต์žกํ•œ ๋ฌธ์„œ(์ œ์•ˆ์„œ, ๋ณด๊ณ ์„œ)๋ฅผ ์ฒ˜์Œ๋ถ€ํ„ฐ ์ƒ์„ฑํ•  ๋•Œ๋Š” Mistral Small 3.1 24B๊ฐ€ ๋” ๊ตฌ์กฐํ™”๋œ ๊ฒฐ๊ณผ๋ฌผ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. 2๋‹จ๊ณ„ ์ ‘๊ทผ ๋ฐฉ์‹์ด ๊ฐ€์žฅ ํšจ๊ณผ์ ์ž…๋‹ˆ๋‹ค. 7B ๋ชจ๋ธ๋กœ ๋น ๋ฅด๊ฒŒ ์ดˆ์•ˆ์„ ์ƒ์„ฑํ•œ ํ›„ ํŽธ์ง‘ ๋ชจ๋“œ์—์„œ Mistral Small 3.1๋กœ ๋‹ค๋“ฌ์œผ์‹ญ์‹œ์˜ค.

์ถœ์ฒ˜

  • Mistral AI. (2024). "Mistral Small 3.1 Release." https://mistral.ai/news/mistral-small-3-1/ -- Mistral Small 3.1 24B์˜ ๋ชจ๋ธ ์‚ฌ์–‘ ๋ฐ ์ง€์‹œ ์ดํ–‰ ๋ฒค์น˜๋งˆํฌ.
  • Alibaba Qwen Team. (2025). "Qwen3 Technical Report." https://arxiv.org/abs/2412.15115 -- ์ผ๋ณธ์–ด, ๋…์ผ์–ด, ํ”„๋ž‘์Šค์–ด, ์ค‘๊ตญ์–ด ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ ์ง€์›์„ ํฌํ•จํ•œ ๋‹ค๊ตญ์–ด ์—ญ๋Ÿ‰ ๋ฐ์ดํ„ฐ.
  • Meta AI. (2024). "Llama 3.3 Model Card." https://llama.meta.com/ -- Llama 3.3 8B์˜ ํ†ค ์ ์‘ ๋ฐ ์ง€์‹œ ์ดํ–‰ ํ‰๊ฐ€.

A Note on Third-Party Facts

This article references third-party AI models, benchmarks, prices, and licenses. The AI landscape changes rapidly. Benchmark scores, license terms, model names, and API prices can shift between the time of writing and the time you read this. Before making deployment or compliance decisions based on this article, verify current figures on each providerโ€™s official source: Hugging Face model cards for licenses and benchmarks, provider websites for API pricing, and EUR-Lex for current GDPR and EU AI Act text. This article reflects publicly available information as of May 2026.

Run PromptQuorum with a local LLM, your own API keys, or both โ€” you pick the backend.

Join the PromptQuorum Waitlist โ†’

โ† Back to Local LLMs

2026๋…„ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฌธ์„œ ์ž‘์„ฑ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM: ์ด๋ฉ”์ผ & ๋ฉ”๋ชจ | PromptQuorum