Key Takeaways
- ์ ๋ฐ์ ์ต๊ณ : Mistral Small 3.1 24B(๊ฐ์ฅ ๊ฐ๊ฒฐํ๊ณ ํค์ ์ ํฉ). ๋ค๊ตญ์ด ์ต๊ณ : Qwen3 7B(ํ๋์ค์ด/๋ ์ผ์ด/์คํ์ธ์ด/์ผ๋ณธ์ด). ํค ์ ์ ์ต๊ณ : Llama 3.3 8B.
- 70B ๋ชจ๋ธ์ ๋จ๋ฌธ ํ์ ๋ฌธ์ ์์ฑ์ ์ง๋์น๊ฒ ์ฅํฉํฉ๋๋ค. 2ํ์ด์ง ์ด์์ ์ฅ๋ฌธ ๋ฌธ์์๋ 128K ์ปจํ ์คํธ๋ฅผ ๊ฐ์ถ Llama 3.3 70B๊ฐ ๋ค์ค ์น์ ์ ์์๋ฅผ ์์ ์ ์ผ๋ก ์ฒ๋ฆฌํฉ๋๋ค.
- Mistral Small 3.1๊ณผ Llama 3.3 8B๋ ์ด๋ฉ์ผ, ์ ์์, ๋ฉ๋ชจ์ ์ด์์ ์ ๋๋ค.
- ์ด๋ฉ์ผ ์ด์ ์์ฑ: Mistral Small 3.1. ๋น์ฆ๋์ค ์ ์์: ํค ์์๊ฐ ํฌํจ๋ Llama 3.3 8B.
- ๋ธ๋๋ ๋ณด์ด์ค ์ ๋ฌ: ์ด๋ฉ์ผ ์์ 2~3๊ฐ๋ฅผ ์ ๊ณตํ๋ฉด ๋ชจ๋ธ์ด ํค๊ณผ ๋จ์ด ์ ํ์ ํ์ตํฉ๋๋ค.
- ํธ์ง ๋ชจ๋ > ์์ฑ ๋ชจ๋: ๊ธฐ์กด ์ด์์ ๋ค๋ฌ๋ ๋ฐ ๋ชจ๋ธ์ ํ์ฉํ๋ฉด ์์ ์์ฑ ๋ฐฉ์๋ณด๋ค ๋ ๋์ ์ ์ด๊ฐ ๊ฐ๋ฅํฉ๋๋ค.
- ์๋: Mistral Small 3.1์ 200๋จ์ด ์ด๋ฉ์ผ์ 8~15์ด์ ์์ฑํฉ๋๋ค. Llama 3.3 8B๋ 5~10์ด์ ๋๋ค.
- ๋น์ฉ: ๋ฌด๋ฃ(์คํ ์์ค) vs. ChatGPT Plus ์ $30 ๋๋ ๊ธฐ์ ์ฉ ์ $200.
๋น์ฆ๋์ค ํค์ ๋ฐ์ด๋ ๋ชจ๋ธ์?
๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์๋ ๋ช ํ์ฑ๊ณผ ๊ฐ๊ฒฐํจ์ด ์ค์ํฉ๋๋ค. ์ํ ๋ชจ๋ธ์ด ๋ ์ ๋ฆฌํฉ๋๋ค.
- Mistral Small 3.1 24B: ๊ฐ์ฅ ๊ฐ๊ฒฐํ ๊ฒฐ๊ณผ๋ฌผ์ ์์ฑํฉ๋๋ค. ์ด๋ฉ์ผ, Slack ๋ฉ์์ง, ๊ฒฝ์์ง์ฉ ๋ฉ๋ชจ ๋ฑ ๊น๋ํ๊ณ ์ ๋ฌธ์ ์ธ ๋จ๋ฌธ ํ์ ์ฝํ ์ธ ์ ์ต์ ์ ๋๋ค. ํค ์ ์ด์ ํ์ํฉ๋๋ค.
- Llama 3.3 8B: ๊ท ํ ์กํ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค. ์ ์์, ๋ฉ๋ชจ ๋ฑ ์ค๊ฐ ๊ธธ์ด์ ์ฝํ ์ธ ์ ์ ํฉํฉ๋๋ค. ๋ธ๋๋ ๋ณด์ด์ค ์์์ ๋ํ ์ ์๋ ฅ์ด ๋ฐ์ด๋ฉ๋๋ค.
- Qwen3 7B: ๋น์์ด๊ถ ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์ ํ์ํฉ๋๋ค. ํ๋์ค์ด, ๋ ์ผ์ด, ์คํ์ธ์ด, ์ผ๋ณธ์ด, ์ค๊ตญ์ด์ ๋ค์ดํฐ๋ธ ํ ํฌ๋์ด์ ๋ฅผ ๊ฐ์ถ๊ณ ์์ต๋๋ค. ๋ค๊ตญ์ด ์์ ์ ์ต๊ณ ์ ์ ํ์ ๋๋ค.
- ๋จ๋ฌธ ํ์(์ด๋ฉ์ผ, ๋ฉ๋ชจ)์์๋ 7B~24B ๋ชจ๋ธ์ด 70B๋ณด๋ค ๋ ๊น๋ํ ๊ฒฐ๊ณผ๋ฌผ์ ์์ฑํฉ๋๋ค. ์ฅ๋ฌธ ์ฝํ ์ธ (2ํ์ด์ง ์ด์์ ์ ์์, ๋ณด๊ณ ์)์๋ 128K ์ปจํ ์คํธ๋ฅผ ๊ฐ์ถ Llama 3.3 70B๊ฐ ๋ค์ค ์น์ ๋ฌธ์๋ฅผ ์์ ์ ์ผ๋ก ์ฒ๋ฆฌํฉ๋๋ค.
๋ฌธ์ ์์ฑ ์ ํ๋ณ ๋ชจ๋ธ ์ถ์ฒ
| Task | Best Model | Prompt Strategy | Output Quality |
|---|---|---|---|
| ์ ํ | ์ต์ ๋ชจ๋ธ | ํ๋กฌํํธ ์ ๋ต | ๊ฒฐ๊ณผ๋ฌผ ํ์ง |
| ์ด๋ฉ์ผ ์ด์ ์์ฑ | Mistral Small 3.1 24B | "๋ฅ๋ํ๋ก ์์ฑ, ์ต๋ 150๋จ์ด, ์ ๋ฌธ ์ฉ์ด ์์ด" | ์ฐ์ - ๊ฐ๊ฒฐํ๊ณ ์ ๋ฌธ์ |
| ๋น์ฆ๋์ค ์ ์์(1~3ํ์ด์ง) | Llama 3.3 8B | ์คํ์ผ ์ฐธ๊ณ ์ฉ์ผ๋ก ์ ์์ ์์ 2~3๊ฐ ์ ๊ณต | ์ํธ - ํค ์์์ ์ ์ ์ |
| ๊ฒฝ์์ง์ฉ ๋ฉ๋ชจ | Mistral Small 3.1 24B | "ํ์: ๋ฌธ์ / ๊ถ๊ณ / ๋ค์ ๋จ๊ณ" | ์ฐ์ - ๊ตฌ์กฐํ๋ ๊ฒฐ๊ณผ๋ฌผ |
| Slack/๋ด๋ถ ๋ฉ์์ง | Qwen3 7B | "์บ์ฃผ์ผํ์ง๋ง ์ ๋ฌธ์ ์ผ๋ก, ์ต๋ 2~3๋ฌธ์ฅ" | ์ํธ - ์ค์๊ฐ ์๋ต์ ๋ฎ์ ์ง์ฐ |
| ๋น์์ด๊ถ ๋น์ฆ๋์ค ์ด๋ฉ์ผ | Qwen3 7B | "[์ธ์ด] ๋น์ฆ๋์ค ์ด๋ฉ์ผ, ๊ฒฉ์์ฒด" | ์ฐ์ - ๋ค์ดํฐ๋ธ ํ ํฌ๋์ด์ |
| ๊ณ์ฝ์ ์์ฝ | Llama 3.3 70B | "ํต์ฌ ์๋ฌด ์ฌํญ๊ณผ ์ํ ์์๋ฅผ ์์ฝ" | ์ต๊ณ - ๊ธด ์ปจํ ์คํธ๋ก ์ ์ฒด ๋ฌธ์ ์ฒ๋ฆฌ |
| ๊ธฐ์กด ์ด์ ๋ค๋ฌ๊ธฐ | 7B ๋ชจ๋ธ (๋ชจ๋ ์ข ๋ฅ) | "๋ช ํ์ฑ์ ์ํด ํธ์ง, ์ ํ์ด ์ ๊ฑฐ, ๋ฅ๋ํ ์ฌ์ฉ" | ์ฐ์ - ํธ์ง ๋ชจ๋์์ ์ต์์ ํ์ฉ ์ฌ๋ก |
๋ธ๋๋ ๋ณด์ด์ค๋ฅผ ์ํ ํ๋กฌํํธ ์์ง๋์ด๋ง
๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์๋ ์ผ๊ด์ฑ์ด ํ์ํฉ๋๋ค. ๋ชจ๋ธ์๊ฒ ๊ท์ฌ์ ๋ณด์ด์ค๋ฅผ ๊ฐ๋ฅด์น์ญ์์ค.
- 1์์ ์์ง: ๊ท์ฌ์ ๋ธ๋๋ ๋ณด์ด์ค๊ฐ ๋ด๊ธด ์ด๋ฉ์ผ ๋๋ ๋ฉ๋ชจ 3~5๊ฐ๋ฅผ ์ค๋นํ์ญ์์ค. ์ด์ํ๋ ์์๊ฐ ์๋ ์ค์ ๋ก ๋ฐ์กํ ์ด๋ฉ์ผ์ ์ฌ์ฉํ ์๋ก ๋ ํจ๊ณผ์ ์ ๋๋ค.
- 2ํ๋กฌํํธ ํ ํ๋ฆฟ ์์ฑ: "๋ค์ ์คํ์ผ๋ก ์์ฑํ์ญ์์ค: [์์]. ์ด์ ์ด ๋ณด์ด์ค๋ก [์์ ]์ ์ด์ ์์ฑํ์ญ์์ค."
- 3์ ์ฝ ์กฐ๊ฑด ๋ช ์: "150๋จ์ด ์ด๋ด๋ก ์ ์งํ์ญ์์ค.", "๋ฅ๋ํ๋ฅผ ์ฌ์ฉํ์ญ์์ค.", "์ ๋ฌธ ์ฉ์ด๋ ์ ํ์ด๋ ์ฌ์ฉํ์ง ๋ง์ญ์์ค."
- 4๊ฒฐ๊ณผ๋ฌผ ๋ฐ๋ณต ๊ฐ์ : ์ฒซ ์ด์์ด ๋๋ฌด ๊ฒฉ์์ ์ด๋ผ๋ฉด ๋ค์๊ณผ ๊ฐ์ด ๋ค๋ฌ์ผ์ญ์์ค: "๋ ๊ฐ๋จํ ํํ์ ์ฌ์ฉํ๊ณ , ์ ํ์ด๋ฅผ ์ ๊ฑฐํ๋ฉฐ, ๋๋ฃ์๊ฒ ๋ฌธ์๋ฅผ ๋ณด๋ด๋ฏ ์์ฑํ์ญ์์ค."
- 5ํ ํ๋ฆฟ ์ ์ฅ: ๋ฌธ์ ์ ํ๋ณ(์์ , ๊ณ ๊ฐ ์ง์, ๋ด๋ถ ๊ณต์ง)๋ก ํ๋กฌํํธ๋ฅผ ์ ์ฅํ์ญ์์ค. ์ผ๊ด์ฑ์ ์ํด ์ฌ์ฌ์ฉํ์ญ์์ค.
ํํ ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ ์ค์
- ๋จ๋ฌธ ํ์ ๋ฌธ์ ์์ฑ์ 70B ๋ชจ๋ธ์ ์ฌ์ฉํ๋ ๊ฒ. ์ฅํฉํ๊ณ ๊ณผ๋ํ ์ค๋ช ์ด ๋ด๊ธด ๊ฒฐ๊ณผ๋ฌผ์ด ์์ฑ๋ฉ๋๋ค. ์ด๋ฉ์ผ๊ณผ ๋ฉ๋ชจ์๋ Mistral Small 3.1 24B ๋๋ Llama 3.3 8B๊ฐ ๋ ๋น ๋ฅด๊ณ ๊ฐ๊ฒฐํฉ๋๋ค.
- ์์๋ฅผ ์ ๊ณตํ์ง ์๋ ๊ฒ. ๋ชจ๋ธ์ด ๊ท์ฌ์ ๋ณด์ด์ค๋ฅผ ์ถ์ธกํ๊ฒ ๋ฉ๋๋ค. ํญ์ ๊ท์ฌ์ ๋ธ๋๋ ๋ณด์ด์ค๊ฐ ๋ด๊ธด ์ค์ ์ด๋ฉ์ผ ๋๋ ๋ฉ๋ชจ 2~3๊ฐ๋ฅผ ์ ๊ณตํ์ญ์์ค.
- ์ฒซ ์ด์์ ๊ทธ๋๋ก ์ ๋ขฐํ๋ ๊ฒ. ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์๋ 1~2ํ์ ํธ์ง ๊ณผ์ ์ด ํ์ํฉ๋๋ค. ์์ฑ ์ ์ฉ ์ํฌํ๋ก ๋์ ํธ์ง ํ๋กฌํํธ๋ฅผ ํ์ฉํ์ญ์์ค.
- ์ฅ๋ฌธ ๋ฌธ์์ ์ปจํ ์คํธ ๊ธธ์ด๋ฅผ ์ค์ ํ์ง ์๋ ๊ฒ: Ollama์ ๊ธฐ๋ณธ๊ฐ์ 2048 ํ ํฐ์ ๋๋ค. 2ํ์ด์ง์ง๋ฆฌ ๋น์ฆ๋์ค ์ ์์๋ ์ฝ 1,500~2,000๋จ์ด๋ก ์ด ํ๊ณ์ ๊ทผ์ ํ๊ฑฐ๋ ์ด๊ณผํฉ๋๋ค. ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ ์์ ์ ์ํด Modelfile์ ์ต์ `PARAMETER num_ctx 8192`๋ฅผ ์ค์ ํ์ญ์์ค. ๊ณ์ฝ์ ๊ฒํ ๋ ๋ค์ค ํ์ด์ง ๋ณด๊ณ ์์๋ 32K ์ปจํ ์คํธ๋ฅผ ์ฌ์ฉํ์ญ์์ค.
- ์์ฑ๊ณผ ํธ์ง์ ๋์ผํ ๋ชจ๋ธ์ ์ฌ์ฉํ๋ ๊ฒ: ์ต์ ์ ์ํฌํ๋ก๋ 2๋จ๊ณ ๋ฐฉ์์ ๋๋ค. 7B ๋ชจ๋ธ๋ก ๋น ๋ฅด๊ฒ ์ด์์ ์์ฑํ ๋ค์, Mistral Small 3.1 24B์ ํธ์ง ๋ชจ๋๋ก ํค์ ๋ค๋ฌ๊ณ ์ ๋ฌธ ์ฉ์ด๋ฅผ ์ ๊ฑฐํ๋ฉฐ ๊ตฌ์กฐ๋ฅผ ์ ๋ฆฌํ์ญ์์ค. ๋ ์์ ๋ชจ๋์ 70B ๋ชจ๋ธ์ ์ฌ์ฉํ๋ ๊ฒ์ ์ด 2๋จ๊ณ ์ ๊ทผ ๋ฐฉ์๋ณด๋ค ๋๋ฆฌ๊ณ ๋ ๊ฐ๊ฒฐํ ๊ฒฐ๊ณผ๋ฌผ์ ์์ฑํฉ๋๋ค.
์ค์ : ๋ก์ปฌ ๋ฌธ์ ์์ฑ ๋์ฐ๋ฏธ
- 1Mistral Small 3.1๋ก Ollama๋ฅผ ์์ํ์ญ์์ค: `ollama run mistral-small3.1`.
- 2VS Code ํ์ฅ ํ๋ก๊ทธ๋จ "Continue" ๋๋ ์น ์ฑ์ฉ ๋ธ๋ผ์ฐ์ ํ์ฅ ํ๋ก๊ทธ๋จ์ ์ค์นํ์ญ์์ค.
- 3๊ท์ฌ์ ๋ธ๋๋ ๋ณด์ด์ค ์์๊ฐ ํฌํจ๋ ๋ง์ถคํ ์์คํ ํ๋กฌํํธ๋ฅผ ์์ฑํ์ญ์์ค.
- 4์์ฑ ๊ธฐ๋ฅ์ ์คํํ ๋จ์ถํค(์: Ctrl+K)๋ฅผ ์ง์ ํ์ญ์์ค.
- 5์ด๋ฉ์ผ ์ด์ ์์ฑ โ ํ ์คํธ ์ ํ โ Ctrl+K โ "[ํค]์ ๋ง๊ฒ ์ด ์ด๋ฉ์ผ์ ๋ค๋ฌ์ด ์ฃผ์ญ์์ค" โ ๊ฒฐ๊ณผ ๋ณต์ฌ.
๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์ ์ํ ๋ก์ปฌ LLM: ์ง์ญ๋ณ ๋งฅ๋ฝ
EU / GDPR
๊ณ ๊ฐ, ์ง์ ๋๋ ๋น์ฆ๋์ค ํํธ๋๋ฅผ ์ธ๊ธํ๋ ์ด๋ฉ์ผ์ด๋ ๋ฌธ์๋ฅผ ์์ฑํ๋ EU ๋น์ฆ๋์ค ์ ๋ฌธ๊ฐ์๊ฒ ์์ด, ๋ก์ปฌ ๋ฌธ์ ์์ฑ ๋์ฐ๋ฏธ๋ฅผ ์ฌ์ฉํ๋ค๋ ๊ฒ์ ์ด๋ฆ, ์ฐ๋ฝ์ฒ, ๊ฑฐ๋ ์กฐ๊ฑด ๋ฑ์ ๊ฐ์ธ ์ ๋ณด๊ฐ ํด๋ผ์ฐ๋ AI ์๋น์ค๋ก ์ ์ก๋์ง ์์์ ์๋ฏธํฉ๋๋ค. GDPR ์ 6์กฐ๋ ๊ฐ์ธ ์ ๋ณด ์ฒ๋ฆฌ์ ์ ๋ฒํ ๊ทผ๊ฑฐ๋ฅผ ์๊ตฌํฉ๋๋ค. ๊ณ ๊ฐ ์ด๋ฆ๊ณผ ํ์ฌ ์ ๋ณด๊ฐ ํฌํจ๋ ๋น์ฆ๋์ค ์์ ์ ํด๋ผ์ฐ๋ AI API๋ฅผ ์ฌ์ฉํ๋ฉด ์ 28์กฐ์ ๋ฐ๋ฅธ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๊ณ์ฝ(DPA)์ด ํ์ํ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๊ด๊ณ๊ฐ ํ์ฑ๋ฉ๋๋ค.
๋ก์ปฌ ์ถ๋ก ์ ์ด๋ฅผ ์์ ํ ํด์ํฉ๋๋ค. Mistral Small 3.1 24B(Mistral AI, ํ๋์ค, Apache 2.0)๊ฐ ๊ถ์ฅ EU ๋ชจ๋ธ์ ๋๋ค. EU ์ถ์ , ๋ช ํํ ๋ผ์ด์ ์ค, ๋ ์ผ์ดยทํ๋์ค์ดยท์์ด ๊ฒฉ์์ฒด ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์ ๋ํ ๊ฐ๋ ฅํ ์ง์ ์ดํ ๋ฅ๋ ฅ์ ๊ฐ์ถ๊ณ ์์ต๋๋ค. ๋ ์ผ์ด ๋น์ฆ๋์ค ์์ (Geschรคftskorrespondenz)์ ํนํ ์ ํฉํ๋ฉฐ, Mistral Small 3.1์ ๋๊ธ ํฌ๊ธฐ์ ๋ฏธ๊ตญ ํ๋ จ ๋ชจ๋ธ๋ณด๋ค DIN 5008 ํ์ ๊ด๋ก๋ฅผ ๋ ์ ๋ฐ๋ฅด๋ ๊ฒฐ๊ณผ๋ฌผ์ ์์ฑํฉ๋๋ค.
์ผ๋ณธ(METI)
์ผ๋ณธ์ด ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์๋ ์๊ฒฉํ ๊ฒฝ์ด ์ฒด๊ณ๊ฐ ์์ต๋๋ค(๊ฒฝ์ด ์์ค: ์ ์ค์ด, ์กด๊ฒฝ์ด, ๊ฒธ์์ด). ์ผ๋ฐ LLM์ ๊ธฐ๋ณธ์ ์ผ๋ก ์ ์ค์ด(ใฆใใญใใ)๋ฅผ ์ฌ์ฉํ์ง๋ง, ๋ช ์์ ์ธ ํ๋กฌํํธ ์ง์ ์์ด๋ ์กด๊ฒฝ์ด(ใใใใใ)๋ ๊ฒธ์์ด(ใใใใใใ)๋ฅผ ์์ ์ ์ผ๋ก ์์ฑํ์ง ๋ชปํฉ๋๋ค. ์ผ๋ณธ์ด ๋น์ฆ๋์ค ์์ ์๋ ๋ช ์์ ์ธ ๊ฒฝ์ด ์ง์๊ฐ ํฌํจ๋ Qwen3 7B๋ฅผ ์ฌ์ฉํ์ญ์์ค: "ใกใผใซใฏไธๅฏงใชๆฌ่ช๏ผๅฐๆฌ่ชใจ่ฌ่ญฒ่ช๏ผใไฝฟ็จใใฆใใ ใใ". Qwen3์ ์ผ๋ณธ์ด ํ ํฌ๋์ด์ ๋ ๋๊ธ ๋ชจ๋ธ ์ค Llama๋ณด๋ค ํ์/๊ฐ๋ ๋น์ฆ๋์ค ์ดํ๋ฅผ ํจ์ฌ ๋ ์ ์ฒ๋ฆฌํฉ๋๋ค.
๋ ์ผ(ํน์ ์ฌํญ)
๋ ์ผ์ด ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์ ๊ณต์์ ์ธ ๊ด๋ก๋ฅผ ๋ฐ๋ฆ ๋๋ค. Sie ํ์(๊ฒฉ์์ฒด 2์ธ์นญ), ํ์ฌ ์ ์ฒด ์ด๋ฆ, ๊ตฌ์กฐํ๋ ๋จ๋ฝ ํ์์ด ๊ทธ๊ฒ์ ๋๋ค. ์์คํ ํ๋กฌํํธ์ ๋ค์์ ์ถ๊ฐํ์ญ์์ค: "Schreiben Sie auf Deutsch mit Sie-Anrede, sachlichem Ton, ohne Anglizismen." Mistral Small 3.1์ 2026๋ 4์ ๊ธฐ์ค ๋ก์ปฌ์์ ์คํ ๊ฐ๋ฅํ ๋ชจ๋ธ ์ค ๊ฐ์ฅ ๊ฐ๋ ฅํ ๋ ์ผ์ด ๊ฒฉ์์ฒด ๋น์ฆ๋์ค ๊ฒฐ๊ณผ๋ฌผ์ ์์ฑํฉ๋๋ค. EU ๊ธฐ๋ฐ ๊ฐ๋ฐ์์ ๋น๋กฏ๋ ํ๋ จ ๋ฐ์ดํฐ์ ์๋นํ ๋ ์ผ์ด ๋น์ฆ๋์ค ์ฝํผ์ค๊ฐ ํฌํจ๋์ด ์๊ธฐ ๋๋ฌธ์ ๋๋ค.
์์ฃผ ๋ฌป๋ ์ง๋ฌธ
์ด๋ฉ์ผ ์์ฑ์์ Mistral Small 3.1์ด Llama 3.3๋ณด๋ค ๋์ ์ด์ ๋ ๋ฌด์์ ๋๊น?
Mistral Small 3.1์ ๋ ๊ฐ๊ฒฐํฉ๋๋ค. Llama 3.3์ ๋ ์ ์ฐํฉ๋๋ค. ์์ํ ์๋์ ๊ฐ๊ฒฐํจ์ ์ํ๋ค๋ฉด Mistral Small 3.1์, ํค ๋งค์นญ์ ์ํ๋ค๋ฉด Llama 3.3์ ์ ํํ์ญ์์ค.
๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์ 13B ๋ชจ๋ธ์ ์ฌ์ฉํ ์ ์์ต๋๊น?
๊ฐ๋ฅํ์ง๋ง ๋ถํ์ํฉ๋๋ค. 7B๊ฐ ๋ ๋น ๋ฅด๊ณ ํ์ง๋ ๋๋ฑํฉ๋๋ค. 13B๋ ๊ธด ์ ์์(2ํ์ด์ง ์ด์)์์ ์ฝ๊ฐ ๋ ์ฐ์ํฉ๋๋ค.
์์ฑ ๋ชจ๋์ ํธ์ง ๋ชจ๋ ์ค ์ด๋ ๊ฒ์ ์ฌ์ฉํด์ผ ํฉ๋๊น?
ํธ์ง ๋ชจ๋(๊ธฐ์กด ์ด์ ๋ค๋ฌ๊ธฐ)๊ฐ ๋ ์์ ํฉ๋๋ค. ์์ฑ ๋ชจ๋๋ ๋ ๋น ๋ฅด์ง๋ง ๋ ๋ง์ ํ๋กฌํํธ ์์ ์ด ํ์ํฉ๋๋ค.
ChatGPT์ฒ๋ผ ๋ค๋ฆฌ์ง ์์ผ๋ ค๋ฉด ์ด๋ป๊ฒ ํด์ผ ํฉ๋๊น?
์ํ ๋ชจ๋ธ(7B~24B)์ ์ฌ์ฉํ๊ณ , ๋ธ๋๋ ์์๋ฅผ ์ ๊ณตํ๋ฉฐ, ๋ฅ๋ํ์ ์งง์ ๋ฌธ์ฅ์ ์์ฒญํ๊ณ , ๊ตฐ๋๋๊ธฐ ํํ์ ๋ฐฐ์ ํ์ญ์์ค.
๊ธฐ๋ฐ ์ด๋ฉ์ผ์ ๋ก์ปฌ LLM์ ์ฌ์ฉํ ์ ์์ต๋๊น?
๊ฐ๋ฅํฉ๋๋ค. ์์ ํ ๋น๊ณต๊ฐ์ ๋๋ค. ๋ฐ์ดํฐ๊ฐ ๊ธฐ๊ธฐ๋ฅผ ๋ฒ์ด๋์ง ์์ต๋๋ค. ์ด๊ฒ์ด ํด๋ผ์ฐ๋ API ๋๋น ์ฃผ๋ ์ฅ์ ์ ๋๋ค.
๊ฒฐ๊ณผ๋ฌผ์ด ๋๋ฌด ๊ฒฉ์์ ์ด๋ฉด ์ด๋ป๊ฒ ํด์ผ ํฉ๋๊น?
ํ๋กฌํํธ๋ฅผ ๋ค์๊ณผ ๊ฐ์ด ์์ ํ์ญ์์ค: "์ ํ์ด๋ฅผ ์ ๊ฑฐํ์ญ์์ค. ์ผ์์ ์ธ ํํ์ ์ฌ์ฉํ์ญ์์ค. ๋๋ฃ์๊ฒ ๋ฌธ์๋ฅผ ๋ณด๋ด๋ฏ ์์ฑํ์ญ์์ค."
๋น์์ด๊ถ ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ์ ๊ฐ์ฅ ์ ํฉํ ๋ก์ปฌ LLM์ ๋ฌด์์ ๋๊น?
Qwen3 7B๋ ํ๋์ค์ด, ๋ ์ผ์ด, ์คํ์ธ์ด, ์ผ๋ณธ์ด, ์ค๊ตญ์ด, ํ๊ตญ์ด, ์๋์ด๋ฅผ ํฌํจํ 29๊ฐ ์ธ์ด๋ฅผ ๋ค์ดํฐ๋ธ๋ก ์ง์ํฉ๋๋ค. Llama๋ Mistral๋ณด๋ค ๋น์์ด๊ถ ๋น์ฆ๋์ค ํ ์คํธ๋ฅผ ๋ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌํฉ๋๋ค. ์ ๋ฝ ์ฃผ์ ๊ฒฉ์์ฒด ๋น์ฆ๋์ค ์ธ์ด(๋ ์ผ์ด, ํ๋์ค์ด, ์คํ์ธ์ด)์๋ EU ํ๋ จ ๋ฐ์ดํฐ ๋๋ถ์ Mistral Small 3.1 24B๋ ๊ฒฝ์๋ ฅ์ด ์์ต๋๋ค. ์์์ ๋ฐ ์ค๋ ์ธ์ด์๋ `ollama run qwen2.5:7b`๋ฅผ, ์ ๋ฝ ๊ฒฉ์์ฒด ๋ฌธ์์๋ `ollama run mistral-small3.1`์ ์คํํ์ญ์์ค.
๋ก์ปฌ LLM์ ์ฌ์ฉํด ํ์ฌ์ ๋ธ๋๋ ๋ณด์ด์ค๋ฅผ ๋ง์ถ๋ ค๋ฉด ์ด๋ป๊ฒ ํด์ผ ํฉ๋๊น?
์์คํ ํ๋กฌํํธ์ ๊ธฐ์กด ํ์ฌ ์ปค๋ฎค๋์ผ์ด์ ์์ 3~5๊ฐ๋ฅผ ์ ๊ณตํ์ญ์์ค: "์ด ์คํ์ผ๋ก ์์ฑํ์ญ์์ค: [์์ ๋ถ์ฌ๋ฃ๊ธฐ]. ๋ชจ๋ ์๋ต์์ ์ด ํค๊ณผ ์ดํ๋ฅผ ์ ์งํ์ญ์์ค." ๋ชจ๋ธ์ ์์์์ ์ดํ ํจํด, ๋ฌธ์ฅ ๊ธธ์ด ์ ํธ๋, ๊ฒฉ์ ์์ค์ ํ์ตํฉ๋๋ค. ๋ธ๋๋ ๋ณด์ด์ค๊ฐ ๋ณํํจ์ ๋ฐ๋ผ 6๊ฐ์๋ง๋ค ์์๋ฅผ ์ ๋ฐ์ดํธํ์ญ์์ค.
๋ก์ปฌ LLM์ด ๋ ์ผ์ด Sie ํ์์ผ๋ก ์์ฑํ ์ ์์ต๋๊น?
๋ช ์์ ์ธ ์ง์๊ฐ ์์ผ๋ฉด ๊ฐ๋ฅํฉ๋๋ค. ์์คํ ํ๋กฌํํธ์ ๋ค์์ ์ถ๊ฐํ์ญ์์ค: "Schreiben Sie auf Deutsch. Verwenden Sie ausschlieรlich die Sie-Form. Sachlicher, professioneller Ton ohne Anglizismen." Mistral Small 3.1๊ณผ Qwen3 7B ๋ชจ๋ ์ด ์ง์๋ฅผ ์์ ์ ์ผ๋ก ๋ฐ๋ฆ ๋๋ค. ๋ช ์์ ์ธ Sie ํ์ ์ง์ ์์ด๋ ๋ ์ผ์ด์์ ๋ชจ๋ธ์ด ๊ธฐ๋ณธ์ ์ผ๋ก ๋น๊ฒฉ์์ฒด์ธ du ํ์์ ์ฌ์ฉํฉ๋๋ค.
๊ธฐ์กด ํ ์คํธ ํธ์ง๊ณผ ์ฒ์๋ถํฐ ์์ฑํ๋ ๋ฐ ์ด๋ค ๋ก์ปฌ ๋ชจ๋ธ์ด ๊ฐ์ฅ ์ ํฉํฉ๋๊น?
ํธ์ง์๋ 7B ๋ชจ๋ธ(Qwen3 7B, Llama 3.3 8B)์ด ๋ชจ๋ ์ ์๋ํฉ๋๋ค. ํธ์ง์ ์์ฑ๋ณด๋ค ๋ ๊น๋ค๋กญ์ต๋๋ค. ๋ณต์กํ ๋ฌธ์(์ ์์, ๋ณด๊ณ ์)๋ฅผ ์ฒ์๋ถํฐ ์์ฑํ ๋๋ Mistral Small 3.1 24B๊ฐ ๋ ๊ตฌ์กฐํ๋ ๊ฒฐ๊ณผ๋ฌผ์ ์์ฑํฉ๋๋ค. 2๋จ๊ณ ์ ๊ทผ ๋ฐฉ์์ด ๊ฐ์ฅ ํจ๊ณผ์ ์ ๋๋ค. 7B ๋ชจ๋ธ๋ก ๋น ๋ฅด๊ฒ ์ด์์ ์์ฑํ ํ ํธ์ง ๋ชจ๋์์ Mistral Small 3.1๋ก ๋ค๋ฌ์ผ์ญ์์ค.
์ถ์ฒ
- Mistral AI. (2024). "Mistral Small 3.1 Release." https://mistral.ai/news/mistral-small-3-1/ -- Mistral Small 3.1 24B์ ๋ชจ๋ธ ์ฌ์ ๋ฐ ์ง์ ์ดํ ๋ฒค์น๋งํฌ.
- Alibaba Qwen Team. (2025). "Qwen3 Technical Report." https://arxiv.org/abs/2412.15115 -- ์ผ๋ณธ์ด, ๋ ์ผ์ด, ํ๋์ค์ด, ์ค๊ตญ์ด ๋น์ฆ๋์ค ๋ฌธ์ ์์ฑ ์ง์์ ํฌํจํ ๋ค๊ตญ์ด ์ญ๋ ๋ฐ์ดํฐ.
- Meta AI. (2024). "Llama 3.3 Model Card." https://llama.meta.com/ -- Llama 3.3 8B์ ํค ์ ์ ๋ฐ ์ง์ ์ดํ ํ๊ฐ.