Skip to main content
PromptQuorumPromptQuorum
ํ™ˆ/๊ณ ๊ธ‰ ๋กœ์ปฌ LLM/๋กœ์ปฌ LLM์œผ๋กœ ์†Œ์„ค๊ณผ ์‹œ๋‚˜๋ฆฌ์˜ค ์ง‘ํ•„ํ•˜๊ธฐ: 10๋งŒ ๋‹จ์–ด ์ด์ƒ์„ ์œ„ํ•œ ์›Œํฌํ”Œ๋กœ ๊ฐ€์ด๋“œ
Creative & Roleplay

๋กœ์ปฌ LLM์œผ๋กœ ์†Œ์„ค๊ณผ ์‹œ๋‚˜๋ฆฌ์˜ค ์ง‘ํ•„ํ•˜๊ธฐ: 10๋งŒ ๋‹จ์–ด ์ด์ƒ์„ ์œ„ํ•œ ์›Œํฌํ”Œ๋กœ ๊ฐ€์ด๋“œ

ยท15๋ถ„ ๋ถ„๋Ÿ‰ยทHans Kuepper ์ € ยท PromptQuorum ์ฐฝ๋ฆฝ์ž, ๋ฉ€ํ‹ฐ ๋ชจ๋ธ AI ๋””์ŠคํŒจ์น˜ ๋„๊ตฌ ยท PromptQuorum

๋กœ์ปฌ LLM์„ ์žฅ๋ฌธ ์ž‘์—…์— ํ™œ์šฉํ•˜๋Š” ์ž‘๊ฐ€๋“ค์ด ์ง๋ฉดํ•˜๋Š” ํ•ต์‹ฌ ๊ธฐ์ˆ ์  ๊ณผ์ œ๋Š” ์ปจํ…์ŠคํŠธ ์œˆ๋„ ๊ด€๋ฆฌ์ž…๋‹ˆ๋‹ค. ๋Œ€๋ถ€๋ถ„์˜ ๋กœ์ปฌ ๋ชจ๋ธ์€ ๋ช…๋ชฉ์ƒ 128K ์ปจํ…์ŠคํŠธ ์œˆ๋„๋ฅผ ๊ฐ–์ถ”๊ณ  ์žˆ์ง€๋งŒ, ์‹ค์ œ๋กœ๋Š” 32K ํ† ํฐ(์•ฝ 24,000 ๋‹จ์–ด) ์ดํ›„๋ถ€ํ„ฐ ์–ดํ…์…˜ ํ’ˆ์งˆ์ด ํ˜„์ €ํžˆ ์ €ํ•˜๋ฉ๋‹ˆ๋‹ค. ํ•ด๊ฒฐ์ฑ…์€ ๊ตฌ์กฐํ™”๋œ ์ปจํ…์ŠคํŠธ ์ฃผ์ž…, ์ฆ‰ "์„ธ์…˜ ๋ฌธ์„œ" ๊ธฐ๋ฒ•์ž…๋‹ˆ๋‹ค. ์ด์ „ ์ฑ•ํ„ฐ์˜ ์••์ถ• ์š”์•ฝ, ํ˜„์žฌ ์žฅ๋ฉด ์„ค์ •, ๊ด€๋ จ ์ธ๋ฌผ ์นด๋“œ๋งŒ ์œ ์ง€ํ•˜๊ณ , ๋งค ์ง‘ํ•„ ์„ธ์…˜ ์‹œ์ž‘ ์‹œ ํ•ด๋‹น ์š”์†Œ๋“ค๋งŒ ์ฃผ์ž…ํ•ฉ๋‹ˆ๋‹ค. ์žฅ๋ฉด๋ณ„ ์ƒ์„ฑ(์„ฑ์žฅํ•˜๋Š” ๋ฌธ์„œ๋ฅผ ๊ณ„์† ์ด์–ด ๋‹ฌ๋ผ๊ณ  ์š”์ฒญํ•˜๋Š” ๋Œ€์‹  ์„ธ์…˜๋‹น ํ•˜๋‚˜์˜ ์žฅ๋ฉด ํ”„๋กฌํ”„ํŠธ)๊ณผ ๊ฒฐํ•ฉํ•˜๋ฉด, ์ด ์ ‘๊ทผ๋ฒ•์€ ์–ด๋–ค ๋ถ„๋Ÿ‰์˜ ์†Œ์„ค์—์„œ๋„ ์ผ๊ด€๋œ ์žฅ๋ฌธ ๊ฒฐ๊ณผ๋ฌผ์„ ๋งŒ๋“ค์–ด ๋ƒ…๋‹ˆ๋‹ค. ํŠนํžˆ ์‹œ๋‚˜๋ฆฌ์˜ค ์ง‘ํ•„์—์„œ๋Š” beat sheet ์šฐ์„  ์›Œํฌํ”Œ๋กœ โ€” ์‚ฐ๋ฌธ ์ž‘์„ฑ ์ „์— ์žฅ๋ฉด ์ˆ˜์ค€์˜ beat sheet๋ฅผ ๋จผ์ € ์ƒ์„ฑ โ€” ๊ฐ€ ๊ตฌ์กฐ์—์„œ ์ดํƒˆํ•˜์ง€ ์•Š๋Š” ํ˜•์‹ํ™”๋œ ์Šคํฌ๋ฆฝํŠธ ํŽ˜์ด์ง€๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.

์†Œ์„ค์ด๋‚˜ ์‹œ๋‚˜๋ฆฌ์˜ค ์ง‘ํ•„ ์›Œํฌํ”Œ๋กœ์— ํ†ตํ•ฉ๋œ ๋กœ์ปฌ LLM์€ ์ธํ„ฐ๋„ท ์ ‘์†, ํด๋ผ์šฐ๋“œ ๋กœ๊ทธ, ์‚ฌ์šฉ๋Ÿ‰ ์ œํ•œ ์—†์ด ์žฅ๋ฉด ์ดˆ์•ˆ, beat sheet, ๋Œ€ํ™” ๊ฒ€ํ† , ์ˆ˜์ • ๋ผ์šด๋“œ๋ฅผ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ฐ€์ด๋“œ๋Š” ๋ชจ๋ธ ์„ ํƒ, ์žฅ๋ฌธ ์ž‘์—…์„ ์œ„ํ•œ ์ปจํ…์ŠคํŠธ ์œˆ๋„ ๊ด€๋ฆฌ, ์ฑ•ํ„ฐ๋ณ„ ์Šค์บํด๋”ฉ, ์žฅ๋ฉด ์ƒ์„ฑ, ๊ทธ๋ฆฌ๊ณ  ๋กœ์ปฌ LLM์„ ์ง‘ํ•„ ์†Œํ”„ํŠธ์›จ์–ด์™€ ์—ฐ๊ฒฐํ•˜๋Š” ๋„๊ตฌ๋“ค์„ ํฌํ•จํ•œ ์ „์ฒด ์›Œํฌํ”Œ๋กœ๋ฅผ ๋‹ค๋ฃน๋‹ˆ๋‹ค.

ํ•ต์‹ฌ ์š”์ 

  • ์ปจํ…์ŠคํŠธ ์œˆ๋„ ํ˜„์‹ค: ๋ช…๋ชฉ์ƒ 128K ํ† ํฐ, ์‹ค์ œ๋กœ๋Š” 32K ํ† ํฐ. ๋Œ€๋ถ€๋ถ„์˜ ๋กœ์ปฌ ๋ชจ๋ธ์—์„œ ์–ดํ…์…˜ ํ’ˆ์งˆ์€ 32K ํ† ํฐ(์•ฝ 24,000 ๋‹จ์–ด) ์ดํ›„ ๋ˆˆ์— ๋„๊ฒŒ ์ €ํ•˜๋ฉ๋‹ˆ๋‹ค. ์ „์ฒด ์›๊ณ ๋ฅผ ์ปจํ…์ŠคํŠธ ์œˆ๋„์— ๋ถ™์—ฌ๋„ฃ์ง€ ๋ง๊ณ  ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.
  • ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•์ด ํ•ต์‹ฌ ๊ธฐ์ˆ ์ž…๋‹ˆ๋‹ค. ํ™œ์„ฑ ์ธ๋ฌผ ์นด๋“œ(์ธ๋ฌผ๋‹น 150 ๋‹จ์–ด), ์ฑ•ํ„ฐ ์š”์•ฝ(์™„๋ฃŒ๋œ ์ฑ•ํ„ฐ๋‹น 100โ€“200 ๋‹จ์–ด), ํ˜„์žฌ ์žฅ๋ฉด ์„ค์ •์„ ๋‹ด์€ ์••์ถ• ํ…์ŠคํŠธ ํŒŒ์ผ์„ ์œ ์ง€ํ•˜์‹ญ์‹œ์˜ค. ๋งค ์ƒ์„ฑ ์„ธ์…˜ ์‹œ์ž‘ ์‹œ ์ฃผ์ž…ํ•˜์‹ญ์‹œ์˜ค.
  • ํ•œ ๋ฒˆ์— ํ•œ ์žฅ๋ฉด์„ ์ƒ์„ฑํ•˜์‹ญ์‹œ์˜ค. ์„ฑ์žฅํ•˜๋Š” ๋ฌธ์„œ๋ฅผ "์ด์–ด ์“ฐ๋„๋ก" ์š”์ฒญํ•˜๋Š” ๋Œ€์‹ , ์„ธ์…˜๋‹น ํ•˜๋‚˜์˜ ์žฅ๋ฉด(200โ€“600 ๋‹จ์–ด)์„ ์ž‘์„ฑํ•˜๋„๋ก ๋ชจ๋ธ์— ์š”์ฒญํ•˜์‹ญ์‹œ์˜ค. ์„ธ์…˜๋‹น ํ•œ ์žฅ๋ฉด์€ ์ปจํ…์ŠคํŠธ ์ดํƒˆ์„ ์ œ๊ฑฐํ•˜๊ณ  ์ผ๊ด€๋œ ๋ชฉ์†Œ๋ฆฌ๋ฅผ ๋งŒ๋“ค์–ด ๋ƒ…๋‹ˆ๋‹ค.
  • ์‹œ๋‚˜๋ฆฌ์˜ค๋Š” beat sheet ์šฐ์„ ์œผ๋กœ ์‹œ์ž‘ํ•˜์‹ญ์‹œ์˜ค. ์Šคํฌ๋ฆฝํŠธ ํŽ˜์ด์ง€๋ฅผ ์ƒ์„ฑํ•˜๊ธฐ ์ „์— ์žฅ๋ฉด ์ˆ˜์ค€์˜ beat sheet๋ฅผ ๋จผ์ € ์ƒ์„ฑํ•˜์‹ญ์‹œ์˜ค. ์ด๋ฅผ ๊ฐ ํŽ˜์ด์ง€ ์ƒ์„ฑ์˜ ์Šค์บํด๋“œ๋กœ ํ™œ์šฉํ•˜์‹ญ์‹œ์˜ค.
  • Llama 3.3 70B๊ฐ€ ์žฅ๋ฌธ ์ž‘์—…์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. ๊ฐ•ํ•œ ์ปจํ…์ŠคํŠธ ์ค€์ˆ˜, ๋” ๊ธด ์ƒ์„ฑ์—์„œ ์šฐ์ˆ˜ํ•œ ์ง€์‹œ ๋”ฐ๋ฅด๊ธฐ, ๊ธด ์„ธ์…˜์—์„œ ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ์ธ๋ฌผ ๋ชฉ์†Œ๋ฆฌ ์ผ๊ด€์„ฑ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
  • Ollama + ์ผ๋ฐ˜ ํ…์ŠคํŠธ ์ง‘ํ•„ ๋„๊ตฌ๊ฐ€ ๊ฐ€์žฅ ์•ˆ์ •์ ์ธ ํ†ตํ•ฉ์ž…๋‹ˆ๋‹ค. Scrivener, Obsidian, VS Code๋Š” ์›๊ณ  ๋ ˆ์ด์–ด๋กœ ์ž‘๋™ํ•˜๋ฉฐ, Ollama๋Š” ์•ฑ์ด๋‚˜ ์Šคํฌ๋ฆฝํŠธ๊ฐ€ ํ˜ธ์ถœํ•  ์ˆ˜ ์žˆ๋Š” API๋ฅผ ํ†ตํ•ด ๋ชจ๋ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
  • ๋ฌด๊ฒ€์—ด ๋ชจ๋ธ(Hermes 3)์€ ์„ค์ • ๋ณ€๊ฒฝ ์—†์ด ์ด ์›Œํฌํ”Œ๋กœ์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค. ์„ฑ์ˆ™ํ•œ ์†Œ์„ค์„ ์œ„ํ•ด Ollama ๋ชจ๋ธ์„ Hermes 3๋กœ ์ „ํ™˜ํ•˜๊ธฐ๋งŒ ํ•˜๋ฉด ๋˜๋ฉฐ, ์„ธ์…˜ ๋ฌธ์„œ ๋ฐ ์žฅ๋ฉด ์ƒ์„ฑ ๊ธฐ๋ฒ•์€ ๋™์ผํ•ฉ๋‹ˆ๋‹ค.

๋น ๋ฅธ ์‚ฌ์‹ค

  • ์žฅ๋ฌธ ์†Œ์„ค์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๋ชจ๋ธ: Llama 3.3 70B (๊ฐ€์žฅ ๊ฐ•ํ•œ ์ปจํ…์ŠคํŠธ ์ค€์ˆ˜ ๋ฐ ์ง€์‹œ ๋”ฐ๋ฅด๊ธฐ).
  • ์‹ค์งˆ์  ์ปจํ…์ŠคํŠธ ์œˆ๋„ ํ•œ๊ณ„: ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ์–ดํ…์…˜ ํ’ˆ์งˆ์„ ์œ„ํ•ด ~32K ํ† ํฐ(~24,000 ๋‹จ์–ด); 128K๋Š” ๊ธฐ์ˆ ์  ์ƒํ•œ์ž…๋‹ˆ๋‹ค.
  • ์„ธ์…˜ ๋ฌธ์„œ ํฌ๊ธฐ: 4,000 ํ† ํฐ ๋ฏธ๋งŒ ๋ชฉํ‘œ (์ธ๋ฌผ ์นด๋“œ + ์ฑ•ํ„ฐ ์š”์•ฝ + ํ˜„์žฌ ์žฅ๋ฉด ์„ค์ •).
  • ์žฅ๋ฉด ์ƒ์„ฑ ๋ชฉํ‘œ: ์ƒ์„ฑ ํ˜ธ์ถœ๋‹น 200โ€“600 ๋‹จ์–ด; ๋” ๊ธด ์žฅ๋ฉด์€ ์—ฌ๋Ÿฌ ์ˆœ์ฐจ ํ”„๋กฌํ”„ํŠธ๋ฅผ ํ†ตํ•ด ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.
  • ์‹œ๋‚˜๋ฆฌ์˜ค ํ˜•์‹: Fountain ํ˜•์‹ ์ถœ๋ ฅ ์ง€์‹œ์™€ ํ•จ๊ป˜ Ollama๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์Šคํฌ๋ฆฝํŠธ ํ˜•์‹์˜ ํ…์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.
  • Ollama์™€ ํ•จ๊ป˜ ์ž‘๋™ํ•˜๋Š” ์ง‘ํ•„ ๋„๊ตฌ: Scrivener (API ์Šคํฌ๋ฆฝํŠธ๋ฅผ ํ†ตํ•ด), Obsidian (๋กœ์ปฌ ํ”Œ๋Ÿฌ๊ทธ์ธ ๋˜๋Š” ์Šคํฌ๋ฆฝํŠธ๋ฅผ ํ†ตํ•ด), VS Code (Continue.dev ๋˜๋Š” ์ง์ ‘ API ํ˜ธ์ถœ์„ ํ†ตํ•ด), ์ˆœ์ˆ˜ ํ„ฐ๋ฏธ๋„.
  • ๋ฌด๊ฒ€์—ด ์˜ต์…˜: ์„ฑ์ˆ™ํ•œ ์†Œ์„ค์„ ์œ„ํ•œ Hermes 3 Llama 3.3; ๋™์ผํ•œ ์›Œํฌํ”Œ๋กœ, ๋™์ผํ•œ ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•.

์žฅ๋ฌธ ์ง‘ํ•„์„ ์œ„ํ•œ ์ปจํ…์ŠคํŠธ ์œˆ๋„ ๋ฌธ์ œ

๋Œ€๋ถ€๋ถ„์˜ ๋กœ์ปฌ ๋ชจ๋ธ์—์„œ ์‹ค์งˆ์ ์ธ ์ปจํ…์ŠคํŠธ ํ•œ๊ณ„๋Š” 32,000 ํ† ํฐ์ž…๋‹ˆ๋‹ค โ€” ๊ด‘๊ณ ๋œ 128K๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค. ์–ดํ…์…˜ ํ’ˆ์งˆ(๋ชจ๋ธ์ด ์ด์ „ ์ฝ˜ํ…์ธ ๋ฅผ ์ •ํ™•ํ•˜๊ฒŒ ์ฐธ์กฐํ•˜๋Š” ๋Šฅ๋ ฅ)์€ ๋Œ€๋ถ€๋ถ„์˜ ๋ชจ๋ธ์—์„œ 32,000 ํ† ํฐ ์ดํ›„ ์ €ํ•˜๋ฉ๋‹ˆ๋‹ค. 128K ํ† ํฐ์—์„œ๋Š” ๋งŽ์€ ๋ชจ๋ธ์ด ์ปจํ…์ŠคํŠธ ์ฒซ ๋ฒˆ์งธ ์‚ฌ๋ถ„์œ„์˜ ์ฝ˜ํ…์ธ ์— ๋Œ€ํ•œ ์ •ํ™•ํ•œ ์ฐธ์กฐ๋ฅผ ์žƒ์Šต๋‹ˆ๋‹ค. ์†Œ์„ค์˜ ๊ฒฝ์šฐ, ์ด๋Š” ์ง€๊ธˆ๊นŒ์ง€์˜ ์›๊ณ ๋ฅผ ๋‹จ์ˆœํžˆ ๋ถ™์—ฌ๋„ฃ๊ณ  ๋‹ค์Œ ์ฑ•ํ„ฐ๋ฅผ ์š”์ฒญํ•  ์ˆ˜ ์—†๋‹ค๋Š” ๊ฒƒ์„ ์˜๋ฏธํ•ฉ๋‹ˆ๋‹ค.

Moonshot AI์˜ Kimi-K2.6์€ 128K ์ปจํ…์ŠคํŠธ๋ฅผ ๊ฐ€์ง„ ๋Œ€๋ถ€๋ถ„์˜ ๋ชจ๋ธ๋ณด๋‹ค ์–ดํ…์…˜ ํ’ˆ์งˆ ๋ณด์กด์ด ๋›ฐ์–ด๋‚œ ์ง„์ •ํ•œ 100๋งŒ ํ† ํฐ ์ปจํ…์ŠคํŠธ ์œˆ๋„๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ๋Œ€๋ถ€๋ถ„์˜ ์ž‘๊ฐ€๋“ค์—๊ฒŒ Kimi-K2.6์„ ๋กœ์ปฌ์—์„œ ์‹คํ–‰ํ•˜๋Š” ๊ฒƒ์€ ๋น„์‹ค์šฉ์ ์ž…๋‹ˆ๋‹ค โ€” Q4 ์–‘์žํ™”์—์„œ ์•ฝ 480 GB์˜ VRAM์ด ํ•„์š”ํ•˜์—ฌ ์†Œ๋น„์ž ํ•˜๋“œ์›จ์–ด๋ฅผ ํ›จ์”ฌ ์ดˆ๊ณผํ•ฉ๋‹ˆ๋‹ค. 1M ์ปจํ…์ŠคํŠธ๊ฐ€ ์‹ค์ œ๋กœ ํ•„์š”ํ•œ ์ž‘๊ฐ€๋“ค์—๊ฒŒ๋Š” Moonshot์˜ ํ˜ธ์ŠคํŒ… API๊ฐ€ ์‹ค์šฉ์ ์ธ ์ ‘๊ทผ ์ง€์ ์ž…๋‹ˆ๋‹ค. ๋กœ์ปฌ์—์„œ ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ๋ชจ๋ธ(Llama 3.3 70B, Qwen3 32B, Mistral Large)์„ ์‚ฌ์šฉํ•˜๋Š” ์ž‘๊ฐ€๋“ค์—๊ฒŒ๋Š” 32K ์‹ค์งˆ ์ƒํ•œ์ด ์ œ์•ฝ์ž…๋‹ˆ๋‹ค.

๐Ÿ“ ํ•œ ๋ฌธ์žฅ์œผ๋กœ

๋Œ€๋ถ€๋ถ„์˜ ๋กœ์ปฌ LLM์—์„œ ์ปจํ…์ŠคํŠธ ์ค€์ˆ˜์˜ ์‹ค์งˆ์  ํ’ˆ์งˆ ์ƒํ•œ์€ ์•ฝ 32,000 ํ† ํฐ(~24,000 ๋‹จ์–ด)์ž…๋‹ˆ๋‹ค โ€” ์ด๋ฅผ ์ดˆ๊ณผํ•˜๋ฉด ๋ชจ๋ธ์€ ์ด์ „ ์ฝ˜ํ…์ธ ์— ๋Œ€ํ•œ ์ •ํ™•ํ•œ ์ฐธ์กฐ๋ฅผ ์žƒ์–ด ๋ชฉ์†Œ๋ฆฌ ์ดํƒˆ๊ณผ ์ค„๊ฑฐ๋ฆฌ ๋ถˆ์ผ์น˜๊ฐ€ ์žฅํŽธ ์›๊ณ  ์ „์ฒด์— ๊ฑธ์ณ ๋ˆ„์ ๋ฉ๋‹ˆ๋‹ค.

๐Ÿ’ฌ ์‰ฝ๊ฒŒ ๋งํ•˜๋ฉด

90,000 ๋‹จ์–ด ์†Œ์„ค์„ 128K ์ปจํ…์ŠคํŠธ ์œˆ๋„์— ๋„ฃ๊ณ  ๋ชจ๋ธ์ด ์ฑ•ํ„ฐ 20์„ ์“ฐ๋ฉด์„œ ์ฑ•ํ„ฐ 3์—์„œ ๋ฌด์Šจ ์ผ์ด ์žˆ์—ˆ๋Š”์ง€ ๊ธฐ์–ตํ•  ๊ฒƒ์ด๋ผ๊ณ  ๊ธฐ๋Œ€ํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ๋Œ€์‹ , ๋ชจ๋ธ์ด ์•Œ์•„์•ผ ํ•  ๊ฒƒ๋“ค โ€” ์ธ๋ฌผ ์นด๋“œ, ์ฑ•ํ„ฐ ์š”์•ฝ, ํ˜„์žฌ ์žฅ๋ฉด ์„ค์ • โ€” ์„ 4,000 ํ† ํฐ ๋ฏธ๋งŒ์˜ "์„ธ์…˜ ๋ฌธ์„œ"๋กœ ์••์ถ•ํ•˜๊ณ , ๋งค ์ง‘ํ•„ ์„ธ์…˜ ์‹œ์ž‘ ์‹œ ๊ทธ๊ฒƒ์„ ์ฃผ์ž…ํ•˜์‹ญ์‹œ์˜ค. ๋ชจ๋ธ์€ ํ˜„์žฌ ์ƒ์„ฑ ์ค‘์ธ ์žฅ๋ฉด๊ณผ ๊ด€๋ จ๋œ ๊ฒƒ๋งŒ ์•Œ๋ฉด ๋ฉ๋‹ˆ๋‹ค.

  • ํ† ํฐ-๋‹จ์–ด ๋ณ€ํ™˜: 1 ํ† ํฐ โ‰ˆ ์˜์–ด ๊ธฐ์ค€ 0.75 ๋‹จ์–ด. 32K ํ† ํฐ โ‰ˆ 24,000 ๋‹จ์–ด. 128K ํ† ํฐ โ‰ˆ 96,000 ๋‹จ์–ด (์™„์ „ํ•œ ์†Œ์„ค ํ•œ ํŽธ).
  • ์–ดํ…์…˜ ์ €ํ•˜: ๋ชจ๋ธ์€ ๊ธด ์ปจํ…์ŠคํŠธ ์œˆ๋„์˜ ์ดˆ๋ฐ˜๋ถ€ ์ฝ˜ํ…์ธ ์— ๋Œ€ํ•œ ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ์ฐธ์กฐ๋ฅผ ์žƒ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ์ธ๋ฌผ ์ด๋ฆ„ ์˜ค๋ฅ˜, ์žŠํ˜€์ง„ ์ค„๊ฑฐ๋ฆฌ ํฌ์ธํŠธ, ํ™•๋ฆฝ๋œ ์–ด์กฐ์—์„œ์˜ ๋ชฉ์†Œ๋ฆฌ ์ดํƒˆ๋กœ ๋‚˜ํƒ€๋‚ฉ๋‹ˆ๋‹ค.
  • ๋น„๋Œ€์นญ์„ฑ: ๋ชจ๋ธ์€ ์ปจํ…์ŠคํŠธ ์œˆ๋„์˜ ์‹œ์ž‘๋ถ€(์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ)์™€ ๋๋ถ€(๋งˆ์ง€๋ง‰ ์ˆ˜๋ฐฑ ํ† ํฐ)์— ๊ฐ€์žฅ ์ž˜ ์ฃผ์˜๋ฅผ ๊ธฐ์šธ์ž…๋‹ˆ๋‹ค. ๊ธด ์ปจํ…์ŠคํŠธ ์ค‘๊ฐ„์˜ ์ฝ˜ํ…์ธ ๋Š” ๊ฐ€์žฅ ์‹ ๋ขฐํ•  ์ˆ˜ ์—†๊ฒŒ ์ฒ˜๋ฆฌ๋ฉ๋‹ˆ๋‹ค.
  • ํ•ด๊ฒฐ์ฑ…์œผ๋กœ์„œ์˜ ์„ธ์…˜ ๋ฌธ์„œ: ๋ชจ๋ธ์ด ํ•„์š”ํ•œ ๋ชจ๋“  ๊ฒƒ์„ ์งง์€ ๊ตฌ์กฐํ™” ๋ฌธ์„œ๋กœ ์••์ถ•ํ•˜์‹ญ์‹œ์˜ค. ์‹œ์ž‘ ์‹œ ์ฃผ์ž…ํ•˜์‹ญ์‹œ์˜ค. ์žฅ๋ฉด์„ ์ƒ์„ฑํ•˜์‹ญ์‹œ์˜ค. ์„ธ์…˜์„ ์ข…๋ฃŒํ•˜์‹ญ์‹œ์˜ค. ์žฌ์‹œ์ž‘ํ•˜์‹ญ์‹œ์˜ค. ์ƒˆ ์žฅ๋ฉด์„ ๋ฐ˜์˜ํ•˜๋„๋ก ์—…๋ฐ์ดํŠธ๋œ ๋™์ผํ•œ ์„ธ์…˜ ๋ฌธ์„œ๋กœ ๋‹ค์‹œ ์‹œ์ž‘ํ•˜์‹ญ์‹œ์˜ค.

โš ๏ธWarning: ์ „์ฒด ์›๊ณ ๋ฅผ ์ปจํ…์ŠคํŠธ์— ๋ถ™์—ฌ๋„ฃ์ง€ ๋งˆ์‹ญ์‹œ์˜ค. ์†Œ์„ค์ด 10,000 ๋‹จ์–ด๋ฅผ ์ดˆ๊ณผํ•œ ์ƒํƒœ์—์„œ ์ „์ฒด ์ดˆ์•ˆ์„ ๋ถ™์—ฌ๋„ฃ๊ณ  ๋‹ค์Œ ์ฑ•ํ„ฐ๋ฅผ ์š”์ฒญํ•˜๋ฉด ์ปจํ…์ŠคํŠธ ์ดํƒˆ์ด ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค โ€” ๋ชจ๋ธ์€ ์ดˆ๊ธฐ ์ธ๋ฌผ ์„ธ๋ถ€ ์‚ฌํ•ญ์„ ์žŠ๊ณ , ํ™•๋ฆฝ๋œ ์ค„๊ฑฐ๋ฆฌ ํฌ์ธํŠธ์™€ ๋ชจ์ˆœ๋˜๋ฉฐ, ์ผ๋ฐ˜์ ์ธ ์–ด์กฐ๋กœ ๋Œ์•„๊ฐ‘๋‹ˆ๋‹ค. ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.

์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•

์ด ์„น์…˜์˜ ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•์€ ์—ฌ๋Ÿฌ ์žฅ๋ฌธ ํ”„๋กœ์ ํŠธ(90,000 ๋‹จ์–ด ๋ฌธํ•™ ์†Œ์„ค ํ•œ ํŽธ, ์‹œ๋‚˜๋ฆฌ์˜ค ์ดˆ์•ˆ ๋‘ ํŽธ)์—์„œ์˜ ์‹ค์ œ ์ง‘ํ•„ ์ž‘์—…์„ ํ†ตํ•ด ๊ฒ€์ฆ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. 4,000 ํ† ํฐ์˜ ์„ธ์…˜ ๋ฌธ์„œ ํฌ๊ธฐ, ์žฅ๋ฉด๋ณ„ ์ƒ์„ฑ ๋ฆฌ๋“ฌ, ์—ฐ์†์„ฑ ํ™•์ธ ํƒ€์ด๋ฐ์€ ์ด๋ก ์  ๋ชจ๋ธ์ด ์•„๋‹Œ ์‹ค์ œ ์ง‘ํ•„ ์ž‘์—…์—์„œ ๊ด€์ฐฐ๋œ ์‹คํŒจ ํŒจํ„ด์œผ๋กœ๋ถ€ํ„ฐ ๋„์ถœ๋œ ๊ฒƒ์ž…๋‹ˆ๋‹ค.

์„ธ์…˜ ๋ฌธ์„œ๋Š” ์›๊ณ  ์˜†์— ๋ณด๊ด€ํ•˜๋Š” ์ผ๋ฐ˜ ํ…์ŠคํŠธ ํŒŒ์ผ๋กœ, ๋ชจ๋ธ์ด ์ผ๊ด€๋œ ์ฝ˜ํ…์ธ ๋ฅผ ์ƒ์„ฑํ•˜๊ธฐ ์œ„ํ•ด ์•Œ์•„์•ผ ํ•˜๋Š” ์†Œ์„ค์˜ ์••์ถ• ์ƒํƒœ์ž…๋‹ˆ๋‹ค. ์„ธ ์„น์…˜์œผ๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค: ํ™œ์„ฑ ์ธ๋ฌผ ์นด๋“œ, ์ฑ•ํ„ฐ ์š”์•ฝ, ํ˜„์žฌ ์žฅ๋ฉด ์„ค์ •.

์„ธ์…˜ ๋ฌธ์„œ ํ…œํ”Œ๋ฆฟ

โ€œ# SESSION DOCUMENT โ€” [NOVEL TITLE] ## ACTIVE CHARACTERS **[Character Name]** Dominant trait: [one trait] Contradicting behaviour: [one behaviour] Speech register: [formal/casual/specific verbal tics] Relationship to [other character]: [brief] **[Character Name 2]** [same structure] ## CHAPTER SUMMARIES (completed) Chapter 1: [100โ€“150 words โ€” what happened, what changed, where it ended] Chapter 2: [100โ€“150 words] [continue for all completed chapters] ## CURRENT SCENE SETUP Chapter: [N] Scene: [brief description of what this scene needs to accomplish] POV: [character name] Opening state: [where we are at the start of this scene โ€” 1 sentence] Emotional beat to land on: [what the POV character feels at the end โ€” do not state it directly in the scene] Word ceiling: [200โ€“500 words]โ€
  • ์ธ๋ฌผ ์นด๋“œ โ€” ํ™œ์„ฑ ์ธ๋ฌผ๋‹น 150 ๋‹จ์–ด ๋ชฉํ‘œ. ์ง€๋ฐฐ์  ํŠน์„ฑ, ๋ชจ์ˆœ์  ํ–‰๋™, ๋งํ•˜๊ธฐ ๋ฐฉ์‹, ๋‹ค๋ฅธ ํ™œ์„ฑ ์ธ๋ฌผ๋“ค๊ณผ์˜ ํ•ต์‹ฌ ๊ด€๊ณ„๋ฅผ ํฌํ•จํ•˜์‹ญ์‹œ์˜ค. ์ธ๋ฌผ์ด ํ™œ์„ฑํ™”๋˜๊ฑฐ๋‚˜ ์›๊ณ ์—์„œ ๋– ๋‚  ๋•Œ ์ถ”๊ฐ€ํ•˜๊ฑฐ๋‚˜ ์ œ๊ฑฐํ•˜์‹ญ์‹œ์˜ค.
  • ์ฑ•ํ„ฐ ์š”์•ฝ โ€” ์™„๋ฃŒ๋œ ์ฑ•ํ„ฐ๋‹น 100โ€“150 ๋‹จ์–ด ๋ชฉํ‘œ. ๋‹ค์Œ์— ์ง‘์ค‘ํ•˜์‹ญ์‹œ์˜ค: ๋ฌด์Šจ ์ผ์ด ์žˆ์—ˆ๋Š”์ง€, ์ธ๋ฌผ ๊ด€๊ณ„์—์„œ ๋ฌด์—‡์ด ๋ณ€ํ–ˆ๋Š”์ง€, ๋…์ž๊ฐ€ ์ด์ œ ์•Œ๊ณ  ์žˆ๋Š” ์ •๋ณด, ์ฑ•ํ„ฐ๊ฐ€ ๊ณต๊ฐ„์ ยท์ •์„œ์ ์œผ๋กœ ์–ด๋””์„œ ๋๋‚ฌ๋Š”์ง€. ๋ชจ๋“  ์žฅ๋ฉด์„ ํฌํ•จํ•˜์ง€ ๋ง๊ณ  ์ฑ•ํ„ฐ์˜ ์ˆœ๊ฒฐ๊ณผ๋ฅผ ์š”์•ฝํ•˜์‹ญ์‹œ์˜ค.
  • ํ˜„์žฌ ์žฅ๋ฉด ์„ค์ • โ€” ๊ตฌ์ฒด์ ์ด๊ณ  ๊ฐ„๊ฒฐํ•˜๊ฒŒ. ์‹œ์ , ์žฅ๋ฉด์˜ ๋ชฉ์ (์ด์•ผ๊ธฐ์—์„œ ๋‹ฌ์„ฑํ•ด์•ผ ํ•  ๊ฒƒ), ๋„๋‹ฌํ•ด์•ผ ํ•  ์ •์„œ์  beat, ๋‹จ์–ด ์ƒํ•œ์„ ๋ช…์‹œํ•˜์‹ญ์‹œ์˜ค. ์ด๊ฒƒ์ด ๋ชจ๋ธ์ด ์ทจํ•˜๋Š” ํ–‰๋™์ด๋ฉฐ, ์ธ๋ฌผ ์นด๋“œ์™€ ์ฑ•ํ„ฐ ์š”์•ฝ์€ ๋ชจ๋ธ์ด ์ผ๊ด€๋˜๊ฒŒ ์ˆ˜ํ–‰ํ•˜๊ธฐ ์œ„ํ•ด ์‚ฌ์šฉํ•˜๋Š” ์ปจํ…์ŠคํŠธ์ž…๋‹ˆ๋‹ค.
  • ์„ธ์…˜ ๋ฌธ์„œ ํฌ๊ธฐ โ€” 4,000 ํ† ํฐ(~3,000 ๋‹จ์–ด) ๋ฏธ๋งŒ ๋ชฉํ‘œ. ์ด๋ฅผ ์ดˆ๊ณผํ•˜๋Š” ์„ธ์…˜ ๋ฌธ์„œ๋Š” ์ƒ์„ฑ ์ž์ฒด์— ์‚ฌ์šฉ๋˜์–ด์•ผ ํ•  ์ปจํ…์ŠคํŠธ ๊ณต๊ฐ„์„ ์†Œ๋น„ํ•˜๊ธฐ ์‹œ์ž‘ํ•ฉ๋‹ˆ๋‹ค. ์ธ๋ฌผ ์นด๋“œ์™€ ์š”์•ฝ์„ ์ ๊ทน์ ์œผ๋กœ ์••์ถ•ํ•˜์‹ญ์‹œ์˜ค.
  • ๋งค ์„ธ์…˜ ํ›„ ์—…๋ฐ์ดํŠธํ•˜์‹ญ์‹œ์˜ค. ์žฅ๋ฉด์„ ์ƒ์„ฑํ•œ ํ›„, ๊ด€๋ จ ์ฑ•ํ„ฐ ์š”์•ฝ์— 1โ€“2 ๋ฌธ์žฅ ์—…๋ฐ์ดํŠธ๋ฅผ ์ถ”๊ฐ€ํ•˜๊ณ  ๋ณ€๊ฒฝ๋œ ์ธ๋ฌผ ์นด๋“œ ํ•ญ๋ชฉ์„ ์—…๋ฐ์ดํŠธํ•˜์‹ญ์‹œ์˜ค. ์„ธ์…˜ ๋ฌธ์„œ๋Š” ์‚ด์•„์žˆ๋Š” ํŒŒ์ผ์ด๋ฉฐ, ์—…๋ฐ์ดํŠธ ์ƒํƒœ๋ฅผ ์œ ์ง€ํ•˜๋Š” ๊ฒƒ์ด ์ด ๊ธฐ๋ฒ•์˜ ์œ ์ง€ ๋น„์šฉ์ž…๋‹ˆ๋‹ค.

๐Ÿ’กTip: ์„ธ์…˜ ๋ฌธ์„œ๋ฅผ ์›๊ณ  ์˜†์— ์ผ๋ฐ˜ ํ…์ŠคํŠธ ํŒŒ์ผ๋กœ ์ €์žฅํ•˜์‹ญ์‹œ์˜ค. ๊ฐ ์ง‘ํ•„ ์„ธ์…˜ ํ›„, ๋‹ค์Œ ์„ธ์…˜์˜ ์‹œ์Šคํ…œ ๋ฉ”์‹œ์ง€ ๋˜๋Š” ์ฒซ ๋ฒˆ์งธ ์‚ฌ์šฉ์ž ํ„ด์— ์„ธ์…˜ ๋ฌธ์„œ๋ฅผ ๋ณต์‚ฌํ•˜์—ฌ ๋ถ™์—ฌ๋„ฃ์œผ์‹ญ์‹œ์˜ค. Ollama์—์„œ๋Š” SYSTEM ๋ธ”๋ก์— ์„ธ์…˜ ๋ฌธ์„œ๊ฐ€ ํฌํ•จ๋œ Modelfile์„ ์ƒ์„ฑํ•˜๊ณ  ๋งค ์„ธ์…˜ ์ „์— ์—…๋ฐ์ดํŠธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. SillyTavern์—์„œ๋Š” ๊ฐ ์†Œ์„ค ์„ธ์…˜ ์‹œ์ž‘ ์‹œ ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋ถ™์—ฌ๋„ฃ์œผ์‹ญ์‹œ์˜ค.

์†Œ์„ค ์ง‘ํ•„ ์›Œํฌํ”Œ๋กœ

๋กœ์ปฌ LLM์„ ์‚ฌ์šฉํ•œ ์†Œ์„ค ์ง‘ํ•„ ์›Œํฌํ”Œ๋กœ๋Š” ๋„ค ๋‹จ๊ณ„๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค: ๊ฐœ์š” ์ž‘์„ฑ, ์ฑ•ํ„ฐ๋ณ„ beat sheet, ์žฅ๋ฉด ์ƒ์„ฑ, ์ˆ˜์ • ๊ฒ€ํ† . ๊ฐ ๋‹จ๊ณ„๋Š” ์„œ๋กœ ๋‹ค๋ฅธ ํ”„๋กฌํ”„ํŠธ ๊ตฌ์กฐ๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.

  • 1๋‹จ๊ณ„ โ€” ๊ฐœ์š” ์ž‘์„ฑ: ์ฑ•ํ„ฐ ์ˆ˜์ค€์˜ ๊ฐœ์š”๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค (10โ€“30 ์ฑ•ํ„ฐ, ์ฑ•ํ„ฐ๋‹น ํ•œ ๋ฌธ์žฅ: ๋ฌด์Šจ ์ผ์ด ์ผ์–ด๋‚˜๋Š”์ง€, ๋ฌด์—‡์ด ๋ณ€ํ•˜๋Š”์ง€). ํ”„๋กฌํ”„ํŠธ: "์žฅ๋ฅด: [์žฅ๋ฅด]. ์ฃผ์ธ๊ณต: [์ด๋ฆ„ + ํ•ต์‹ฌ ์ƒ์ฒ˜]. ์ค‘์‹ฌ ๊ฐˆ๋“ฑ: [ํ•œ ๋ฌธ์žฅ์œผ๋กœ]. 20์ฑ•ํ„ฐ ๊ฐœ์š”๋ฅผ ์ž‘์„ฑํ•˜๋ผ โ€” ์ฑ•ํ„ฐ๋‹น ํ•œ ๋ฌธ์žฅ, ๊ฐ ๋ฌธ์žฅ์€ ์žฅ๋ฉด๊ณผ ๋ณ€ํ™”๋ฅผ ๋ช…์‹œํ•œ๋‹ค." ๊ณ„์† ์ง„ํ–‰ํ•˜๊ธฐ ์ „์— ๊ฐœ์š”๋ฅผ ๊ฒ€ํ† ํ•˜๊ณ  ํŽธ์ง‘ํ•˜์‹ญ์‹œ์˜ค.
  • 2๋‹จ๊ณ„ โ€” Beat sheet: ๊ฐ ์ฑ•ํ„ฐ ํ•ญ๋ชฉ์„ ์žฅ๋ฉด ์ˆ˜์ค€์˜ beat sheet๋กœ ํ™•์žฅํ•ฉ๋‹ˆ๋‹ค (์ฑ•ํ„ฐ๋‹น 3โ€“8 ์žฅ๋ฉด). ์ฑ•ํ„ฐ๋ณ„ ํ”„๋กฌํ”„ํŠธ: "์ฑ•ํ„ฐ [N] ์š”์•ฝ: [๊ฐœ์š”์—์„œ ํ•œ ๋ฌธ์žฅ ๋ถ™์—ฌ๋„ฃ๊ธฐ]. ์žฅ๋ฉด ์ˆ˜์ค€์˜ beat sheet๋กœ ํ™•์žฅํ•˜๋ผ: 4โ€“6 ์žฅ๋ฉด, ๊ฐ๊ฐ ์œ„์น˜, ์ฐธ์—ฌ์ž, ์žฅ๋ฉด์˜ ๋‹จ์ผ ๋ณ€ํ™”๋ฅผ ๋ช…์‹œํ•˜๋Š” ํ•œ ๋ฌธ์žฅ์œผ๋กœ ์„ค๋ช…ํ•œ๋‹ค. ์•„์ง ์‚ฐ๋ฌธ์€ ์—†์Œ."
  • 3๋‹จ๊ณ„ โ€” ์žฅ๋ฉด ์ƒ์„ฑ: ์„ธ์…˜ ๋ฌธ์„œ + ํ˜„์žฌ ์žฅ๋ฉด beat๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ํ•œ ๋ฒˆ์— ํ•œ ์žฅ๋ฉด์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. ์•„๋ž˜์˜ ์žฅ๋ฉด ์ƒ์„ฑ ํ…œํ”Œ๋ฆฟ์„ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค. ์ƒ์„ฑํ•˜๊ณ , ๊ฒ€ํ† ํ•˜๊ณ , ์›๊ณ ์— ๋ถ™์—ฌ๋„ฃ๊ณ , ์„ธ์…˜ ๋ฌธ์„œ๋ฅผ ์—…๋ฐ์ดํŠธํ•˜์‹ญ์‹œ์˜ค. ๋ฐ˜๋ณตํ•˜์‹ญ์‹œ์˜ค.
  • 4๋‹จ๊ณ„ โ€” ์ˆ˜์ • ๊ฒ€ํ† : ์ฑ•ํ„ฐ๋ฅผ ์™„๋ฃŒํ•œ ํ›„, ํŠน์ • ์žฅ๋ฉด์— ๋Œ€ํ•ด ๊ตฌ์ฒด์ ์ธ ์ˆ˜์ • ํ”„๋กฌํ”„ํŠธ๋ฅผ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค. ์ˆ˜์ • ํ”„๋กฌํ”„ํŠธ ๊ตฌ์กฐ๋Š” ์†Œ์„ค ์ž‘๊ฐ€๋ฅผ ์œ„ํ•œ ๋กœ์ปฌ LLM ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค. ์ƒ์„ฑ ํ˜ธ์ถœ๋‹น ๋‘ ์žฅ๋ฉด ์ด์ƒ ์ˆ˜์ •ํ•˜๋„๋ก ๋ชจ๋ธ์— ์š”์ฒญํ•˜์ง€ ๋งˆ์‹ญ์‹œ์˜ค.

๐Ÿ’กTip: ๊ฐœ์š”์™€ beat sheet๋ฅผ ์›๊ณ ์™€ ๋ณ„๋„ ํŒŒ์ผ๋กœ ์ €์žฅํ•˜์‹ญ์‹œ์˜ค. ๊ฐœ์š”์™€ beat sheet๋Š” ๋ผˆ๋Œ€์ด๊ณ  ์›๊ณ ๋Š” ์‚ด์ž…๋‹ˆ๋‹ค. ๋ณ„๋„๋กœ ์œ ์ง€ํ•˜๋ฉด ๋‹ค๋ฅธ ๊ฒƒ์„ ๋ฎ์–ด์“ฐ์ง€ ์•Š๊ณ  ์–ด๋А ๋ถ€๋ถ„์ด๋“  ์žฌ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์ „์ฒด ๊ฐœ์š”๋ฅผ ํฌํ•จํ•˜์ง€ ์•Š๊ณ  ํ˜„์žฌ ์žฅ๋ฉด ์„ค์ •์— ๊ด€๋ จ beat sheet ํ•ญ๋ชฉ๋งŒ ๋ถ™์—ฌ๋„ฃ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์‹œ๋‚˜๋ฆฌ์˜ค ์›Œํฌํ”Œ๋กœ

๋กœ์ปฌ LLM์„ ์‚ฌ์šฉํ•œ ์‹œ๋‚˜๋ฆฌ์˜ค ์ง‘ํ•„์€ ์†Œ์„ค ์ง‘ํ•„๊ณผ ๋™์ผํ•œ ์„ธ์…˜ ๋ฌธ์„œ ๋ฐ beat sheet ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉํ•˜๋ฉฐ, ๋‘ ๊ฐ€์ง€๊ฐ€ ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค: ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์˜ ํ˜•์‹ ์ง€์‹œ, ๊ทธ๋ฆฌ๊ณ  ์žฅ๋ฉด ํ—ค๋”(slug line)๋ฅผ ํŽ˜์ด์ง€ ์ƒ์„ฑ๊ณผ ๋ณ„๋„์˜ ๋‹จ๊ณ„๋กœ ์ƒ์„ฑํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค.

์‹œ๋‚˜๋ฆฌ์˜ค ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ

โ€œYou are a screenplay formatting assistant. All prose you generate is formatted in standard US screenplay format: - Scene headers: INT./EXT. LOCATION โ€” DAY/NIGHT - Action lines: present tense, concrete, maximum 3 lines per block - Character names: ALL CAPS above dialogue - Dialogue: centred, no dialogue tags - Parentheticals: sparingly, only for delivery or action mid-dialogue Generate in Fountain-compatible plain text.โ€

์žฅ๋ฉด beat์—์„œ ์Šคํฌ๋ฆฝํŠธ ํŽ˜์ด์ง€๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ํ”„๋กฌํ”„ํŠธ

โ€œBeat: [paste the one-sentence scene beat from the beat sheet] POV character: [Name] Page target: [1โ€“3 pages] Generate the script pages for this beat. Use standard screenplay format. Begin with the slug line. No narration โ€” action lines and dialogue only.โ€
  • ํ˜•์‹์€ ์‚ฌ์šฉ์ž ํ„ด์ด ์•„๋‹Œ ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์— ๋„ฃ์œผ์‹ญ์‹œ์˜ค. ์‹œ์Šคํ…œ ๋ฉ”์‹œ์ง€์— ์‹œ๋‚˜๋ฆฌ์˜ค ํ˜•์‹ ์ง€์‹œ๋ฅผ ๋ฐฐ์น˜ํ•˜๋ฉด ์ง€์‹œ๋ฅผ ๋ฐ˜๋ณตํ•˜์ง€ ์•Š๊ณ ๋„ ์„ธ์…˜์˜ ๋ชจ๋“  ์ƒ์„ฑ์ด ํ˜•์‹์„ ๋”ฐ๋ฅด๊ฒŒ ๋ฉ๋‹ˆ๋‹ค.
  • Fountain ํ˜ธํ™˜ ์ถœ๋ ฅ: Fountain์€ Final Draft, Highland, WriterDuet ๋ฐ ๊ธฐํƒ€ ๋งŽ์€ ๋„๊ตฌ์™€ ํ˜ธํ™˜๋˜๋Š” ์‹œ๋‚˜๋ฆฌ์˜ค์šฉ ์ผ๋ฐ˜ ํ…์ŠคํŠธ ๋งˆํฌ์—… ํ˜•์‹์ž…๋‹ˆ๋‹ค. "Fountain ํ˜ธํ™˜ ์ผ๋ฐ˜ ํ…์ŠคํŠธ"๋ฅผ ์ƒ์„ฑํ•˜๋„๋ก ๋ชจ๋ธ์— ์š”์ฒญํ•˜๋ฉด ์‹œ๋‚˜๋ฆฌ์˜ค ์†Œํ”„ํŠธ์›จ์–ด์— ์ง์ ‘ ๊ฐ€์ ธ์˜ฌ ์ˆ˜ ์žˆ๋Š” ์ถœ๋ ฅ์ด ์ƒ์„ฑ๋ฉ๋‹ˆ๋‹ค.
  • Slug line ๋จผ์ €: ์žฅ๋ฉด ์ฝ˜ํ…์ธ ๋ฅผ ์ƒ์„ฑํ•˜๊ธฐ ์ „์— slug line(INT./EXT. ์œ„์น˜ โ€” ๋‚ฎ/๋ฐค)์„ ๋ณ„๋„์˜ ๋‹จ์ผ ํ–‰ ํ”„๋กฌํ”„ํŠธ๋กœ ์ƒ์„ฑํ•˜์‹ญ์‹œ์˜ค. ์ด๋ ‡๊ฒŒ ํ•˜๋ฉด ๋ชจ๋ธ์ด ์•ก์…˜์„ ์ƒ์„ฑํ•˜๊ธฐ ์‹œ์ž‘ํ•˜๊ธฐ ์ „์— ๋ฌผ๋ฆฌ์  ์œ„์น˜๊ฐ€ ๊ณ ์ •๋ฉ๋‹ˆ๋‹ค.
  • ๋Œ€ํ™” ๊ฒ€ํ† : ์•ก์…˜ ๋ผ์ธ์„ ์ƒ์„ฑํ•œ ํ›„, ๋ณ„๋„์˜ ๋Œ€ํ™” ๊ฒ€ํ† ๋ฅผ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค: "์•ก์…˜ ๋ผ์ธ์ด ์„ค์ •๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ด ์žฅ๋ฉด์—์„œ [์ธ๋ฌผ A]์™€ [์ธ๋ฌผ B]์˜ ๋Œ€ํ™”๋ฅผ ์ž‘์„ฑํ•˜๋ผ. ์ธ๋ฌผ A๋Š” [X]๋ฅผ ์›ํ•œ๋‹ค. ์ธ๋ฌผ B๋Š” [Y]๋ฅผ ์›ํ•œ๋‹ค. ๋Œ€ํ™” ํƒœ๊ทธ ์—†์Œ. 5โ€“8 ๊ตํ™˜."
  • ํŽ˜์ด์ง€ ์ˆ˜ ๊ด€๋ฆฌ: ํ‘œ์ค€ ์‹œ๋‚˜๋ฆฌ์˜ค ํŽ˜์ด์ง€๋Š” ์•ก์…˜๊ณผ ๋Œ€ํ™”๋ฅผ ํ•ฉ์ณ ์•ฝ 55โ€“60 ๋‹จ์–ด์ž…๋‹ˆ๋‹ค. ํŽ˜์ด์ง€ ๋ชฉํ‘œ์— ๋งž๊ฒŒ ๋‹จ์–ด ์ƒํ•œ์„ ์กฐ์ •ํ•˜์‹ญ์‹œ์˜ค: 1 ํŽ˜์ด์ง€ โ‰ˆ 60 ๋‹จ์–ด, 2 ํŽ˜์ด์ง€ โ‰ˆ 120 ๋‹จ์–ด, 3 ํŽ˜์ด์ง€ โ‰ˆ 180 ๋‹จ์–ด.

๐Ÿ’กTip: Beat sheet ์šฐ์„  ๊ทœ์œจ์€ ์†Œ์„ค ์ง‘ํ•„๋ณด๋‹ค ์‹œ๋‚˜๋ฆฌ์˜ค ์ง‘ํ•„์—์„œ ๋” ์ค‘์š”ํ•ฉ๋‹ˆ๋‹ค. ์‹œ๋‚˜๋ฆฌ์˜ค ์žฅ๋ฉด์€ ํŠน์ • ๊ตฌ์กฐ์  ๊ธฐ๋Šฅ(์„ค์ •, ๋Œ€๊ฒฐ, ๊ฒฐ์ •, ์ „ํ™˜)๊ณผ ํŠน์ • ํŽ˜์ด์ง€ ๋ชฉํ‘œ๋ฅผ ๊ฐ€์ง‘๋‹ˆ๋‹ค. Beat sheet ์—†์ด ํŽ˜์ด์ง€๋ฅผ ์ƒ์„ฑํ•˜๋ฉด ๋ถ„๋Ÿ‰์ด ๋Š˜์–ด๋‚˜๊ณ  ๊ตฌ์กฐ์  ๋ชฉ์ ์„ ์žƒ๋Š” ์žฅ๋ฉด์ด ๋งŒ๋“ค์–ด์ง‘๋‹ˆ๋‹ค. ํŽ˜์ด์ง€๋ฅผ ์ƒ์„ฑํ•˜๊ธฐ ์ „์— ํ•ญ์ƒ ์žฅ๋ฉด์ด ๋‹ฌ์„ฑํ•ด์•ผ ํ•  ๊ฒƒ์„ ํŒŒ์•…ํ•˜์‹ญ์‹œ์˜ค.

์žฅ๋ฌธ ์ž‘์—…์„ ์œ„ํ•œ ์žฅ๋ฉด ์ƒ์„ฑ ํ…œํ”Œ๋ฆฟ

์žฅ๋ฌธ ์žฅ๋ฉด ์ƒ์„ฑ์€ ์„ธ์…˜ ๋ฌธ์„œ๋ฅผ ์ ‘๋‘์‚ฌ๋กœ, ๋‹จ์ผ ์žฅ๋ฉด ํ”„๋กฌํ”„ํŠธ๋ฅผ ์•ก์…˜์œผ๋กœ ํ•„์š”๋กœ ํ•ฉ๋‹ˆ๋‹ค. ์•„๋ž˜ ํ…œํ”Œ๋ฆฟ์€ ์„ธ์…˜ ๋ฌธ์„œ๊ฐ€ ์ด๋ฏธ ์‹œ์Šคํ…œ ๋ฉ”์‹œ์ง€ ๋˜๋Š” ์ฒซ ๋ฒˆ์งธ ์‚ฌ์šฉ์ž ํ„ด์— ์žˆ๋‹ค๊ณ  ๊ฐ€์ •ํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ“ ํ•œ ๋ฌธ์žฅ์œผ๋กœ

์žฅ๋ฌธ ์†Œ์„ค์„ ์œ„ํ•œ ๊ฐ€์žฅ ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ์ƒ์„ฑ ํŒจํ„ด์€ ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค: ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์˜ ์„ธ์…˜ ๋ฌธ์„œ โ†’ ์‚ฌ์šฉ์ž ํ„ด์˜ ๋‹จ์ผ ์žฅ๋ฉด ํ”„๋กฌํ”„ํŠธ โ†’ ๊ฒ€ํ†  โ†’ ์„ธ์…˜ ๋ฌธ์„œ ์—…๋ฐ์ดํŠธ โ†’ ๋ฐ˜๋ณต, ์„ธ์…˜๋‹น ํ•œ ์žฅ๋ฉด.

๐Ÿ’ฌ ์‰ฝ๊ฒŒ ๋งํ•˜๋ฉด

๋ชจ๋ธ์ด ๋‹ค์Œ ์žฅ๋ฉด์„ ์ผ๊ด€๋˜๊ฒŒ ์ž‘์„ฑํ•˜๋ ค๋ฉด ์„ธ ๊ฐ€์ง€๋ฅผ ์•Œ์•„์•ผ ํ•ฉ๋‹ˆ๋‹ค: ์ด ์ธ๋ฌผ๋“ค์ด ๋ˆ„๊ตฌ์ธ์ง€(์ธ๋ฌผ ์นด๋“œ), ์ด๋ฏธ ๋ฌด์Šจ ์ผ์ด ์žˆ์—ˆ๋Š”์ง€(์ฑ•ํ„ฐ ์š”์•ฝ), ์ด ์žฅ๋ฉด์ด ๋ฌด์—‡์„ ํ•ด์•ผ ํ•˜๋Š”์ง€(์žฅ๋ฉด ์„ค์ •). ์ •ํ™•ํžˆ ๊ทธ ์„ธ ๊ฐ€์ง€๋งŒ ์ฃผ๊ณ  ๊ทธ ์ด์ƒ์€ ์ฃผ์ง€ ๋งˆ์‹ญ์‹œ์˜ค. ๊ทธ๋Ÿฐ ๋‹ค์Œ ์žฅ๋ฉด์„ ์ƒ์„ฑํ•˜๊ณ  ์›๊ณ ์— ๋ถ™์—ฌ๋„ฃ๊ณ  ๋ฌด์—‡์ด ๋ณ€ํ–ˆ๋Š”์ง€ ๋ฐ˜์˜ํ•˜์—ฌ ์„ธ์…˜ ๋ฌธ์„œ๋ฅผ ์—…๋ฐ์ดํŠธํ•˜์‹ญ์‹œ์˜ค. ๋ฐ˜๋ณตํ•˜์‹ญ์‹œ์˜ค.

์†Œ์„ค ์žฅ๋ฉด ์ƒ์„ฑ ํ”„๋กฌํ”„ํŠธ

โ€œ[SESSION DOCUMENT ALREADY IN SYSTEM PROMPT] Current scene: Chapter: [N] Beat: [one sentence from the beat sheet] POV: [character name] Opening: [one sentence โ€” where we are, who is present] Emotional landing: [what the POV character feels at the end โ€” show, don't state] Word ceiling: [300โ€“500 words] Write this scene. No summarising. Every sentence renders a moment.โ€

์—ฐ์†์„ฑ ํ™•์ธ ํ”„๋กฌํ”„ํŠธ

โ€œBefore writing the next scene, check for continuity. The session document says: - [Character A] is [trait/state] - The last scene ended with [brief description] The next scene opens with [brief description]. Does this transition make sense? If not, what needs to change in the transition? One paragraph answer only.โ€

๐Ÿ’กTip: ์—ฐ์†์„ฑ ํ™•์ธ ํ”„๋กฌํ”„ํŠธ๋Š” ๋ชจ๋“  ์žฅ๋ฉด์ด ์•„๋‹Œ ์ฑ•ํ„ฐ ์ „ํ™˜ ์‹œ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค. ์ฑ•ํ„ฐ ์ „ํ™˜(์œ„์น˜, ์‹œ๊ฐ„ ๋˜๋Š” ์‹œ์  ์ธ๋ฌผ์ด ๋ณ€๊ฒฝ๋˜๋Š” ๊ณณ)์€ ์—ฐ์†์„ฑ ๋‹จ์ ˆ์ด ๊ฐ€์žฅ ์ž์ฃผ ๋ฐœ์ƒํ•˜๊ณ  ํ™•์ธ์ด ๊ฐ€์žฅ ํฐ ๊ฐ€์น˜๋ฅผ ์ œ๊ณตํ•˜๋Š” ๊ณณ์ž…๋‹ˆ๋‹ค.

์ž‘๊ฐ€๋ฅผ ์œ„ํ•œ ๋„๊ตฌ ํ†ตํ•ฉ

Ollama๋Š” ๋กœ์ปฌํ˜ธ์ŠคํŠธ์—์„œ OpenAI ํ˜ธํ™˜ API๋ฅผ ๋…ธ์ถœํ•˜๋ฉฐ, ์ ์  ๋” ๋งŽ์€ ์ž‘๊ฐ€ ์ง€ํ–ฅ ๋„๊ตฌ๋“ค์ด ์ด์— ์—ฐ๊ฒฐ๋ฉ๋‹ˆ๋‹ค. ์•„๋ž˜ ํ†ตํ•ฉ์€ 2026๋…„ ๊ธฐ์ค€ ๊ฐ€์žฅ ํ™•๋ฆฝ๋œ ์˜ต์…˜์„ ๋‚˜ํƒ€๋ƒ…๋‹ˆ๋‹ค.

๋„๊ตฌํ†ตํ•ฉ ๋ฐฉ๋ฒ•์ ํ•ฉํ•œ ๊ฒฝ์šฐ
ObsidianCopilot ํ”Œ๋Ÿฌ๊ทธ์ธ ๋˜๋Š” Smart Connections โ†’ Ollama API. ์–ด๋–ค Obsidian ํ”Œ๋Ÿฌ๊ทธ์ธ์ด Ollama์™€ ๊ฐ€์žฅ ์ž˜ ์ž‘๋™ํ•˜๋Š”์ง€์— ๋Œ€ํ•œ ์ƒ์„ธ ๊ฐ€์ด๋“œ๋Š” Obsidian + ๋กœ์ปฌ LLM ํ”Œ๋Ÿฌ๊ทธ์ธ์„ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.์ด๋ฏธ ๋…ธํŠธ + ์›๊ณ ์— Obsidian์„ ์‚ฌ์šฉํ•˜๋Š” ์ž‘๊ฐ€; ์ปจํ…์ŠคํŠธ ์ „ํ™˜ ์—†์ด ๋™์ผํ•œ ์•ฑ์—์„œ ํ†ตํ•ฉ ์ƒ์„ฑ
ScrivenerOllama API๋ฅผ ํ†ตํ•œ ์™ธ๋ถ€ ์Šคํฌ๋ฆฝํŠธ โ†’ ๋ฌธ์„œ์— ๋ถ™์—ฌ๋„ฃ๊ธฐScrivener์—์„œ ์†Œ์„ค์„ ๊ตฌ์กฐํ™”ํ•˜๋Š” ์ž‘๊ฐ€; AI ์ดˆ์•ˆ์„ ๊ธฐ์กด ํ”„๋กœ์ ํŠธ ๊ตฌ์กฐ์— ๋ถ™์—ฌ๋„ฃ๊ธฐ
VS CodeContinue.dev ํ™•์žฅ โ†’ Ollama ๋ฐฑ์—”๋“œ์ฝ”๋“œ ํŽธ์ง‘๊ธฐ์— ์ต์ˆ™ํ•œ ๊ธฐ์ˆ ์  ์ž‘๊ฐ€์™€ ๊ฒŒ์ž„ ๋‚ด๋Ÿฌํ‹ฐ๋ธŒ ๋””์ž์ด๋„ˆ
SillyTavernOpenAI ํ˜ธํ™˜ API โ†’ Ollama๋กคํ”Œ๋ ˆ์ด ์œ ํ˜• ์†Œ์„ค ๋ฐ ์ธ๋ฌผ ์นด๋“œ ๊ธฐ๋ฐ˜ ์ง‘ํ•„; ์ง€์†์ ์ธ ์ธ๋ฌผ ๊ธฐ์–ต
์ˆœ์ˆ˜ ํ„ฐ๋ฏธ๋„`ollama run [model]` ๋˜๋Š” Ollama API์— curl์Šคํฌ๋ฆฝํŠธ ๊ฐ€๋Šฅํ•œ ์›Œํฌํ”Œ๋กœ; ์ตœ์†Œํ•œ์˜ ์ธํ„ฐํŽ˜์ด์Šค ์˜ค๋ฒ„ํ—ค๋“œ๋กœ ์ตœ๋Œ€ ์ œ์–ด๋ฅผ ์›ํ•˜๋Š” ์ž‘๊ฐ€
LM Studio๋‚ด์žฅ ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค + ๋กœ์ปฌ ์„œ๋ฒ„ APIOllama๋ฅผ ๋ณ„๋„๋กœ ์„ค์น˜ํ•˜์ง€ ์•Š๊ณ  GUI ๋ชจ๋ธ ๊ด€๋ฆฌ์ž๋ฅผ ์›ํ•˜๋Š” ์ž‘๊ฐ€
NovelCrafter๋‚ด์žฅ AI ํ†ตํ•ฉ; OpenAI ํ˜ธํ™˜ ์—”๋“œํฌ์ธํŠธ ์ง€์› (Ollama๋ฅผ ๊ฐ€๋ฆฌํ‚ด)๋‹จ์ผ ์†Œ์„ค ์ค‘์‹ฌ ์•ฑ ๋‚ด์—์„œ ์ฑ•ํ„ฐ ์ˆ˜์ค€์˜ AI ์ง€์›์„ ์›ํ•˜๋Š” ์ž‘๊ฐ€; 2026๋…„ ๊ธฐ์ค€ "AI ๋„ค์ดํ‹ฐ๋ธŒ ์†Œ์„ค ์“ฐ๊ธฐ ๋„๊ตฌ"์— ๊ฐ€์žฅ ๊ฐ€๊นŒ์šด ๊ฒƒ
Plottr์ˆ˜๋™ ์›Œํฌํ”Œ๋กœ: Plottr์—์„œ ์†Œ์„ค ๊ตฌ์กฐํ™”, ์™ธ๋ถ€์ ์œผ๋กœ Ollama์— ์žฅ๋ฉด/beat ๋ถ™์—ฌ๋„ฃ๊ธฐํ”Œ๋กฏ ์ง‘์•ฝ์  ์žฅ๋ฅด ์†Œ์„ค(๋ฏธ์Šคํ„ฐ๋ฆฌ, ์Šค๋ฆด๋Ÿฌ, ํŒํƒ€์ง€)๋กœ ๊ตฌ์กฐ์  ํ”Œ๋กฏ ๋งคํ•‘์ด ์›Œํฌํ”Œ๋กœ์˜ ์ถ•์ธ ๊ฒฝ์šฐ

๐Ÿ’กTip: ๋Œ€๋ถ€๋ถ„์˜ ์ž‘๊ฐ€์—๊ฒŒ ์ž‘๋™ํ•˜๋Š” ๊ฐ€์žฅ ๊ฐ„๋‹จํ•œ ํ†ตํ•ฉ์€ Ollama๋ฅผ ๊ฐ€๋ฆฌํ‚ค๋Š” Obsidian + Copilot ํ”Œ๋Ÿฌ๊ทธ์ธ์ž…๋‹ˆ๋‹ค. ์„ธ์…˜ ๋ฌธ์„œ๋Š” Obsidian ๋…ธํŠธ์— ์žˆ๊ณ , ์›๊ณ  ์ฑ•ํ„ฐ๋Š” ๋™์ผํ•œ vault์— ์žˆ์œผ๋ฉฐ, ์ปจํ…์ŠคํŠธ ์ „ํ™˜ ์—†์ด ๋™์ผํ•œ ์•ฑ์—์„œ ์ง์ ‘ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. Copilot ํ”Œ๋Ÿฌ๊ทธ์ธ์€ ์„ ํƒํ•œ ํ…์ŠคํŠธ ๋˜๋Š” ํ˜„์žฌ ๋…ธํŠธ๋ฅผ Ollama์— ์ „๋‹ฌํ•˜๊ณ  ์ธ๋ผ์ธ์œผ๋กœ ์™„์„ฑ์„ ๋ฐ˜ํ™˜ํ•ฉ๋‹ˆ๋‹ค. ์ƒ์„ธ ๊ฐ€์ด๋“œ๋Š” Obsidian + ๋กœ์ปฌ LLM ํ”Œ๋Ÿฌ๊ทธ์ธ์„ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

์žฅ๋ฌธ ์ž‘์—…์„ ์œ„ํ•œ ๋ชจ๋ธ ์ถ”์ฒœ

์žฅ๋ฌธ ์ง‘ํ•„์€ ๋‹จํŽธ ์†Œ์„ค๊ณผ ๋‹ค๋ฅธ ๋ชจ๋ธ ์š”๊ตฌ ์‚ฌํ•ญ์„ ๊ฐ€์ง‘๋‹ˆ๋‹ค. ์ปจํ…์ŠคํŠธ ์ค€์ˆ˜, ๊ธด ์„ธ์…˜์— ๊ฑธ์นœ ์ผ๊ด€๋œ ์ง€์‹œ ๋”ฐ๋ฅด๊ธฐ, ์—ฌ๋Ÿฌ ์ƒ์„ฑ ํ˜ธ์ถœ์— ๊ฑธ์ณ ๋ชฉ์†Œ๋ฆฌ๋ฅผ ์œ ์ง€ํ•˜๋Š” ๋Šฅ๋ ฅ์ด ๊ฒฐ์ •์  ์š”์†Œ์ž…๋‹ˆ๋‹ค. ๋ชจ๋“  ์‚ฌ์šฉ ์‚ฌ๋ก€์— ๊ฑธ์นœ ๋” ๋„“์€ ๋ชจ๋ธ ํ™˜๊ฒฝ์— ๋Œ€ํ•ด์„œ๋Š” 2026๋…„ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM์„ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

์ž‘์—…์ถ”์ฒœ ๋ชจ๋ธ์ด์œ 
์†Œ์„ค ์ง‘ํ•„ (์ฃผ์š”)Llama 3.3 70B๋‹ค์ค‘ ์„ธ์…˜ ์žฅ๋ฌธ ์ž‘์—…์—์„œ ์ตœ๊ณ ์˜ ์ปจํ…์ŠคํŠธ ์ค€์ˆ˜ ๋ฐ ์ง€์‹œ ๋”ฐ๋ฅด๊ธฐ; ๊ฐ€์žฅ ์ผ๊ด€๋œ ๋ชฉ์†Œ๋ฆฌ
์‹œ๋‚˜๋ฆฌ์˜ค ์ง‘ํ•„Llama 3.3 70B ๋˜๋Š” Mistral LargeLlama 3.3์€ ๋ณต์žกํ•œ ์ธ๋ฌผ ์—ญํ•™์„ ์œ„ํ•ด; Mistral Large๋Š” Fountain ์ถœ๋ ฅ์—์„œ ์ผ๊ด€๋œ ํ˜•์‹ ์ค€์ˆ˜๋ฅผ ์œ„ํ•ด
Beat sheet / ๊ฐœ์š” ์ƒ์„ฑQwen3 32B๊ฐ•ํ•œ ๊ตฌ์กฐ์  ์ƒ์„ฑ; ๋ฒˆํ˜ธ ๋งค๊ธด ๋ชฉ๋ก๊ณผ ์—„๊ฒฉํ•œ ์ œ์•ฝ ์กฐ๊ฑด์ด ์žˆ๋Š” ๊ฐœ์š” ํ”„๋กฌํ”„ํŠธ๋ฅผ ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋”ฐ๋ฆ„
๋Œ€ํ™” ๊ฒ€ํ† Command R+ 104B๊ธด ๊ตํ™˜์—์„œ ์ตœ๊ณ ์˜ ์ž์—ฐ์Šค๋Ÿฌ์šด ๋งํ•˜๊ธฐ ๋ฐฉ์‹๊ณผ ์ธ๋ฌผ ๋ชฉ์†Œ๋ฆฌ ์ฐจ๋ณ„ํ™”
์ˆ˜์ • (๊ตฌ์กฐ์ )Llama 3.3 70B๋‹ค์‹œ ์“ฐ๊ธฐ ์ง€์‹œ์— ๋ช…๋ช…๋œ ํŠน์ • ๊ตฌ์กฐ์  ์ œ์•ฝ์„ ๋”ฐ๋ฅด๋Š” ๋ฐ ์ตœ๊ณ 
์„ฑ์ˆ™ํ•œ / ์–ด๋‘์šด ์†Œ์„คHermes 3 Llama 3.3 70BLlama 3.3 70B์™€ ๋™์ผํ•œ ๊ธฐ๋ฐ˜; ๋ฌด๊ฒ€์—ด fine-tune; ์žฅ๋ฌธ ์ž‘์—…์—์„œ ๋™์ผํ•œ ์ปจํ…์ŠคํŠธ ์ค€์ˆ˜

ํ”ํ•œ ์‹ค์ˆ˜

  • ์ „์ฒด ์›๊ณ ๋ฅผ ์ปจํ…์ŠคํŠธ์— ๋ถ™์—ฌ๋„ฃ๊ธฐ. 128K ์ปจํ…์ŠคํŠธ ์œˆ๋„์—์„œ๋„ ์–ดํ…์…˜ ํ’ˆ์งˆ์€ 32K ํ† ํฐ ์ดํ›„ ํ˜„์ €ํžˆ ์ €ํ•˜๋ฉ๋‹ˆ๋‹ค. ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ• โ€” ์••์ถ•๋œ ์ธ๋ฌผ ์นด๋“œ์™€ ์ฑ•ํ„ฐ ์š”์•ฝ โ€” ์„ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.
  • ๋ชจ๋ธ์—๊ฒŒ ์—ด๋ฆฐ ๋ฌธ์„œ๋ฅผ "๊ณ„์† ์“ฐ๋„๋ก" ์š”์ฒญํ•˜๊ธฐ. "์†Œ์„ค์„ ๊ณ„์† ์จ๋ผ"๋Š” ์ดํƒˆ์„ ๋งŒ๋“ค์–ด ๋ƒ…๋‹ˆ๋‹ค. "๋‹ค์Œ ์žฅ๋ฉด์„ ์จ๋ผ: [ํŠน์ • ์„ค์ •, ์‹œ์ , ๋‹จ์–ด ์ƒํ•œ]"์€ ํ‰๊ฐ€ํ•˜๊ณ  ๋ถ™์—ฌ๋„ฃ์„ ์ˆ˜ ์žˆ๋Š” ์ผ๊ด€๋˜๊ณ  ๊ฒฝ๊ณ„๊ฐ€ ์žˆ๋Š” ์ถœ๋ ฅ์„ ๋งŒ๋“ค์–ด ๋ƒ…๋‹ˆ๋‹ค.
  • ์‹œ๋‚˜๋ฆฌ์˜ค์— beat sheet ์—†์ด ์ง„ํ–‰ํ•˜๊ธฐ. Beat ์—†์ด ์‹œ๋‚˜๋ฆฌ์˜ค ํŽ˜์ด์ง€๋ฅผ ์ƒ์„ฑํ•˜๋ฉด ๋ถ„๋Ÿ‰์ด ๋Š˜์–ด๋‚˜๊ณ  ๊ตฌ์กฐ์  ๊ธฐ๋Šฅ์„ ์žƒ๋Š” ํŽ˜์ด์ง€๊ฐ€ ๋งŒ๋“ค์–ด์ง‘๋‹ˆ๋‹ค. ํ•ญ์ƒ beat sheet๋ฅผ ๋จผ์ € ์ƒ์„ฑํ•˜์‹ญ์‹œ์˜ค.
  • ์„ธ์…˜ ๋ฌธ์„œ ์—…๋ฐ์ดํŠธ ๋ฌด์‹œํ•˜๊ธฐ. ์žฅ๋ฉด์„ ์ƒ์„ฑํ•œ ํ›„ ์ฑ•ํ„ฐ ์š”์•ฝ์„ ์—…๋ฐ์ดํŠธํ•˜์ง€ ์•Š์œผ๋ฉด ์„ธ์…˜ ๋ฌธ์„œ๊ฐ€ ๊ตฌ์‹์ด ๋ฉ๋‹ˆ๋‹ค. ๊ตฌ์‹ ์„ธ์…˜ ๋ฌธ์„œ๋Š” ๋ช‡ ์„ธ์…˜ ํ›„ ๋ถˆ์ผ์น˜๋ฅผ ๋งŒ๋“ค์–ด ๋ƒ…๋‹ˆ๋‹ค.
  • ์„ธ์…˜๋‹น ๋‘ ์žฅ๋ฉด ์ด์ƒ ์ƒ์„ฑํ•˜๊ธฐ. ๋‹จ์ผ ์ปจํ…์ŠคํŠธ ์œˆ๋„ ๋‚ด์—์„œ ์—ฌ๋Ÿฌ ์žฅ๋ฉด์„ ์ƒ์„ฑํ•˜๋ฉด ์ฒซ ๋ฒˆ์งธ ์žฅ๋ฉด์€ ์ž˜ ์ƒ์„ฑ๋˜์ง€๋งŒ ์ดํ›„ ๊ฐ ์žฅ๋ฉด์€ ์ผ๊ด€์„ฑ์ด ๋‚ฎ์•„์ง‘๋‹ˆ๋‹ค. ์„ธ์…˜๋‹น ํ•œ ์žฅ๋ฉด; ์žฌ์‹œ์ž‘ํ•˜๊ณ  ๋‹ค์‹œ ์ฃผ์ž…ํ•˜์‹ญ์‹œ์˜ค.

์ถœ์ฒ˜

  • Llama 3.3 70B ์žฅ๋ฌธ ์ปจํ…์ŠคํŠธ ๋ฒค์น˜๋งˆํฌ โ€” Meta AI Research
  • Qwen3 32B ๊ธฐ์ˆ  ๋ณด๊ณ ์„œ(์ปจํ…์ŠคํŠธ ์œˆ๋„ ๋ฒค์น˜๋งˆํฌ ํฌํ•จ) โ€” Alibaba Cloud / Qwen Team
  • Lost in the Middle: How Language Models Use Long Contexts โ€” Stanford NLP Research
  • Fountain ์‹œ๋‚˜๋ฆฌ์˜ค ํ˜•์‹ ์‚ฌ์–‘ โ€” Fountain.io
  • Ollama API ๋ฌธ์„œ โ€” Ollama

FAQ

๋กœ์ปฌ LLM์ด ์™„์ „ํ•œ ์†Œ์„ค์„ ์“ธ ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๋กœ์ปฌ LLM์€ ์™„์ „ํ•œ ์†Œ์„ค์˜ ์‚ฐ๋ฌธ์„ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค โ€” ํ•˜์ง€๋งŒ ๊ตฌ์กฐ์ ยทํŽธ์ง‘์  ์ง€๋Šฅ์€ ์ž‘๊ฐ€๋กœ๋ถ€ํ„ฐ ๋‚˜์™€์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ์€ ํŠน์ • ์„ค์ •์ด ์ œ๊ณต๋  ๋•Œ ์žฅ๋ฉด์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค; ์ž์œจ์ ์œผ๋กœ ๊ณ„ํšํ•˜๊ฑฐ๋‚˜ ํ‰๊ฐ€ํ•˜๊ฑฐ๋‚˜ ์ฃผ์ œ์  ๊ฒฐ์ •์„ ๋‚ด๋ฆฌ์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ๋กœ์ปฌ LLM์„ ์ดˆ์•ˆ ๋„๊ตฌ๋กœ ์‚ฌ์šฉํ•˜๋Š” ์ž‘๊ฐ€๋“ค์€ ์ด๋ฅผ "์ด๋ฏธ ์“ฐ๋Š” ๋ฐฉ๋ฒ•์„ ์•„๋Š” ์žฅ๋ฉด๋“ค์„ ์œ„ํ•œ ๋งค์šฐ ๋น ๋ฅธ ์ฒซ ๋ฒˆ์งธ ์ดˆ์•ˆ ์ƒ์„ฑ๊ธฐ"๋ผ๊ณ  ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ์€ ๋นˆ ํŽ˜์ด์ง€ ๋ฌธ์ œ์— ๋“œ๋Š” ์‹œ๊ฐ„์„ ์ ˆ์•ฝํ•ด ์ฃผ๋ฉฐ, ์ž‘๊ฐ€๋Š” ์—ฌ์ „ํžˆ ๋ชจ๋“  ์ค‘์š”ํ•œ ๊ฒฐ์ •์„ ๋‚ด๋ฆฝ๋‹ˆ๋‹ค.

์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๊ฒŒ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ์ตœ๋Œ€ ์ปจํ…์ŠคํŠธ ์œˆ๋„๋Š” ์–ผ๋งˆ์ž…๋‹ˆ๊นŒ?

์‹ค์ œ๋กœ๋Š” Llama 3.3 70B์™€ Qwen3 32B๋ฅผ ํฌํ•จํ•œ ๋Œ€๋ถ€๋ถ„์˜ ๋กœ์ปฌ ๋ชจ๋ธ์—์„œ ์•ฝ 32K ํ† ํฐ(~24,000 ๋‹จ์–ด)๊นŒ์ง€ ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ์–ดํ…์…˜ ํ’ˆ์งˆ์„ ๊ณ„ํšํ•˜์‹ญ์‹œ์˜ค. ์ด๋ฅผ ์ดˆ๊ณผํ•˜๋ฉด ๋ชจ๋ธ์€ ์ปจํ…์ŠคํŠธ ์‹œ์ž‘์˜ ์ฝ˜ํ…์ธ ์— ๋Œ€ํ•œ ์ •ํ™•ํ•œ ์ฐธ์กฐ๋ฅผ ์žƒ๊ธฐ ์‹œ์ž‘ํ•ฉ๋‹ˆ๋‹ค. ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•์€ ์ž‘์—… ์ปจํ…์ŠคํŠธ๋ฅผ 4,000โ€“6,000 ํ† ํฐ ์•„๋ž˜๋กœ ์œ ์ง€ํ•˜์—ฌ ๊ฐ ์ƒ์„ฑ ํ˜ธ์ถœ์ด ์–ดํ…์…˜ ์œˆ๋„์˜ ๊ฐ€์žฅ ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ๋ถ€๋ถ„์—์„œ ์ž‘๋™ํ•˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค.

์†Œ์„ค ์ค‘๊ฐ„์— ๋ชจ๋ธ์ด ์ธ๋ฌผ์˜ ๋ชฉ์†Œ๋ฆฌ๋ฅผ ๋ฐ”๊พธ๋Š” ๊ฒƒ์„ ์–ด๋–ป๊ฒŒ ๋ฐฉ์ง€ํ•ฉ๋‹ˆ๊นŒ?

๋ชฉ์†Œ๋ฆฌ ์ดํƒˆ์—๋Š” ๋‘ ๊ฐ€์ง€ ์›์ธ์ด ์žˆ์Šต๋‹ˆ๋‹ค: ๊ตฌ์‹ ์„ธ์…˜ ๋ฌธ์„œ(์ตœ๊ทผ ์ธ๋ฌผ ๋ฐœ์ „์ด ์—†์Œ)์™€ ์ปจํ…์ŠคํŠธ ํฌ์„(์ธ๋ฌผ ์นด๋“œ๊ฐ€ ์ปจํ…์ŠคํŠธ์—์„œ ํ™œ์„ฑ ์ƒ์„ฑ๊ณผ ๋„ˆ๋ฌด ๋ฉ€๋ฆฌ ์žˆ์Œ). ํ•ด๊ฒฐ์ฑ…: ์ธ๋ฌผ ์นด๋“œ๋ฅผ ์‹œ์Šคํ…œ ๋ฉ”์‹œ์ง€์— ์œ ์ง€ํ•˜๊ณ (๊ธด ์‚ฌ์šฉ์ž ํ„ด ์ „๋ฌธ์— ๋ฌปํžˆ์ง€ ์•Š๋„๋ก), ์ธ๋ฌผ์ด ์ค‘์š”ํ•œ ์•„ํฌ ์ˆœ๊ฐ„์„ ๊ฐ€์ง„ ํ›„์—๋Š” ์นด๋“œ๋ฅผ ์—…๋ฐ์ดํŠธํ•˜๊ณ , ๊ฐ ์„ธ์…˜ ์ปจํ…์ŠคํŠธ์˜ ์ƒ๋‹จ ์„น์…˜์— ๋งž๋„๋ก ์นด๋“œ๋ฅผ ์ถฉ๋ถ„ํžˆ ๊ฐ„๊ฒฐํ•˜๊ฒŒ ์œ ์ง€ํ•˜์‹ญ์‹œ์˜ค.

๋กœ์ปฌ LLM๊ณผ ํ•จ๊ป˜ Scrivener๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๋„ค์ดํ‹ฐ๋ธŒ๋กœ๋Š” ๋ถˆ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค โ€” 2026๋…„ ํ˜„์žฌ Scrivener๋Š” ์™ธ๋ถ€ API ํ˜ธ์ถœ์„ ์œ„ํ•œ ํ”Œ๋Ÿฌ๊ทธ์ธ ์‹œ์Šคํ…œ์ด ์—†์Šต๋‹ˆ๋‹ค. ๊ฐ€์žฅ ์ผ๋ฐ˜์ ์ธ ์›Œํฌํ”Œ๋กœ๋Š”: Ollama์—์„œ ์ƒ์„ฑ(ํ„ฐ๋ฏธ๋„ ๋˜๋Š” ๋™๋ฐ˜ ์Šคํฌ๋ฆฝํŠธ๋ฅผ ํ†ตํ•ด), ์ถœ๋ ฅ ๋ณต์‚ฌ, ํ•ด๋‹น Scrivener ๋ฌธ์„œ์— ๋ถ™์—ฌ๋„ฃ๊ธฐ์ž…๋‹ˆ๋‹ค. ์ผ๋ถ€ ์ž‘๊ฐ€๋Š” Obsidian์„ AI ์ดˆ์•ˆ ๋ ˆ์ด์–ด๋กœ ์‚ฌ์šฉํ•˜๊ณ  ์™„์„ฑ๋œ ์ฑ•ํ„ฐ๋ฅผ ์ตœ์ข… ๊ตฌ์กฐํ™”๋ฅผ ์œ„ํ•ด Scrivener์— ๊ฐ€์ ธ์˜ต๋‹ˆ๋‹ค. Ollama API๋ฅผ ํ˜ธ์ถœํ•˜๊ณ  ์ถœ๋ ฅ์„ ํด๋ฆฝ๋ณด๋“œ์— ๋ณต์‚ฌํ•˜๋Š” ์Šคํฌ๋ฆฝํŠธ๊ฐ€ ๋„ค์ดํ‹ฐ๋ธŒ ํ†ตํ•ฉ์— ๊ฐ€์žฅ ๊ฐ€๊น์Šต๋‹ˆ๋‹ค.

์‹œ๋‚˜๋ฆฌ์˜ค ์ง‘ํ•„์—๋Š” Ollama์™€ ํด๋ผ์šฐ๋“œ AI ์ค‘ ๋ฌด์—‡์ด ๋” ๋‚ซ์Šต๋‹ˆ๊นŒ?

์„ฑ์ˆ™ํ•œ ์ฝ˜ํ…์ธ (ํญ๋ ฅ, ์–ด๋‘์šด ์‹ฌ๋ฆฌํ•™, ๋„๋•์ ์œผ๋กœ ๋ณต์žกํ•œ ์ธ๋ฌผ)๋ฅผ ์ƒ์„ฑํ•ด์•ผ ํ•˜๋Š” ์‹œ๋‚˜๋ฆฌ์˜ค ์ž‘๊ฐ€์—๊ฒŒ๋Š” Llama 3.3 70B ๋˜๋Š” Hermes 3๊ฐ€ ์žˆ๋Š” ๋กœ์ปฌ Ollama๊ฐ€ ๋” ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค โ€” ํด๋ผ์šฐ๋“œ ๋ชจ๋ธ์€ ๋“œ๋ผ๋งˆ ์‹œ๋‚˜๋ฆฌ์˜ค์— ์ž์ฃผ ๋“ฑ์žฅํ•˜๋Š” ํŠน์ • ์ฝ˜ํ…์ธ ๋ฅผ ๊ฑฐ๋ถ€ํ•ฉ๋‹ˆ๋‹ค. ํ˜•์‹ ์ผ๊ด€์„ฑ๊ณผ ํŽ˜์ด์ง€ ์ˆ˜ ๊ทœ์œจ์— ๋Œ€ํ•ด์„œ๋Š” ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ์— ํ˜•์‹ ์ง€์‹œ๊ฐ€ ์ฃผ์–ด์งˆ ๋•Œ ํด๋ผ์šฐ๋“œ์™€ ๋กœ์ปฌ ๋ชจ๋ธ ๋ชจ๋‘ ๋™๋“ฑํ•œ ์„ฑ๋Šฅ์„ ๋ณด์ž…๋‹ˆ๋‹ค. ์„ ํƒ์€ ์ฃผ๋กœ ์ฝ˜ํ…์ธ  ์ž์œ ๋„์™€ ํ”„๋ผ์ด๋ฒ„์‹œ์— ๊ด€ํ•œ ๊ฒƒ์ด๋ฉฐ, ์ถœ๋ ฅ ํ’ˆ์งˆ์— ๊ด€ํ•œ ๊ฒƒ์ด ์•„๋‹™๋‹ˆ๋‹ค.

ํŠน์ • ์ธ๋ฌผ์ฒ˜๋Ÿผ ๋“ค๋ฆฌ๋Š” ๋Œ€ํ™”๋ฅผ ์–ด๋–ป๊ฒŒ ์ƒ์„ฑํ•ฉ๋‹ˆ๊นŒ?

์„ธ ๋‹จ๊ณ„ ์ ‘๊ทผ๋ฒ•: (1) ์„ธ์…˜ ๋ฌธ์„œ์— ์ธ๋ฌผ์˜ ๋งํ•˜๊ธฐ ๋ฐฉ์‹์„ ์ถ”๊ฐ€ํ•˜์‹ญ์‹œ์˜ค ("๊ฒฉ์‹์ฒด, ์ถ•์•ฝํ˜• ํ”ผํ•˜๊ธฐ, '์ œ ์ƒ๊ฐ์—๋Š”...'๊ณผ ๊ฐ™์€ ์ˆ˜์‹์–ด๋กœ ๋ฌธ์žฅ ์‹œ์ž‘"). (2) ์„ธ์…˜ ์‹œ์ž‘ ์‹œ ๋ณด์ • ๋‹จ๊ณ„๋กœ์„œ ์ค‘๋ฆฝ์ ์ธ ์ปจํ…์ŠคํŠธ์—์„œ ์ด ์ธ๋ฌผ์˜ ์ƒ˜ํ”Œ ๋Œ€ํ™” 3โ€“5 ์ค„์„ ์ƒ์„ฑํ•˜์‹ญ์‹œ์˜ค. (3) ๋Œ€ํ™” ํ”„๋กฌํ”„ํŠธ์—์„œ ํ•ด๋‹น ์ƒ˜ํ”Œ ์ค„์„ ์˜ˆ์‹œ๋กœ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค: "์ด ์˜ˆ์‹œ๋“ค๊ณผ ๋™์ผํ•œ ์–ด์กฐ๋กœ ๋Œ€ํ™”๋ฅผ ์ž‘์„ฑํ•˜๋ผ: [์ƒ˜ํ”Œ ๋ถ™์—ฌ๋„ฃ๊ธฐ]." ๋ณด์ • ๋‹จ๊ณ„๊ฐ€ ์ธ๋ฌผ ๋ชฉ์†Œ๋ฆฌ ์ผ๊ด€์„ฑ์„ ์œ„ํ•œ ๊ฐ€์žฅ ํšจ๊ณผ์ ์ธ ๊ธฐ๋ฒ•์ž…๋‹ˆ๋‹ค.

์†Œ์„ค ์ง‘ํ•„์— ๋กœ์ปฌ LLM์„ ์‚ฌ์šฉํ•˜๋ ค๋ฉด GPU๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๊นŒ?

GPU๋Š” ์ƒ์„ฑ ์†๋„๋ฅผ ํฌ๊ฒŒ ํ–ฅ์ƒ์‹œํ‚ค์ง€๋งŒ ํ•„์ˆ˜๋Š” ์•„๋‹™๋‹ˆ๋‹ค. Apple Silicon(M3 ์ด์ƒ)์—์„œ๋Š” ํ†ตํ•ฉ ๋ฉ”๋ชจ๋ฆฌ ์•„ํ‚คํ…์ฒ˜ ๋•๋ถ„์— MacBook Pro 16 GB๋„ ์ดˆ์•ˆ ์ž‘์—…์„ ์œ„ํ•ด Qwen3 14B๋ฅผ ํŽธ์•ˆํ•˜๊ฒŒ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค โ€” ์ƒ์„ฑ ์†๋„๋Š” 24 GB GPU ์žฅ์น˜๋ณด๋‹ค ๋А๋ฆฌ์ง€๋งŒ, ์ƒ์„ฑ ์‚ฌ์ด์— ์ถœ๋ ฅ์„ ์ฝ๊ณ  ํ‰๊ฐ€ํ•˜๋Š” ์ง‘ํ•„ ์›Œํฌํ”Œ๋กœ์—์„œ๋Š” ํ—ˆ์šฉ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. NVIDIA ์ „์šฉ GPU(RTX 4090, RTX 3090)๊ฐ€ 24 GB VRAM์„ ๊ฐ–์ถ”๋ฉด 70B ๋ชจ๋ธ์„ ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ์ƒ์„ฑ ์†๋„๋กœ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค.

๋กœ์ปฌ LLM์„ Final Draft ๋˜๋Š” ๋‹ค๋ฅธ ์ „๋ฌธ ์‹œ๋‚˜๋ฆฌ์˜ค ์†Œํ”„ํŠธ์›จ์–ด์™€ ํ•จ๊ป˜ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์ง์ ‘์ ์œผ๋กœ๋Š” ๋ถˆ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. Final Draft๋Š” ์™ธ๋ถ€ API ํ†ตํ•ฉ์ด ์—†์Šต๋‹ˆ๋‹ค. ์›Œํฌํ”Œ๋กœ๋Š”: Ollama๋ฅผ ํ†ตํ•ด Fountain ์ผ๋ฐ˜ ํ…์ŠคํŠธ ํ˜•์‹์œผ๋กœ ์Šคํฌ๋ฆฝํŠธ ํŽ˜์ด์ง€๋ฅผ ์ƒ์„ฑํ•˜๊ณ , ๋‚ด์žฅ ๊ฐ€์ ธ์˜ค๊ธฐ(ํŒŒ์ผ โ†’ ๊ฐ€์ ธ์˜ค๊ธฐ โ†’ Fountain)๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ Fountain ํŒŒ์ผ์„ Final Draft์— ๊ฐ€์ ธ์˜ค๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค. Highland, WriterDuet, Fade In์€ Fountain ๊ฐ€์ ธ์˜ค๊ธฐ๋ฅผ ๋„ค์ดํ‹ฐ๋ธŒ๋กœ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. Ollama์—์„œ ์ƒ์„ฑํ•˜๊ณ , Fountain์œผ๋กœ ํ˜•์‹ํ™”ํ•˜๊ณ , ์‹œ๋‚˜๋ฆฌ์˜ค ์†Œํ”„ํŠธ์›จ์–ด์— ๊ฐ€์ ธ์˜ค์‹ญ์‹œ์˜ค.

์†Œ์„ค ์ง‘ํ•„์„ ์œ„ํ•ด ๋กœ์ปฌ์—์„œ Kimi-K2.6์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

Kimi-K2.6์€ ์ง„์ •ํ•œ 100๋งŒ ํ† ํฐ ์ปจํ…์ŠคํŠธ ์œˆ๋„๋ฅผ ๊ฐ€์ง€๊ณ  ์žˆ์–ด ๋‹จ์ผ ํŒจ์Šค์—์„œ ์†Œ์„ค ๋ถ„๋Ÿ‰์˜ ์ž‘์—…์— ์œ ์šฉํ•˜์ง€๋งŒ, ์†Œ๋น„์ž ํ•˜๋“œ์›จ์–ด์—์„œ ๋กœ์ปฌ๋กœ ์‹คํ–‰ํ•˜๋Š” ๊ฒƒ์€ ๋น„์‹ค์šฉ์ ์ž…๋‹ˆ๋‹ค(Q4 ์–‘์žํ™”์—์„œ ์•ฝ 480 GB์˜ VRAM ํ•„์š”). ์™„์ „ ๋กœ์ปฌ ์›Œํฌํ”Œ๋กœ๋ฅผ ์œ„ํ•ด์„œ๋Š” Llama 3.3 70B(128K ์ปจํ…์ŠคํŠธ, ~32K ์‹ค์งˆ)์˜ ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•์ด 1M ์ƒํ•œ ์—†์ด ์†Œ์„ค ๋ถ„๋Ÿ‰์˜ ์ž‘์—…์„ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ์„ธ์…˜ ๋ฌธ์„œ ์›Œํฌํ”Œ๋กœ๊ฐ€ ์ ์šฉ๋œ๋‹ค๋ฉด ๋Œ€๋ถ€๋ถ„์˜ ์ž‘๊ฐ€๋Š” ์‹ค์ œ๋กœ 1M ์ปจํ…์ŠคํŠธ๊ฐ€ ํ•„์š”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

ํŽธ์ง‘์ž๋“ค์€ AI ์ง€์› ์›๊ณ ์— ๋Œ€ํ•ด ์–ด๋–ป๊ฒŒ ์ƒ๊ฐํ•ฉ๋‹ˆ๊นŒ?

2026๋…„ ๊ธฐ์ค€ ์˜๊ฒฌ์€ ํ˜ผ์žฌํ•˜๋ฉฐ ์ง„ํ™”ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋Œ€๋ถ€๋ถ„์˜ ์ฃผ์š” ์†Œ์„ค ์ถœํŒ์‚ฌ(๋น… ํŒŒ์ด๋ธŒ, ์ค‘๊ฐ„ ๊ทœ๋ชจ ๋ฌธํ•™ ์ถœํŒ์‚ฌ)๋Š” ์ œ์ถœ๋œ ์›๊ณ ์—์„œ AI์˜ ์‹ค์งˆ์ ์ธ ์‚ฌ์šฉ์„ ๊ณต๊ฐœํ•˜๋„๋ก ์š”๊ตฌํ•˜๋Š” ์ •์ฑ…์„ ๊ฐ€์ง€๊ณ  ์žˆ์œผ๋ฉฐ, ์ผ๋ถ€๋Š” ์™„์ „ํžˆ ๊ธˆ์ง€ํ•ฉ๋‹ˆ๋‹ค. ์ž๊ฐ€ ์ถœํŒ ํ”Œ๋žซํผ(Amazon KDP)์€ AI ์ƒ์„ฑ ์ฝ˜ํ…์ธ ๊ฐ€ ๊ณต๊ฐœ๋˜์—ˆ์Œ์„ ํ™•์ธํ•˜๋„๋ก ์š”๊ตฌํ•ฉ๋‹ˆ๋‹ค. ์žฅ๋ฅด ์ถœํŒ์‚ฌ์™€ ๋‹จํŽธ ์†Œ์„ค ์‹œ์žฅ์€ ๋‚˜๋‰˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ๋กœ์ปฌ LLM์„ ์ดˆ์•ˆ ๋„๊ตฌ๋กœ ์‚ฌ์šฉํ•˜๋Š” ์ž‘๊ฐ€๋“ค(์ƒ๋‹นํ•œ ์ธ๊ฐ„ ์ˆ˜์ •์„ ํ†ตํ•ด)์€ ์ผ๋ฐ˜์ ์œผ๋กœ AI๋ฅผ ๊ณต๋™ ์ €์ž๊ฐ€ ์•„๋‹Œ ๋„๊ตฌ๋กœ ์„ค๋ช…ํ•˜๋ฉฐ, ์ด๋Š” ๋Œ€๋ถ€๋ถ„์˜ ์ •์ฑ…์ด ์ˆ˜์šฉํ•ฉ๋‹ˆ๋‹ค. ์ œ์ถœ ์ „์— ํ•ด๋‹น ์ถœํŒ์‚ฌ์˜ ํŠน์ • ์ •์ฑ…์„ ํ™•์ธํ•˜์‹ญ์‹œ์˜ค.

1M ์ปจํ…์ŠคํŠธ ๋ชจ๋ธ์—๋Š” ์–ด๋–ค ํ•˜๋“œ์›จ์–ด๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๊นŒ?

๋กœ์ปฌ์—์„œ 1M ์ปจํ…์ŠคํŠธ ๋ชจ๋ธ์„ ์‹คํ–‰ํ•˜๋ ค๋ฉด ์ผ๋ฐ˜์ ์ธ ๋กœ์ปฌ LLM ์›Œํฌํ”Œ๋กœ๋ณด๋‹ค ํ›จ์”ฌ ๋” ๋งŽ์€ VRAM์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค โ€” Kimi-K2.6์€ Q4 ์–‘์žํ™”์—์„œ ์•ฝ 480 GB๊ฐ€ ํ•„์š”ํ•˜๋ฉฐ, ๋ฉ€ํ‹ฐ GPU ์„œ๋ฒ„ ์„ค์ •(8x H100 ๋˜๋Š” ๋™๊ธ‰)์—์„œ๋งŒ ๋‹ฌ์„ฑ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. ์†Œ๋น„์ž ํ•˜๋“œ์›จ์–ด(24โ€“64 GB VRAM ์žฅ์น˜)์˜ ๊ฒฝ์šฐ 128K ์ปจํ…์ŠคํŠธ ๋ชจ๋ธ์ด ์‹ค์งˆ์ ์ธ ์ƒํ•œ์ด๋ฉฐ, 32K ์‹ค์งˆ ์–ดํ…์…˜ ํ’ˆ์งˆ ํ•œ๊ณ„๊ฐ€ ์ ์šฉ๋ฉ๋‹ˆ๋‹ค. ์ด ๋ฌธ์„œ์˜ ์„ธ์…˜ ๋ฌธ์„œ ๊ธฐ๋ฒ•์€ ๋ฐ”๋กœ ์ด ๊ฒฉ์ฐจ๋ฅผ ์œ„ํ•ด ์„ค๊ณ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค โ€” 1M ์ปจํ…์ŠคํŠธ ์—†์ด๋„ ์ผ๊ด€๋œ ์žฅ๋ฌธ ๊ฒฐ๊ณผ๋ฌผ์„ ์–ป๊ธฐ ์œ„ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค.

โ† ๊ณ ๊ธ‰ ๋กœ์ปฌ LLM์œผ๋กœ ๋Œ์•„๊ฐ€๊ธฐ

๋กœ์ปฌ LLM ์‹œ๋‚˜๋ฆฌ์˜คยท์†Œ์„ค ์˜คํ”„๋ผ์ธ ์ง‘ํ•„ 2026 | PromptQuorum