Skip to main content
PromptQuorumPromptQuorum
ํ™ˆ/๊ณ ๊ธ‰ ๋กœ์ปฌ LLM/๋น„์ „๋ฌธ๊ฐ€๋ฅผ ์œ„ํ•œ ๋กœ์ปฌ AI: ํ„ฐ๋ฏธ๋„ ์—†์ด ๋ฐ”๋กœ ์ž‘๋™ํ•˜๋Š” ์•ฑ 5๊ฐ€์ง€
Easiest Desktop Apps

๋น„์ „๋ฌธ๊ฐ€๋ฅผ ์œ„ํ•œ ๋กœ์ปฌ AI: ํ„ฐ๋ฏธ๋„ ์—†์ด ๋ฐ”๋กœ ์ž‘๋™ํ•˜๋Š” ์•ฑ 5๊ฐ€์ง€

ยท12๋ถ„ ๋ถ„๋Ÿ‰ยทHans Kuepper ์ € ยท PromptQuorum ์ฐฝ๋ฆฝ์ž, ๋ฉ€ํ‹ฐ ๋ชจ๋ธ AI ๋””์ŠคํŒจ์น˜ ๋„๊ตฌ ยท PromptQuorum

ํ„ฐ๋ฏธ๋„์„ ํ•œ ๋ฒˆ๋„ ์‚ฌ์šฉํ•œ ์ ์ด ์—†๋‹ค๋ฉด GPT4All์„ ์„ค์น˜ํ•˜์‹ญ์‹œ์˜ค โ€” ๋‹ค์šด๋กœ๋“œ๋ถ€ํ„ฐ ์ฒซ ๋ฒˆ์งธ ์ฑ„ํŒ…๊นŒ์ง€ 4๋ฒˆ์˜ ํด๋ฆญ๋งŒ์œผ๋กœ ๊ฐ€๋Šฅํ•˜๋ฉฐ, 5๋…„ ๋œ ๋…ธํŠธ๋ถ์—์„œ๋„ ์›ํ™œํžˆ ์ž‘๋™ํ•˜๋Š” ๋กœ์ปฌ AI ์•ฑ์ž…๋‹ˆ๋‹ค. ์™„์ „ ๋ฌดํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ๋ฅผ ์›ํ•œ๋‹ค๋ฉด Jan์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ๊ฐ€์žฅ ์„ธ๋ จ๋œ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์›ํ•œ๋‹ค๋ฉด Msty๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ๋“œ๋ž˜๊ทธ ์•ค ๋“œ๋กญ ๋ฌธ์„œ ์ฑ„ํŒ…์„ ์›ํ•œ๋‹ค๋ฉด AnythingLLM Desktop์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. Mac ์‚ฌ์šฉ์ž๋ผ๋ฉด LM Studio๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ๋‹ค์„ฏ ๊ฐ€์ง€ ๋ชจ๋‘ ๋ฌด๋ฃŒ์ด๋ฉฐ, ์ตœ์ดˆ ๋‹ค์šด๋กœ๋“œ ํ›„ ์˜คํ”„๋ผ์ธ์œผ๋กœ ์ž‘๋™ํ•˜๊ณ , ๋Œ€ํ™” ๋‚ด์šฉ์„ ์–ด๋””์—๋„ ์ „์†กํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

GPT4All, Jan, Msty, AnythingLLM Desktop, LM Studio๋Š” ๋น„์ „๋ฌธ๊ฐ€๋„ 10๋ถ„ ์•ˆ์— ์„ค์น˜ํ•˜๊ณ  ๋ฐ”๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๋กœ์ปฌ AI ์•ฑ 5์ข…์ž…๋‹ˆ๋‹ค โ€” ํ„ฐ๋ฏธ๋„, Python, Docker๊ฐ€ ์ „ํ˜€ ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค. ๊ฐ ์•ฑ์€ ์„œ๋กœ ๋‹ค๋ฅธ ์ดˆ๋ณด์ž ํ”„๋กœํ•„์—์„œ ๊ฐ€์žฅ ๋›ฐ์–ด๋‚ฉ๋‹ˆ๋‹ค. ๋น„์ „๋ฌธ๊ฐ€๊ฐ€ GPT4All ์•ž์— ์•‰์œผ๋ฉด 4๋ฒˆ์˜ ํด๋ฆญ์œผ๋กœ ์ฑ„ํŒ…์„ ์‹œ์ž‘ํ•  ์ˆ˜ ์žˆ๊ณ , Jan์€ ์™„์ „ ๋ฌดํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ๋ฅผ ์ œ๊ณตํ•˜๋ฉฐ, Msty๋Š” ๊ฐ€์žฅ ์„ธ๋ จ๋œ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๊ฐ–์ถ”๊ณ  ์žˆ๊ณ , AnythingLLM Desktop์€ ๋ฌธ์„œ ๋“œ๋ž˜๊ทธ ์•ค ๋“œ๋กญ ์ฑ„ํŒ…์„, LM Studio๋Š” Mac์—์„œ ์ตœ๊ณ ์˜ ๊ฒฝํ—˜์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

์Šฌ๋ผ์ด๋“œ ๋ฑ: ๋น„์ „๋ฌธ๊ฐ€๋ฅผ ์œ„ํ•œ ๋กœ์ปฌ AI: ํ„ฐ๋ฏธ๋„ ์—†์ด ๋ฐ”๋กœ ์ž‘๋™ํ•˜๋Š” ์•ฑ 5๊ฐ€์ง€

์•„๋ž˜ ํ”„๋ ˆ์  ํ…Œ์ด์…˜์€ ๋‹ค์Œ ๋‚ด์šฉ์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค: ๋น„์ „๋ฌธ๊ฐ€ ์‚ฌ์šฉ์ž๋ฅผ ์œ„ํ•œ GPT4All, Jan, Msty, AnythingLLM Desktop, LM Studio์˜ ํ”„๋กœํ•„๋ณ„ ๋น„๊ต; ๋น ๋ฅธ ์„ ํƒ ํ‘œ(ํ„ฐ๋ฏธ๋„ ๊ฒฝํ—˜ ์—†๋Š” ์‚ฌ์šฉ์ž๋ถ€ํ„ฐ Mac ์‚ฌ์šฉ์ž๊นŒ์ง€); ์•ฑ๋ณ„ ์ฃผ์š” ์‚ฌํ•ญ(ํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ ์ •์ฑ…, ์ถ”์ฒœ ๋ชจ๋ธ, ์ธํ„ฐํŽ˜์ด์Šค ์Šคํƒ€์ผ); 5๊ฐ€์ง€ ์ž์ฃผ ๊ฒช๋Š” ๋ฌธ์ œ์™€ ํ•œ ์ค„ ํ•ด๊ฒฐ์ฑ…; ์ฒ˜์Œ 10๋ถ„์„ ์œ„ํ•œ 6๋‹จ๊ณ„ ๊ฐ€์ด๋“œ. PDF๋ฅผ ๋กœ์ปฌ AI ์ดˆ๋ณด์ž ์ฐธ์กฐ ์นด๋“œ๋กœ ๋‹ค์šด๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค.

์•„๋ž˜ ์Šฌ๋ผ์ด๋“œ๋ฅผ ํƒ์ƒ‰ํ•˜๊ฑฐ๋‚˜ ์˜คํ”„๋ผ์ธ ์ฐธ์กฐ์šฉ์œผ๋กœ PDF๋ฅผ ๋‹ค์šด๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค. ์ฐธ์กฐ ์นด๋“œ ๋‹ค์šด๋กœ๋“œ(PDF)

ํ•ต์‹ฌ ์š”์ 

  • GPT4All์€ ๋งˆ์ฐฐ์ด ๊ฐ€์žฅ ์ ์€ ์‹œ์ž‘ ์˜ต์…˜์ž…๋‹ˆ๋‹ค โ€” 5๋…„ ๋œ ๋…ธํŠธ๋ถ์—์„œ ๋‹ค์šด๋กœ๋“œ๋ถ€ํ„ฐ ์ฒซ ๋ฒˆ์งธ ์ฑ„ํŒ…๊นŒ์ง€ 4๋ฒˆ์˜ ํด๋ฆญ.
  • Jan์€ ๋‹ค์„ฏ ๊ฐ€์ง€ ์ค‘ ์œ ์ผํ•˜๊ฒŒ ๊ธฐ๋ณธ์ ์œผ๋กœ ์™„์ „ ๋ฌดํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ์ด๋ฉฐ ์™„์ „ ์˜คํ”ˆ์†Œ์Šค ์ฝ”๋“œ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
  • Msty๋Š” ๊ฐ€์žฅ ์„ธ๋ จ๋œ UI์™€ ์„ค์ • ์—†์ด ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ PDF ์ฑ„ํŒ…์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
  • AnythingLLM Desktop์€ ์นœ์ˆ™ํ•œ Windows ์Šคํƒ€์ผ์˜ ํŒŒ์ผ/์ฑ„ํŒ… ์•ฑ์ฒ˜๋Ÿผ ๋А๊ปด์ง‘๋‹ˆ๋‹ค โ€” "๋ฌธ์„œ ์—ด๊ธฐ, ์งˆ๋ฌธํ•˜๊ธฐ"์— ๊ฐ€์žฅ ๊ฐ€๊น์Šต๋‹ˆ๋‹ค.
  • LM Studio๋Š” Apple Silicon์—์„œ ๊ฐ€์žฅ ๋น ๋ฅด๋ฉฐ ์•ฑ ๋‚ด์—์„œ ๊ฐ€์žฅ ํฐ ๋ชจ๋ธ ๋ธŒ๋ผ์šฐ์ €๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
  • ๋‹ค์„ฏ ๊ฐ€์ง€ ๋ชจ๋‘ ๋ฌด๋ฃŒ์ด๋ฉฐ, ์„ค์น˜ ํ›„ ์˜คํ”„๋ผ์ธ์œผ๋กœ ์ž‘๋™ํ•˜๊ณ , ์‚ฌ์šฉ์ž์˜ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์„œ๋ฒ„๋กœ ์ „์†กํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์ด ๊ฐ€์ด๋“œ๋Š” ๋ˆ„๊ตฌ๋ฅผ ์œ„ํ•œ ๊ฒƒ์ž…๋‹ˆ๊นŒ?

์ด ๊ฐ€์ด๋“œ๋Š” ์™„์ „ ์ดˆ๋ณด์ž๋ฅผ ์œ„ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค โ€” ํ„ฐ๋ฏธ๋„์„ ํ•œ ๋ฒˆ๋„ ์—ด์–ด๋ณธ ์  ์—†๊ณ  ์•ž์œผ๋กœ๋„ ์—ด๊ณ  ์‹ถ์ง€ ์•Š์€ ๋ถ„๋“ค์„ ์œ„ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค. Zoom์„ ์„ค์น˜ํ•  ์ˆ˜ ์žˆ๋‹ค๋ฉด ์ด ๋‹ค์„ฏ ๊ฐ€์ง€ ์•ฑ ์ค‘ ์–ด๋–ค ๊ฒƒ์ด๋“  ์„ค์น˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์•„๋ž˜์—์„œ ํ•ด๋‹นํ•˜๋Š” ํ”„๋กœํ•„์„ ์„ ํƒํ•˜๊ณ  ํ•ด๋‹น ์„น์…˜์œผ๋กœ ๋ฐ”๋กœ ์ด๋™ํ•˜์‹ญ์‹œ์˜ค.

๋‚ด ์ƒํ™ฉ์„ค์น˜
๋ช…๋ น์ค„๋กœ ์•„๋ฌด๊ฒƒ๋„ ์‹คํ–‰ํ•œ ์ ์ด ์—†์œผ๋ฉฐ ๊ฐœ์ธ ์ •๋ณด๊ฐ€ ๋ณดํ˜ธ๋˜๋Š” ChatGPT๋ฅผ ์›ํ•ฉ๋‹ˆ๋‹คGPT4All
๊ฐœ์ธ ์ •๋ณด ๋ณดํ˜ธ๊ฐ€ ๊ฑฑ์ •๋˜๋ฉฐ ์™„์ „ ๋ฌดํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ๋ฅผ ์›ํ•ฉ๋‹ˆ๋‹คJan
์™ธ๊ด€์ด ์ค‘์š”ํ•ฉ๋‹ˆ๋‹ค. ๊น”๋”ํ•˜๊ณ  ํ˜„๋Œ€์ ์ธ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์›ํ•ฉ๋‹ˆ๋‹คMsty
์ฃผ๋กœ ๋‚ด PDF, Word ๋ฌธ์„œ, ๋ฉ”๋ชจ์™€ ์ฑ„ํŒ…ํ•˜๊ณ  ์‹ถ์Šต๋‹ˆ๋‹คAnythingLLM Desktop
2024๋…„ ์ดํ›„ MacBook์„ ๊ฐ€์ง€๊ณ  ์žˆ์œผ๋ฉฐ ๊ฐ€์žฅ ๋น ๋ฅธ ๋กœ์ปฌ AI๋ฅผ ์›ํ•ฉ๋‹ˆ๋‹คLM Studio
RAM์ด 4 GB๋ฟ์ด๊ฑฐ๋‚˜ Chromebook์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹คํ•ด๋‹น ์—†์Œ โ€” ๋ชจ๋ฐ”์ผ ์•ฑ ์‚ฌ์šฉ ๊ถŒ์žฅ

๐Ÿ“ŒNote: ์ด ์•ฑ๋“ค์˜ ํ˜„์‹ค์ ์ธ ์ตœ์†Œ ํ•˜๋“œ์›จ์–ด ์š”๊ฑด: RAM 8 GB, ์—ฌ์œ  ๋””์Šคํฌ ๊ณต๊ฐ„ ~5 GB. ์ด๋ณด๋‹ค ๋‚ฎ์€ ์‚ฌ์–‘์ด๋ผ๋ฉด ๋ชจ๋ฐ”์ผ ์•ฑ์œผ๋กœ ์ „ํ™˜ํ•˜์‹ญ์‹œ์˜ค โ€” ํ•˜๋‹จ์˜ ๊ด€๋ จ ์ฝ๊ธฐ ์ž๋ฃŒ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

#1 GPT4All โ€” ์™„์ „ ์ดˆ๋ณด์ž์—๊ฒŒ ์ตœ์ 

GPT4All์€ 2026๋…„ ๊ธฐ์ค€ ๋งˆ์ฐฐ์ด ๊ฐ€์žฅ ์ ์€ ๋กœ์ปฌ AI ์•ฑ์ž…๋‹ˆ๋‹ค โ€” 290 MB ๋‹ค์šด๋กœ๋“œ๋กœ ๋น„์ „๋ฌธ๊ฐ€๊ฐ€ "๋ญ˜ ์„ค์น˜ํ•ด์•ผ ํ• ์ง€ ๋ชจ๋ฅด๊ฒ ๋‹ค"์—์„œ "๋‚ด ๋…ธํŠธ๋ถ์—์„œ AI์™€ ๋Œ€ํ™” ์ค‘"๊นŒ์ง€ 10๋ถ„ ์•ˆ์— ๋„๋‹ฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์˜คํ”ˆ์†Œ์Šค(MIT ๋ผ์ด์„ ์Šค)์ด๋ฉฐ Nomic AI๊ฐ€ ๊ด€๋ฆฌํ•˜๊ณ , ์ด ๋ชฉ๋ก์—์„œ ์ธ์ง€ ๋ถ€ํ•˜๊ฐ€ ๊ฐ€์žฅ ๋‚ฎ์Šต๋‹ˆ๋‹ค.

  • ์„ค์น˜ ๊ณผ์ •: gpt4all.io์—์„œ ๋‹ค์šด๋กœ๋“œ โ†’ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ ์‹คํ–‰ โ†’ ๊ถŒ์žฅ ๋ชจ๋ธ ํ™”๋ฉด์—์„œ "Llama 3.2 3B Instruct" ํด๋ฆญ โ†’ 2 GB ๋‹ค์šด๋กœ๋“œ ๋Œ€๊ธฐ โ†’ ์ฑ„ํŒ… ์‹œ์ž‘. ์ด 4๋ฒˆ์˜ ํด๋ฆญ๊ณผ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ.
  • ์ตœ์†Œ ํ•˜๋“œ์›จ์–ด: 5๋…„ ๋œ Intel ๋…ธํŠธ๋ถ(8 GB RAM, ๋‚ด์žฅ ๊ทธ๋ž˜ํ”ฝ)์—์„œ ์›ํ™œํ•˜๊ฒŒ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค โ€” GPU๊ฐ€ ํ•„์š”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • ์ธํ„ฐํŽ˜์ด์Šค ๋ช…ํ™•์„ฑ: ์ฐฝ ํ•˜๋‚˜. ์™ผ์ชฝ ์‚ฌ์ด๋“œ๋ฐ”์— ์ฑ„ํŒ… ๋ชฉ๋ก. ๊ฐ€์šด๋ฐ ํŒจ๋„์ด ๋Œ€ํ™”์ฐฝ. ํƒญ์ด ์—†๊ณ , ๋ฉ”๋‰ด ์•ˆ์˜ ๋“œ๋กญ๋‹ค์šด ๋ฉ”๋‰ด๋„ ์—†์œผ๋ฉฐ, ์‹ค์ˆ˜๋กœ ๋ง๊ฐ€๋œจ๋ฆด ์ˆ˜ ์žˆ๋Š” "๊ณ ๊ธ‰ ์„ค์ •" ํŽ˜์ด์ง€๋„ ์—†์Šต๋‹ˆ๋‹ค.
  • ์˜ค๋ฅ˜ ๋ฉ”์‹œ์ง€: ๋ฌธ์ œ๊ฐ€ ๋ฐœ์ƒํ•  ๊ฒฝ์šฐ(๋ฉ”๋ชจ๋ฆฌ ๋ถ€์กฑ, ์†์ƒ๋œ ๋ชจ๋ธ ํŒŒ์ผ) GPT4All์€ ํ•˜๋‚˜์˜ ์ œ์•ˆ๋œ ํ•ด๊ฒฐ์ฑ…์ด ๋‹ด๊ธด ์ผ๋ฐ˜ ์–ธ์–ด ๋Œ€ํ™” ์ƒ์ž๋ฅผ ํ‘œ์‹œํ•ฉ๋‹ˆ๋‹ค. ์Šคํƒ ํŠธ๋ ˆ์ด์Šค๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค.
  • ํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ: ๊ธฐ๋ณธ์ ์œผ๋กœ ๋น„ํ™œ์„ฑํ™”๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ์„ค์น˜ ์ค‘ ์ต๋ช… ์‚ฌ์šฉ ๊ณต์œ ๋ฅผ ์„ ํƒํ•  ์ˆ˜ ์žˆ์ง€๋งŒ ๊ธฐ๋ณธ๊ฐ’์€ ๊ฑฐ๋ถ€์ž…๋‹ˆ๋‹ค.
  • ๋ผ์ด์„ ์Šค: MIT โ€” ์™„์ „ ์˜คํ”ˆ์†Œ์Šค. ์†Œ์Šค ์ฝ”๋“œ๋Š” ๋ˆ„๊ตฌ๋‚˜ ๊ฐ์‚ฌํ•  ์ˆ˜ ์žˆ๋„๋ก GitHub์— ๊ณต๊ฐœ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์ถ”์ฒœ ์ดˆ๊ธฐ ๋ชจ๋ธ: Llama 3.2 3B Instruct (Q4_0). ๋””์Šคํฌ ์•ฝ 2 GB, ์‹คํ–‰ ์‹œ RAM 4โ€“6 GB, ๋‚ด์žฅ ๊ทธ๋ž˜ํ”ฝ์—์„œ๋„ ์พŒ์ ํ•˜๊ฒŒ ๋น ๋ฆ…๋‹ˆ๋‹ค.
GPT4All 4๋‹จ๊ณ„ ์„ค์น˜ ๊ณผ์ •: gpt4all.io์—์„œ ~290 MB ๋‹ค์šด๋กœ๋“œ, ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ ์‹คํ–‰, Llama 3.2 3B ์„ ํƒ(2 GB ๋‹ค์šด๋กœ๋“œ), ์ฑ„ํŒ… ์‹œ์ž‘ โ€” 8 GB RAM ๋…ธํŠธ๋ถ์—์„œ ์™„์ „ ์˜คํ”„๋ผ์ธ ์ž‘๋™.
GPT4All 4๋‹จ๊ณ„ ์„ค์น˜ ๊ณผ์ •: gpt4all.io์—์„œ ~290 MB ๋‹ค์šด๋กœ๋“œ, ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ ์‹คํ–‰, Llama 3.2 3B ์„ ํƒ(2 GB ๋‹ค์šด๋กœ๋“œ), ์ฑ„ํŒ… ์‹œ์ž‘ โ€” 8 GB RAM ๋…ธํŠธ๋ถ์—์„œ ์™„์ „ ์˜คํ”„๋ผ์ธ ์ž‘๋™.

๐Ÿ’กTip: ์ด ์•ฑ์„ ์„ค์น˜ํ•˜์„ธ์š”: ๊ฐœ์ธ ChatGPT๋ฅผ ์›ํ•˜๋Š” ๋ถ€๋ชจ๋‹˜, ์ €๋ ดํ•œ ๋…ธํŠธ๋ถ์„ ๊ฐ€์ง„ ๊ธฐ์ž, ํ•™์ƒ๋“ค์—๊ฒŒ AI๋ฅผ ์‹œ์—ฐํ•˜๋Š” ๊ต์‚ฌ, ๋˜๋Š” "ํ„ฐ๋ฏธ๋„์„ ์—ด์–ด๋ผ"๋Š” ๋ง์— "ํ„ฐ๋ฏธ๋„์ด ๋ญ”๊ฐ€์š”?"๋ผ๊ณ  ๋ฐ˜์‘ํ•˜๋Š” ๋ถ„.

#2 Jan โ€” ํ”„๋ผ์ด๋ฒ„์‹œ๋ฅผ ์ค‘์‹œํ•˜๋Š” ์ดˆ๋ณด์ž์—๊ฒŒ ์ตœ์ 

Jan์€ ํ”„๋ผ์ด๋ฒ„์‹œ ์ค‘์‹ฌ ์˜ต์…˜์ž…๋‹ˆ๋‹ค โ€” ์™„์ „ ๋ฌดํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ, ๋ถ„์„ SDK ์—†์Œ, AGPL ๋ผ์ด์„ ์Šค ํ•˜์— ์™„์ „ํžˆ ๊ฐ์‚ฌ ๊ฐ€๋Šฅํ•œ ์˜คํ”ˆ์†Œ์Šค ์ฝ”๋“œ. ์™ธ๊ด€๊ณผ ๋А๋‚Œ์ด ChatGPT์˜ ๊น”๋”ํ•œ ํด๋ก ๊ณผ ๊ฐ™์œผ๋ฉฐ, ์•ฑ์„ ๋‚˜๊ฐ€์ง€ ์•Š๊ณ  ํƒ์ƒ‰ํ•  ์ˆ˜ ์žˆ๋Š” ์•ฝ 150๊ฐœ์˜ ์„ ๋ณ„๋œ ๋ชจ๋ธ ์นดํƒˆ๋กœ๊ทธ๋ฅผ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

  • ์„ค์น˜ ๊ณผ์ •: jan.ai์—์„œ ์„œ๋ช…๋œ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ ๋‹ค์šด๋กœ๋“œ โ†’ ์„ค์น˜ โ†’ ์•ฑ ๋‚ด ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์—์„œ ๋ชจ๋ธ ์„ ํƒ(Hugging Face ๊ณ„์ • ๋ถˆํ•„์š”, ๋กœ๊ทธ์ธ ๋ถˆํ•„์š”) โ†’ ์ฑ„ํŒ… ์‹œ์ž‘. ์ด ์•ฝ 5๋ฒˆ์˜ ํด๋ฆญ.
  • ํ”„๋ผ์ด๋ฒ„์‹œ ์ž…์žฅ: ํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ ์—†์Œ. ๋ถ„์„ SDK ์—†์Œ. ์™ธ๋ถ€ ํ˜ธ์ถœ ์—†์Œ. ์†Œ์Šค ์ฝ”๋“œ๋Š” AGPL ํ•˜์— GitHub์— ๊ณต๊ฐœ โ€” ๋…๋ฆฝ ๊ฐ์‚ฌ์ธ์ด ๋ฐ”์ด๋„ˆ๋ฆฌ๊ฐ€ ์†Œ์Šค ์ฝ”๋“œ์™€ ์ผ์น˜ํ•˜๋Š”์ง€ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์ธํ„ฐํŽ˜์ด์Šค: ๊ธฐ๋ณธ ๋‹คํฌ ๋ชจ๋“œ์™€ ์‚ฌ์ด๋“œ๋ฐ” ๋Œ€ํ™” ์Šค๋ ˆ๋“œ๊ฐ€ ์žˆ๋Š” ํ˜„๋Œ€์ ์ธ ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค. ์™ธ๊ด€์ƒ ChatGPT์™€ ์œ ์‚ฌํ•˜์ง€๋งŒ ๋ชจ๋“  ๊ฒƒ์ด ๋‚ด ์ปดํ“จํ„ฐ์—์„œ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค.
  • ๋ชจ๋ธ ๋ธŒ๋ผ์šฐ์ €: "Hugging Face URL"๋กœ ๊ฐ€์ ธ์˜ค๊ธฐ ์˜ต์…˜๊ณผ ํ•จ๊ป˜ ์•ฝ 150๊ฐœ์˜ ์„ ๋ณ„๋œ ๋ชจ๋ธ. LM Studio๋ณด๋‹ค ๋ถ€๋‹ด์ด ์—†๊ณ  GPT4All๋ณด๋‹ค ์•ˆ๋‚ด๊ฐ€ ํ’๋ถ€ํ•ฉ๋‹ˆ๋‹ค.
  • ๋‚ด์žฅ ๋„๊ตฌ: ๋ฌธ์„œ ์ฑ„ํŒ…, ์›น ๊ฒ€์ƒ‰, OpenAI ํ˜ธํ™˜ API ์„œ๋ฒ„๋ฅผ ์œ„ํ•œ ์„ ํƒ์  ํ™•์žฅ ๊ธฐ๋Šฅ. ๋ชจ๋‘ ์„ ํƒ ์‚ฌํ•ญ์ด๋ฉฐ ๋ช…ํ™•ํ•˜๊ฒŒ ํ‘œ์‹œ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์ตœ์†Œ ํ•˜๋“œ์›จ์–ด: RAM 8 GB, ์ตœ์‹  CPU(2020๋…„ ์ดํ›„). Apple Silicon๊ณผ NVIDIA GPU๋Š” ์ž๋™์œผ๋กœ ๊ฐ์ง€๋˜์–ด ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค.
  • ์ถ”์ฒœ ์ดˆ๊ธฐ ๋ชจ๋ธ: Phi-4 Mini (~2.6 GB) โ€” ์ž‘๊ณ  ๋น ๋ฅด๋ฉฐ ์ผ์ƒ์ ์ธ ์งˆ๋ฌธ์— ๋†€๋ž๋„๋ก ์ž˜ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.
Jan ํ”„๋ผ์ด๋ฒ„์‹œ ๋น„๊ต: ํด๋ผ์šฐ๋“œ AI๋Š” ๋ถ„์„ SDK์™€ ํ•จ๊ป˜ ์›๊ฒฉ ์„œ๋ฒ„๋กœ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ „์†กํ•˜์ง€๋งŒ, Jan์€ ์™„์ „ ๋ฌดํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ, AGPL ํ•˜์— ๊ฐ์‚ฌ ๊ฐ€๋Šฅํ•œ ์†Œ์Šค ์ฝ”๋“œ, ์„ค์น˜ ํ›„ ์™„์ „ ์˜คํ”„๋ผ์ธ ์ž‘๋™์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
Jan ํ”„๋ผ์ด๋ฒ„์‹œ ๋น„๊ต: ํด๋ผ์šฐ๋“œ AI๋Š” ๋ถ„์„ SDK์™€ ํ•จ๊ป˜ ์›๊ฒฉ ์„œ๋ฒ„๋กœ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ „์†กํ•˜์ง€๋งŒ, Jan์€ ์™„์ „ ๋ฌดํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ, AGPL ํ•˜์— ๊ฐ์‚ฌ ๊ฐ€๋Šฅํ•œ ์†Œ์Šค ์ฝ”๋“œ, ์„ค์น˜ ํ›„ ์™„์ „ ์˜คํ”„๋ผ์ธ ์ž‘๋™์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ’กTip: ์ด ์•ฑ์„ ์„ค์น˜ํ•˜์„ธ์š”: ๋””์ง€ํ„ธ ํ”„๋ผ์ด๋ฒ„์‹œ๋ฅผ ๊ฑฑ์ •ํ•˜๋Š” ๋ถ„, ๊ธฐ๋ฐ€ ์ถœ์ฒ˜๋ฅผ ๋‹ค๋ฃจ๋Š” ๊ธฐ์ž, ํด๋ผ์šฐ๋“œ API์— ์ดˆ์•ˆ์„ ๋ณด๋‚ผ ์ˆ˜ ์—†๋Š” ๋ฒ•๋ฅ ๊ฐ€, ๋˜๋Š” "์ด ์•ฑ์ด ์™ธ๋ถ€๋กœ ๋ฌด์—‡์„ ๋ณด๋‚ด๋Š”๊ฐ€?"๊ฐ€ ์œ„ํ˜‘ ๋ชจ๋ธ์— ํฌํ•จ๋œ ๋ถ„.

#3 Msty โ€” "์˜ˆ์œ ์ธํ„ฐํŽ˜์ด์Šค"๋ฅผ ์›ํ•˜๋Š” ๋ถ„์—๊ฒŒ ์ตœ์ 

Msty๋Š” ์‹œ๊ฐ์ ์œผ๋กœ ๊ฐ€์žฅ ์„ธ๋ จ๋œ ๋กœ์ปฌ AI ์•ฑ์ž…๋‹ˆ๋‹ค โ€” ๋‚˜๋ž€ํžˆ ๋Œ€ํ™”๋ฅผ ๋น„๊ตํ•  ์ˆ˜ ์žˆ๋Š” ๋ถ„ํ•  ํŒจ๋„ ํ˜„๋Œ€ ์ธํ„ฐํŽ˜์ด์Šค, ๋‚ด์žฅ ๋ฌธ์„œ ์ฑ„ํŒ…, ์›ํด๋ฆญ ๋ชจ๋ธ ์„ค์น˜ ๊ธฐ๋Šฅ์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ฐœ์ธ ์‚ฌ์šฉ์— ๋ฌด๋ฃŒ์ด๋ฉฐ Windows, macOS, Linux์—์„œ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.

  • ์„ค์น˜ ๊ณผ์ •: msty.app์—์„œ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ ๋‹ค์šด๋กœ๋“œ โ†’ ์„ค์น˜ โ†’ ์‹œ์ž‘ ํ™”๋ฉด์—์„œ "๋กœ์ปฌ AI" ์„ ํƒ โ†’ ์ถ”์ฒœ ๋ชจ๋ธ ์„ ํƒ โ†’ ์ฑ„ํŒ…. ์•ฝ 5~6๋ฒˆ์˜ ํด๋ฆญ.
  • ์ฃผ๋ชฉํ•  ์ธํ„ฐํŽ˜์ด์Šค ๊ธฐ๋Šฅ: ๋ถ„ํ•  ์ฑ„ํŒ…. ๊ฐ™์€ ์งˆ๋ฌธ์— ๋‘ ๋ชจ๋ธ์ด ๋‚˜๋ž€ํžˆ ์‘๋‹ตํ•˜๊ฒŒ ํ•˜์—ฌ ๋” ๋‚˜์€ ๋‹ต๋ณ€์„ ์„ ํƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ชฉ๋ก์˜ ๋‹ค๋ฅธ ์•ฑ์—๋Š” ๊ธฐ๋ณธ์œผ๋กœ ํฌํ•จ๋˜์ง€ ์•Š๋Š” ๊ธฐ๋Šฅ์ž…๋‹ˆ๋‹ค.
  • ๋ฌธ์„œ ์ฑ„ํŒ…: ๋‚ด์žฅ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. PDF, DOCX ๋˜๋Š” ํด๋”๋ฅผ ์‚ฌ์ด๋“œ๋ฐ”๋กœ ๋“œ๋ž˜๊ทธํ•˜๊ณ  ์งˆ๋ฌธํ•˜์‹ญ์‹œ์˜ค. ํ”Œ๋Ÿฌ๊ทธ์ธ ์„ค์น˜๊ฐ€ ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค.
  • ์ง€์‹ ์Šคํƒ: ๋ฌธ์„œ๋ฅผ "์Šคํƒ"์— ๊ณ ์ •ํ•˜์—ฌ ํ•ด๋‹น ์›Œํฌ์ŠคํŽ˜์ด์Šค์˜ ๋ชจ๋“  ์ฑ„ํŒ…์ด ์ด๋ฏธ ๋ฌธ์„œ์— ์•ก์„ธ์Šคํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค โ€” "๋‚ด ํ•™์Šต ๋ฉ”๋ชจ์™€ ๋Œ€ํ™”ํ•˜๊ธฐ"์— ์ด์ƒ์ ์ž…๋‹ˆ๋‹ค.
  • ์ตœ์†Œ ํ•˜๋“œ์›จ์–ด: RAM 8 GB, 2020๋…„ ์ดํ›„ CPU. Apple Silicon, NVIDIA, AMD ๊ฐ€์†์„ ์ž๋™์œผ๋กœ ๊ฐ์ง€ํ•˜์—ฌ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.
  • ๋ผ์ด์„ ์Šค: ๋…์  ์†Œํ”„ํŠธ์›จ์–ด, ๊ฐœ์ธ ์‚ฌ์šฉ ๋ฌด๋ฃŒ. ํด๋ผ์šฐ๋“œ API ๊ณ ๊ธ‰ ๊ธฐ๋Šฅ์— ์œ ๋ฃŒ ํ”Œ๋žœ์ด ์žˆ์ง€๋งŒ ๋กœ์ปฌ ์ „์šฉ ์‚ฌ์šฉ์€ ์˜๊ตฌ ๋ฌด๋ฃŒ์ž…๋‹ˆ๋‹ค.
  • ์ถ”์ฒœ ์ดˆ๊ธฐ ๋ชจ๋ธ: Gemma 3 4B Instruct โ€” ์นœ๊ทผํ•œ ํ†ค, ์š”์•ฝ์— ๊ฐ•ํ•˜๋ฉฐ ๋Œ€๋ถ€๋ถ„์˜ ๋…ธํŠธ๋ถ์—์„œ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.
Msty ๊ธฐ๋Šฅ ๋งคํŠธ๋ฆญ์Šค: ๋ถ„ํ•  ์ฑ„ํŒ…(Msty ์ „์šฉ)์€ ๋‘ ๋ชจ๋ธ์„ ๋‚˜๋ž€ํžˆ ํ‘œ์‹œ; ์ง€์‹ ์Šคํƒ(์ „์šฉ ๊ธฐ๋Šฅ)์€ ๋ฌธ์„œ๋ฅผ ์›Œํฌ์ŠคํŽ˜์ด์Šค์— ๊ณ ์ • โ€” Windows, macOS, Linux์—์„œ ๊ฐœ์ธ ์‚ฌ์šฉ ๋ฌด๋ฃŒ.
Msty ๊ธฐ๋Šฅ ๋งคํŠธ๋ฆญ์Šค: ๋ถ„ํ•  ์ฑ„ํŒ…(Msty ์ „์šฉ)์€ ๋‘ ๋ชจ๋ธ์„ ๋‚˜๋ž€ํžˆ ํ‘œ์‹œ; ์ง€์‹ ์Šคํƒ(์ „์šฉ ๊ธฐ๋Šฅ)์€ ๋ฌธ์„œ๋ฅผ ์›Œํฌ์ŠคํŽ˜์ด์Šค์— ๊ณ ์ • โ€” Windows, macOS, Linux์—์„œ ๊ฐœ์ธ ์‚ฌ์šฉ ๋ฌด๋ฃŒ.

๐Ÿ’กTip: ์ด ์•ฑ์„ ์„ค์น˜ํ•˜์„ธ์š”: ๊ธฐ๋ณธ ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค๊ฐ€ ๋ชป์ƒ๊ฒผ๋‹ค๊ณ  ์ƒ๊ฐํ•˜๋Š” ๋””์ž์ด๋„ˆ, ๋‘ ๋ชจ๋ธ์˜ ์‘๋‹ต์„ ๋‚˜๋ž€ํžˆ ๋น„๊ตํ•˜๊ณ  ์‹ถ์€ ํ•™์ƒ, ๋˜๋Š” AI๊ฐ€ ์ฒ˜์Œ๋ถ€ํ„ฐ ๋‚ด ๋ฉ”๋ชจ ํด๋”๋ฅผ ์ฝ์–ด์ฃผ๊ธฐ๋ฅผ ์›ํ•˜๋Š” ์ž‘๊ฐ€.

#4 AnythingLLM Desktop โ€” ์นœ์ˆ™ํ•œ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์›ํ•˜๋Š” ๋ถ„์—๊ฒŒ ์ตœ์ 

AnythingLLM Desktop์€ ๋ฌธ์„œ "์›Œํฌ์ŠคํŽ˜์ด์Šค"๋ฅผ ์ค‘์‹ฌ์œผ๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค โ€” ์–ด๋– ํ•œ ์„ค์ • ์—†์ด "ํด๋” ์—ด๊ธฐ, ์งˆ๋ฌธํ•˜๊ธฐ"์— ๊ฐ€์žฅ ๊ฐ€๊น์Šต๋‹ˆ๋‹ค. ์ธํ„ฐํŽ˜์ด์Šค๋Š” ํด๋ž˜์‹ ๋ฐ์Šคํฌํ†ฑ ์•ฑ์˜ ์™ผ์ชฝ ํŒŒ์ผ ํŠธ๋ฆฌ, ์˜ค๋ฅธ์ชฝ ์ฝ˜ํ…์ธ  ๊ด€๋ก€๋ฅผ ์ฑ„ํƒํ•˜์—ฌ Windows์—์„œ ์„ฑ์žฅํ•œ ์‚ฌ์šฉ์ž์—๊ฒŒ ํŠนํžˆ ํŽธ์•ˆํ•ฉ๋‹ˆ๋‹ค.

  • ์„ค์น˜ ๊ณผ์ •: anythingllm.com์—์„œ ๋‹ค์šด๋กœ๋“œ โ†’ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ ์‹คํ–‰ โ†’ ์ฒซ ์‹คํ–‰ ์‹œ "๋กœ์ปฌ AI ์‚ฌ์šฉ(API ํ‚ค ์—†์Œ)" ์„ ํƒ โ†’ ๋‚ด์žฅ ๋กœ์ปฌ ๋ชจ๋ธ ์„ ํƒ โ†’ ์›Œํฌ์ŠคํŽ˜์ด์Šค์— ๋ฌธ์„œ ๋“œ๋ž˜๊ทธ. ์•ฝ 6๋ฒˆ์˜ ํด๋ฆญ.
  • ์›Œํฌ์ŠคํŽ˜์ด์Šค ๋ชจ๋ธ: ๊ฐ ์›Œํฌ์ŠคํŽ˜์ด์Šค๋Š” ์ž์ฒด ๋ฌธ์„œ ํด๋”์™€ ์ฑ„ํŒ… ๊ธฐ๋ก์ž…๋‹ˆ๋‹ค. ์‚ฌ๊ณ  ๋ชจ๋ธ: "์ด๊ฒƒ์ด ์„ธ๊ธˆ 2026 ํด๋”์ด๊ณ , ์ด๊ฒƒ์ด ์„ธ๊ธˆ 2026 ํด๋”๋ฅผ ์•„๋Š” ์ฑ„ํŒ…์ž…๋‹ˆ๋‹ค".
  • ๋ฌธ์„œ ์ง€์›: PDF, DOCX, TXT, Markdown, ์›น ํŽ˜์ด์ง€ ๊ฐ€์ ธ์˜ค๊ธฐ. ๋“œ๋ž˜๊ทธํ•˜๋ฉด ์•ฑ์ด ๋กœ์ปฌ๋กœ ์ธ๋ฑ์‹ฑํ•ฉ๋‹ˆ๋‹ค โ€” ์ž„๋ฒ ๋”ฉ API ๊ณ„์ •์ด ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค.
  • ์ธํ„ฐํŽ˜์ด์Šค: ์ด๋ฉ”์ผ ํด๋ผ์ด์–ธํŠธ์™€ ํด๋ž˜์‹ Windows ์•ฑ์„ ์—ฐ์ƒ์‹œํ‚ค๋Š” ์นœ์ˆ™ํ•œ 3๊ฐœ ํŒจ๋„ ๋ ˆ์ด์•„์›ƒ(์›Œํฌ์ŠคํŽ˜์ด์Šค ๋ชฉ๋ก / ๋ฌธ์„œ ๋ชฉ๋ก / ์ฑ„ํŒ…). ํ˜„๋Œ€์ ์ธ ๋ฏธ๋‹ˆ๋ฉ€๋ฆฌ์ŠคํŠธ ์ธํ„ฐํŽ˜์ด์Šค์— ์ ์‘ํ•˜์ง€ ๋ชปํ•œ ์‚ฌ์šฉ์ž์˜ ์ธ์ง€ ๋ถ€ํ•˜๊ฐ€ ๋‚ฎ์Šต๋‹ˆ๋‹ค.
  • ํ”„๋ผ์ด๋ฒ„์‹œ: ํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ๋Š” ์„ ํƒ ์‚ฌํ•ญ(opt-in)์ž…๋‹ˆ๋‹ค. ๋กœ์ปฌ AI ์˜ต์…˜์„ ์„ ํƒํ•˜๋ฉด ๋ฌธ์„œ ์ธ๋ฑ์‹ฑ์ด ์™„์ „ํžˆ ๋‚ด ์ปดํ“จํ„ฐ์—์„œ ์ด๋ฃจ์–ด์ง‘๋‹ˆ๋‹ค.
  • ์ตœ์†Œ ํ•˜๋“œ์›จ์–ด: RAM 8 GB, ์›Œํฌ์ŠคํŽ˜์ด์Šค์— ์ˆ˜๋ฐฑ ๊ฐœ์˜ ๋ฌธ์„œ๊ฐ€ ์žˆ๋‹ค๋ฉด ์ด์ƒ์ ์œผ๋กœ๋Š” 16 GB.
  • ์ถ”์ฒœ ์ดˆ๊ธฐ ๋ชจ๋ธ: Llama 3.2 3B Instruct ๋˜๋Š” Qwen3 4B โ€” ๋‘˜ ๋‹ค ์ด ์•ฑ์—์„œ ๋ฌธ์„œ Q&A๋ฅผ ์ž˜ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค.
AnythingLLM Desktop ์›Œํฌ์ŠคํŽ˜์ด์Šค ๋ชจ๋ธ: ์›Œํฌ์ŠคํŽ˜์ด์Šค(์™ผ์ชฝ)์— ๋ฌธ์„œ(๊ฐ€์šด๋ฐ)๊ฐ€ ํฌํ•จ๋˜๊ณ  AI๊ฐ€ ์ฑ„ํŒ… ์งˆ๋ฌธ(์˜ค๋ฅธ์ชฝ)์— ๋‹ตํ•  ๋•Œ ์ธ์šฉํ•ฉ๋‹ˆ๋‹ค โ€” ๋ชจ๋‘ ๋กœ์ปฌ์—์„œ ์ธ๋ฑ์‹ฑ, ํด๋ผ์šฐ๋“œ API ์—†์Œ.
AnythingLLM Desktop ์›Œํฌ์ŠคํŽ˜์ด์Šค ๋ชจ๋ธ: ์›Œํฌ์ŠคํŽ˜์ด์Šค(์™ผ์ชฝ)์— ๋ฌธ์„œ(๊ฐ€์šด๋ฐ)๊ฐ€ ํฌํ•จ๋˜๊ณ  AI๊ฐ€ ์ฑ„ํŒ… ์งˆ๋ฌธ(์˜ค๋ฅธ์ชฝ)์— ๋‹ตํ•  ๋•Œ ์ธ์šฉํ•ฉ๋‹ˆ๋‹ค โ€” ๋ชจ๋‘ ๋กœ์ปฌ์—์„œ ์ธ๋ฑ์‹ฑ, ํด๋ผ์šฐ๋“œ API ์—†์Œ.

๐Ÿ’กTip: ์ด ์•ฑ์„ ์„ค์น˜ํ•˜์„ธ์š”: ๊ณ„์•ฝ์„œ ํด๋”์— ์งˆ๋ฌธํ•˜๊ณ  ์‹ถ์€ ์†Œ๊ทœ๋ชจ ์‚ฌ์—…์ฃผ, "์ฝ์„ ๋…ผ๋ฌธ" ํด๋”๋ฅผ ๊ฐ€์ง„ ์—ฐ๊ตฌ์ž, ํ˜„๋Œ€์ ์ธ ์ธํ„ฐํŽ˜์ด์Šค๊ฐ€ ํ˜ผ๋ž€์Šค๋Ÿฝ๊ณ  Outlook๊ณผ ๋น„์Šทํ•œ ๊ฒƒ์„ ์„ ํ˜ธํ•˜๋Š” ๋ถ„.

#5 LM Studio โ€” Mac ์‚ฌ์šฉ์ž์—๊ฒŒ ์ตœ์ 

LM Studio๋Š” Apple Silicon์—์„œ ๋‹ค์„ฏ ๊ฐ€์ง€ ์ค‘ ๊ฐ€์žฅ ๋น ๋ฅด๋ฉฐ ์•ฑ ๋‚ด์—์„œ ๊ฐ€์žฅ ํฐ ๋ชจ๋ธ ๋ธŒ๋ผ์šฐ์ €๋ฅผ ๊ฐ–์ถ”๊ณ  ์žˆ์ง€๋งŒ, ๊ทธ๋ฃน์—์„œ ๊ฐ€์žฅ ๊ฐ€ํŒŒ๋ฅธ ํ•™์Šต ๊ณก์„ ์„ ๊ฐ€์ง€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋น„์ „๋ฌธ๊ฐ€ Mac ์‚ฌ์šฉ์ž์—๊ฒŒ๋„ ์—ฌ์ „ํžˆ ๋งค์šฐ ์ ‘๊ทผํ•˜๊ธฐ ์‰ฝ์ง€๋งŒ โ€” Windows์™€ Linux์—์„œ๋Š” GPT4All์ด๋‚˜ Jan์ด ๋” ๋ถ€๋“œ๋Ÿฌ์šด ์ฒซ ๊ฒฝํ—˜์„ ์ œ๊ณตํ•˜๋Š” ๊ฒฝ์šฐ๊ฐ€ ๋งŽ์Šต๋‹ˆ๋‹ค.

  • ์„ค์น˜ ๊ณผ์ •: lmstudio.ai์—์„œ ๋‹ค์šด๋กœ๋“œ โ†’ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ ์‹คํ–‰ โ†’ ์ฒซ ์‹คํ–‰ ์‹œ ๊ธฐ๋ณธ ์„ค์ • ์ˆ˜๋ฝ โ†’ ์•ฑ ๋‚ด ๋ชจ๋ธ ๋ธŒ๋ผ์šฐ์ €์—์„œ "์ง์› ์ถ”์ฒœ" ๋ชจ๋ธ ์„ ํƒ โ†’ ๋กœ๋“œ โ†’ ์ฑ„ํŒ…. ์•ฝ 6๋ฒˆ์˜ ํด๋ฆญ๊ณผ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ.
  • Mac์—์„œ ์•ž์„œ๋Š” ์ด์œ : LM Studio์—๋Š” M ์‹œ๋ฆฌ์ฆˆ ์นฉ์—์„œ ๊ธฐ์กด ๊ธฐ๋ณธ๊ฐ’๋ณด๋‹ค 15โ€“30% ํ–ฅ์ƒ๋œ ๋งž์ถคํ˜• Apple Silicon Metal ์ปค๋„์ด ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. 16 GB MacBook Pro์—์„œ 8B๊ธ‰ ๋ชจ๋ธ์„ ์ดˆ๋‹น ~38 ํ† ํฐ์œผ๋กœ ์ŠคํŠธ๋ฆฌ๋ฐํ•ฉ๋‹ˆ๋‹ค.
  • ๋ชจ๋ธ ๋ธŒ๋ผ์šฐ์ € ๊นŠ์ด: Hugging Face์—์„œ ์‹ค์‹œ๊ฐ„์œผ๋กœ ๊ฐ€์ ธ์˜จ ์•ฝ 5,000๊ฐœ์˜ ๋ชจ๋ธ ๋ณ€ํ˜•, RAM/VRAM, ๋ผ์ด์„ ์Šค, ๊ณ„์—ด๋ณ„ ํ•„ํ„ฐ๋ง ๊ฐ€๋Šฅ. Jan์ด๋‚˜ GPT4All์˜ ์„ ๋ณ„๋œ ์นดํƒˆ๋กœ๊ทธ๋ฅผ ๋ฒ—์–ด๋‚ฌ์„ ๋•Œ ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค.
  • ๋‚ด์žฅ ๋ฌธ์„œ ์ฑ„ํŒ…: ์˜ˆ(2025๋…„ ๋„์ž…), ๊น”๋”ํ•œ ๋“œ๋ž˜๊ทธ ์•ค ๋“œ๋กญ ์ธํ„ฐํŽ˜์ด์Šค.
  • ํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ: ๊ธฐ๋ณธ์ ์œผ๋กœ ์ต๋ช… ์‚ฌ์šฉ ์ด๋ฒคํŠธ๊ฐ€ ์ „์†ก๋ฉ๋‹ˆ๋‹ค. ์„ค์ • โ†’ ๊ฐœ์ธ ์ •๋ณด ๋ณดํ˜ธ์—์„œ ์‰ฝ๊ฒŒ ๋น„ํ™œ์„ฑํ™”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋Œ€ํ™”์™€ ๋ชจ๋ธ ํŒŒ์ผ์€ ์ ˆ๋Œ€ ๊ธฐ๊ธฐ๋ฅผ ๋– ๋‚˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • ๋ผ์ด์„ ์Šค: ๋…์  ์†Œํ”„ํŠธ์›จ์–ด(๊ฐœ์ธ ๋ฐ ์ƒ์—…์šฉ ๋ฌด๋ฃŒ). ์˜คํ”ˆ์†Œ์Šค ์ฝ”๋“œ๊ฐ€ ํ•„์ˆ˜๋ผ๋ฉด Jan์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค.
  • ์ถ”์ฒœ ์ดˆ๊ธฐ ๋ชจ๋ธ: 8 GB Mac์—๋Š” Phi-4 Mini; 16 GB ์ด์ƒ Mac์—๋Š” Llama 3.3 8B Q4_K_M.
Apple Silicon์—์„œ LM Studio ๋ชจ๋ธ ์†๋„: Phi-4 Mini๋Š” M3 8 GB์—์„œ 55โ€“70 tok/s; Llama 3.3 8B Q4_K_M์€ ๋งž์ถคํ˜• Metal ์ปค๋„๋กœ M3 Pro 16 GB์—์„œ 35โ€“42 tok/s.
Apple Silicon์—์„œ LM Studio ๋ชจ๋ธ ์†๋„: Phi-4 Mini๋Š” M3 8 GB์—์„œ 55โ€“70 tok/s; Llama 3.3 8B Q4_K_M์€ ๋งž์ถคํ˜• Metal ์ปค๋„๋กœ M3 Pro 16 GB์—์„œ 35โ€“42 tok/s.

๐Ÿ’กTip: ์ด ์•ฑ์„ ์„ค์น˜ํ•˜์„ธ์š”: Apple Silicon์—์„œ ๊ฐ€์žฅ ๋น ๋ฅธ ๋กœ์ปฌ AI๋ฅผ ์›ํ•˜๋Š” Mac ์‚ฌ์šฉ์ž, ์—ฌ๋Ÿฌ ๋ชจ๋ธ์„ ์‹œํ—˜ํ•ด๋ณด๊ณ  ์‹ถ์€ 16 GB+ MacBook์„ ๊ฐ€์ง„ ์ž‘๊ฐ€, ๋˜๋Š” Jan์ด๋‚˜ GPT4All์˜ ์„ ๋ณ„๋œ ์นดํƒˆ๋กœ๊ทธ๊ฐ€ ๋„ˆ๋ฌด ์ž‘๋‹ค๊ณ  ์ƒ๊ฐํ•˜๋Š” ๋ถ„.

์ž์ฃผ ๊ฒช๋Š” ๋ฌธ์ œ(๋ฐ ํ•ด๊ฒฐ ๋ฐฉ๋ฒ•)

๋‹ค์Œ์€ ๋น„์ „๋ฌธ๊ฐ€ ์‚ฌ์šฉ์ž๊ฐ€ ์ฒ˜์Œ 30๋ถ„ ๋‚ด์— ์ž์ฃผ ๊ฒช๋Š” ๋‹ค์„ฏ ๊ฐ€์ง€ ๋ฌธ์ œ์ž…๋‹ˆ๋‹ค. ์–ด๋””๋ฅผ ๋ด์•ผ ํ• ์ง€ ์•Œ๋ฉด ๊ฐ๊ฐ ํ•œ ์ค„๋กœ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • "macOS์—์„œ 'ํ™•์ธ๋˜์ง€ ์•Š์€ ๊ฐœ๋ฐœ์ž'๋ผ๊ณ  ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค." โ†’ ์‹œ์Šคํ…œ ์„ค์ • โ†’ ๊ฐœ์ธ ์ •๋ณด ๋ณดํ˜ธ ๋ฐ ๋ณด์•ˆ์„ ์—ด๊ณ  ํ•˜๋‹จ์œผ๋กœ ์Šคํฌ๋กคํ•œ ํ›„ "๊ทธ๋ž˜๋„ ์—ด๊ธฐ"๋ฅผ ํด๋ฆญํ•˜์‹ญ์‹œ์˜ค. ์ด๊ฒƒ์€ Apple์ด ๊ณต์ฆํ•˜์ง€ ์•Š์€ ์„œ๋ช…๋œ ์•ฑ์—์„œ ์ •์ƒ์ ์ธ ํ˜„์ƒ์ž…๋‹ˆ๋‹ค.
  • "Windows Defender๊ฐ€ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ์— ๊ฒฝ๊ณ ๋ฅผ ํ‘œ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค." โ†’ ๋‹ค์„ฏ ๊ฐ€์ง€ ์•ฑ ๋ชจ๋‘ ๋„๋ฆฌ ์‚ฌ์šฉ๋˜๊ณ  ์•ˆ์ „ํ•ฉ๋‹ˆ๋‹ค. "์ถ”๊ฐ€ ์ •๋ณด" โ†’ "๊ทธ๋ž˜๋„ ์‹คํ–‰"์„ ํด๋ฆญํ•˜์‹ญ์‹œ์˜ค. ๋ณด์•ˆ์„ ์œ„ํ•ด ๋‹ค์šด๋กœ๋“œ URL์ด ๊ณต์‹ ์‚ฌ์ดํŠธ(gpt4all.io, jan.ai, msty.app, anythingllm.com, lmstudio.ai)์™€ ์ •ํ™•ํžˆ ์ผ์น˜ํ•˜๋Š”์ง€ ํ™•์ธํ•˜์‹ญ์‹œ์˜ค.
  • "๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ๊ฐ€ ์˜์›ํžˆ ๊ฑธ๋ฆฝ๋‹ˆ๋‹ค." โ†’ ๋ชจ๋ธ์€ 1.5โ€“8 GB ํŒŒ์ผ์ž…๋‹ˆ๋‹ค. 50 Mbps ์—ฐ๊ฒฐ์—์„œ 5โ€“20๋ถ„์„ ๊ธฐ๋‹ค๋ฆฌ์‹ญ์‹œ์˜ค. ๋ฉˆ์ถ”๋ฉด ์ทจ์†Œํ•˜๊ณ  ๋‹ค์‹œ ์‹œ์ž‘ํ•˜์‹ญ์‹œ์˜ค โ€” ๋‹ค์„ฏ ๊ฐ€์ง€ ์•ฑ ๋ชจ๋‘ ์žฌ๊ฐœ ๊ฐ€๋Šฅํ•œ ๋‹ค์šด๋กœ๋“œ๋ฅผ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.
  • "์ปดํ“จํ„ฐ๊ฐ€ ๋งŽ์ด ๋œจ๊ฑฐ์›Œ์ง€๊ณ  ํŒฌ์ด ์‹œ๋„๋Ÿฌ์›Œ์กŒ์Šต๋‹ˆ๋‹ค." โ†’ ๋กœ์ปฌ AI๋Š” ์‘๋‹ต์„ ์ƒ์„ฑํ•˜๋Š” ๋™์•ˆ CPU ๋˜๋Š” GPU๋ฅผ 100% ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์ด๊ฒƒ์€ ์ •์ƒ์ด๋ฉฐ ์‘๋‹ต์ด ์™„๋ฃŒ๋˜๋ฉด ๋ฉˆ์ถฅ๋‹ˆ๋‹ค. ๋ถˆํŽธํ•˜๋‹ค๋ฉด ๋” ์ž‘์€ ๋ชจ๋ธ๋กœ ์ „ํ™˜ํ•˜์‹ญ์‹œ์˜ค(7B/8B ๋Œ€์‹  3B ๋˜๋Š” 4B).
  • "์–ด๋–ค ๋ชจ๋ธ์„ ์„ ํƒํ•ด์•ผ ํ• ์ง€ ๋ชจ๋ฅด๊ฒ ์Šต๋‹ˆ๋‹ค." โ†’ ์ฒซ ๋ฒˆ์งธ ์„ค์น˜์—์„œ ๊ธฐ๋ณธ์ ์œผ๋กœ 3B ๋˜๋Š” 4B Instruct ๋ชจ๋ธ์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ์˜ˆ: Llama 3.2 3B Instruct, Phi-4 Mini, Gemma 3 4B. ์ž‘๊ณ  ๋น ๋ฅด๋ฉฐ ๋Œ€๋ถ€๋ถ„์˜ ์ผ์ƒ์ ์ธ ์ž‘์—…์— ์ถฉ๋ถ„ํžˆ ์ข‹์Šต๋‹ˆ๋‹ค. ์•ฑ์„ ์‹ค์ œ๋กœ ์‚ฌ์šฉํ•˜๊ธฐ๋กœ ๊ฒฐ์ •ํ•œ ํ›„์—๋งŒ 7B ๋˜๋Š” 8B๋กœ ์—…๊ทธ๋ ˆ์ด๋“œํ•˜์‹ญ์‹œ์˜ค.

โš ๏ธWarning: ์ž„์˜์˜ ์›น์‚ฌ์ดํŠธ๋‚˜ ํ† ๋ ŒํŠธ ์‚ฌ์ดํŠธ์—์„œ ๋ชจ๋ธ์„ ๋‹ค์šด๋กœ๋“œํ•˜์ง€ ๋งˆ์‹ญ์‹œ์˜ค. ์„ค์น˜ํ•œ ์•ฑ ๋‚ด์˜ ๋ชจ๋ธ ๋ธŒ๋ผ์šฐ์ €๋ฅผ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค โ€” ์ด ๋ชฉ๋ก์˜ ๋ชจ๋“  ์•ฑ์€ ๊ณต์‹ Hugging Face ๋ฏธ๋Ÿฌ์—์„œ ๋ชจ๋ธ์„ ๊ฐ€์ ธ์˜ต๋‹ˆ๋‹ค.

์ฒ˜์Œ 10๋ถ„ โ€” ๋‹จ๊ณ„๋ณ„ ์•ˆ๋‚ด

์ด๊ฒƒ์€ ๋น„์ „๋ฌธ๊ฐ€ ์‚ฌ์šฉ์ž๊ฐ€ ์˜ค๋Š˜ Windows ๋˜๋Š” Mac์ด ์žˆ๋Š” ํ˜„๋Œ€์ ์ธ ๋…ธํŠธ๋ถ์—์„œ ๋กœ์ปฌ AI ๋Œ€ํ™”๋ฅผ ์‹œ์ž‘ํ•˜๊ธฐ๊นŒ์ง€ ๋”ฐ๋ฅผ ์ˆ˜ ์žˆ๋Š” ์ •ํ™•ํ•œ ๊ฒฝ๋กœ์ž…๋‹ˆ๋‹ค. ๊ด„ํ˜ธ ์•ˆ์˜ ์ˆซ์ž๋Š” ํ˜„์‹ค์ ์ธ ์†Œ์š” ์‹œ๊ฐ„์ž…๋‹ˆ๋‹ค.

  1. 1
    ์œ„์˜ ํ”„๋กœํ•„ ํ‘œ์—์„œ ์•ฑ์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ๊ฒฐ์ •ํ•˜๊ธฐ ์–ด๋ ต๋‹ค๋ฉด: GPT4All์„ ์„ค์น˜ํ•˜์‹ญ์‹œ์˜ค. (1๋ถ„)
  2. 2
    ๊ณต์‹ ์‚ฌ์ดํŠธ(gpt4all.io / jan.ai / msty.app / anythingllm.com / lmstudio.ai)๋ฅผ ์—ด๊ณ  ์šด์˜ ์ฒด์ œ์šฉ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ์„ ๋‹ค์šด๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค. (1๋ถ„)
  3. 3
    ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ์„ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค. ๊ธฐ๋ณธ๊ฐ’์„ ์ˆ˜๋ฝํ•˜์‹ญ์‹œ์˜ค. ์ด ๋‹ค์„ฏ ๊ฐ€์ง€ ์•ฑ์€ ๋ชจ๋‘ ์‚ฌ์šฉ์ž๋ณ„ ์„ค์น˜์— Windows ๋˜๋Š” Mac์˜ ๊ด€๋ฆฌ์ž ๊ถŒํ•œ์ด ํ•„์š”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. (2๋ถ„)
  4. 4
    ์ฒซ ์‹คํ–‰ ์‹œ ํ™”๋ฉด์˜ ์•ˆ๋‚ด์— ๋”ฐ๋ผ ์ถ”์ฒœ ์ดˆ๊ธฐ ๋ชจ๋ธ์„ ๋‹ค์šด๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค โ€” ์ œ๊ณต๋˜๋Š” ๊ฐ€์žฅ ์ž‘์€ "Instruct" ๋ชจ๋ธ(3B ๋˜๋Š” 4B ํŒŒ๋ผ๋ฏธํ„ฐ)์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. (์—ฐ๊ฒฐ ์†๋„์— ๋”ฐ๋ผ 3โ€“5๋ถ„)
  5. 5
    ์ฑ„ํŒ…์ฐฝ์— "์•ˆ๋…•ํ•˜์„ธ์š”, ๊ณ ์–‘์ด์— ๋Œ€ํ•œ ํ•˜์ด์ฟ ๋ฅผ ์จ์ฃผ์‹œ๊ฒ ์–ด์š”?"๋ฅผ ์ž…๋ ฅํ•˜๊ณ  Enter๋ฅผ ๋ˆ„๋ฅด์‹ญ์‹œ์˜ค. 5โ€“10์ดˆ ์•ˆ์— ์‘๋‹ต์ด ๋‚˜ํƒ€๋‚˜์•ผ ํ•ฉ๋‹ˆ๋‹ค. (1๋ถ„)
  6. 6
    ์‘๋‹ต์ด ์ž‘๋™ํ•˜๋ฉด ์™„๋ฃŒ์ž…๋‹ˆ๋‹ค. ์ด์ œ ๋กœ์ปฌ AI๊ฐ€ ๋…ธํŠธ๋ถ์—์„œ ์™„์ „ ์˜คํ”„๋ผ์ธ์œผ๋กœ ์‹คํ–‰๋˜๊ณ  ์žˆ์œผ๋ฉฐ ๋Œ€ํ™” ๋‚ด์šฉ์ด ๋‚ด ์ปดํ“จํ„ฐ๋ฅผ ๋ฒ—์–ด๋‚˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค.

๐Ÿ’กTip: 5๋‹จ๊ณ„ ํ›„ ๋…ธํŠธ๋ถ์˜ Wi-Fi๋ฅผ ๋„๊ณ  ๋‹ค๋ฅธ ์งˆ๋ฌธ์„ ํ•ด๋ณด์‹ญ์‹œ์˜ค. ์‘๋‹ต์ด ๊ณ„์† ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. ์ด๊ฒƒ์ด ๋Œ€๋ถ€๋ถ„์˜ ๋น„์ „๋ฌธ๊ฐ€ ์‚ฌ์šฉ์ž๊ฐ€ ๋กœ์ปฌ AI๊ฐ€ ์‹ค์ œ์ž„์„ ๊นจ๋‹ซ๋Š” ์ˆœ๊ฐ„์ž…๋‹ˆ๋‹ค.

์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ

๋กœ์ปฌ AI๋ฅผ ์‚ฌ์šฉํ•˜๋ ค๋ฉด ์ฝ”๋”ฉ์„ ์•Œ์•„์•ผ ํ•ฉ๋‹ˆ๊นŒ?

์•„๋‹™๋‹ˆ๋‹ค. ์ด ๋ชฉ๋ก์˜ ๋‹ค์„ฏ ๊ฐ€์ง€ ์•ฑ โ€” GPT4All, Jan, Msty, AnythingLLM Desktop, LM Studio โ€” ์ค‘ ์–ด๋–ค ๊ฒƒ๋„ ์ฝ”๋”ฉ, ์Šคํฌ๋ฆฝํŠธ ๋˜๋Š” ํ„ฐ๋ฏธ๋„์ด ํ•„์š”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ผ๋ฐ˜ ๋ฐ์Šคํฌํ†ฑ ์•ฑ์„ ์„ค์น˜ํ•˜๊ณ  ์„ค์ • ๋งˆ๋ฒ•์‚ฌ๋ฅผ ๋”ฐ๋ฅผ ์ˆ˜ ์žˆ๋‹ค๋ฉด ํ•„์š”ํ•œ ๋ชจ๋“  ๊ธฐ์ˆ ์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

์ง์žฅ ๋…ธํŠธ๋ถ์—์„œ ๊ด€๋ฆฌ์ž ๊ถŒํ•œ ์—†์ด ๋กœ์ปฌ AI๋ฅผ ์„ค์น˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๊ฒฝ์šฐ์— ๋”ฐ๋ผ ๋‹ค๋ฆ…๋‹ˆ๋‹ค. GPT4All๊ณผ Jan์—๋Š” Windows์—์„œ ๊ด€๋ฆฌ์ž ๊ถŒํ•œ์ด ํ•„์š” ์—†๋Š” ์‚ฌ์šฉ์ž๋ณ„ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ์ด ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. LM Studio์™€ Msty๋Š” ์ผ๋ฐ˜์ ์œผ๋กœ ํ‘œ์ค€ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ์— ๊ด€๋ฆฌ์ž ๊ถŒํ•œ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ์ง์žฅ ๋…ธํŠธ๋ถ์— ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์ „ํ˜€ ์„ค์น˜ํ•  ์ˆ˜ ์—†๋Š” ๊ฒฝ์šฐ IT ๋ถ€์„œ์— ๋จผ์ € ๋ฌธ์˜ํ•˜์‹ญ์‹œ์˜ค โ€” ๋กœ์ปฌ AI๋Š” ๊ธฐ์ˆ ์ ์ธ ๋ฌธ์ œ๊ฐ€ ์•„๋‹ˆ๋ผ ์ •์ฑ…์˜ ๋ฌธ์ œ์ž…๋‹ˆ๋‹ค.

๋‚ด ์ปดํ“จํ„ฐ๊ฐ€ ๋„ˆ๋ฌด ์˜ค๋ž˜๋˜์—ˆ๋‹ค๋ฉด ์–ด๋–ป๊ฒŒ ํ•ฉ๋‹ˆ๊นŒ?

2018๋…„ ์ดํ›„ ๋…ธํŠธ๋ถ์— RAM 8 GB์™€ ์—ฌ์œ  ๋””์Šคํฌ ๊ณต๊ฐ„ 5 GB๊ฐ€ ์žˆ๋‹ค๋ฉด ์ด ์•ฑ๋“ค ์ค‘ ์–ด๋А ๊ฒƒ์—์„œ๋„ 3B ํŒŒ๋ผ๋ฏธํ„ฐ ๋ชจ๋ธ์„ ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ์†๋„(์ดˆ๋‹น 8โ€“15 ํ† ํฐ)๋กœ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ณด๋‹ค ์˜ค๋ž˜๋˜์—ˆ๊ฑฐ๋‚˜ ์‚ฌ์–‘์ด ๋‚ฎ์€ ๊ธฐ๊ธฐ๋ผ๋ฉด ๋ชจ๋ฐ”์ผ ๋กœ์ปฌ AI ์•ฑ์„ ์‹œ๋„ํ•ด๋ณด์‹ญ์‹œ์˜ค โ€” iPhone ๋ฐ Android์šฉ ๋กœ์ปฌ LLM ์•ฑ์— ๋Œ€ํ•œ ๊ด€๋ จ ์ฝ๊ธฐ ์ž๋ฃŒ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

๋กœ์ปฌ AI๊ฐ€ ๋‚ด ์ปดํ“จํ„ฐ๋ฅผ ๋А๋ฆฌ๊ฒŒ ๋งŒ๋“ค๊ฒ ์Šต๋‹ˆ๊นŒ?

์‘๋‹ต์„ ์ƒ์„ฑํ•˜๋Š” ๋™์•ˆ์—๋งŒ ๊ทธ๋ ‡์Šต๋‹ˆ๋‹ค. ๋กœ์ปฌ AI๋Š” ์‘๋‹ต์„ ์ƒ์„ฑํ•˜๋Š” ๋ช‡ ์ดˆ ๋™์•ˆ CPU ๋˜๋Š” GPU๋ฅผ ์ง‘์ค‘์ ์œผ๋กœ ์‚ฌ์šฉํ•œ ๋‹ค์Œ ์œ ํœด ์ƒํƒœ๋กœ ๋Œ์•„์˜ต๋‹ˆ๋‹ค. ๋…ธํŠธ๋ถ ํŒฌ์ด ์ž‘๋™ํ•  ์ˆ˜ ์žˆ๊ณ , ๋ฐฐํ„ฐ๋ฆฌ๊ฐ€ ๋” ๋นจ๋ฆฌ ์†Œ๋ชจ๋˜๋ฉฐ, ์‘๋‹ต ์ค‘์— ๋‹ค๋ฅธ ์•ฑ์ด ๋А๋ ค์งˆ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์˜๊ตฌ์ ์ธ ๊ฒƒ์€ ์—†์Šต๋‹ˆ๋‹ค โ€” ์•ฑ์„ ๋‹ซ์œผ๋ฉด ๋ชจ๋“  ๋ฆฌ์†Œ์Šค๊ฐ€ ํ•ด์ œ๋ฉ๋‹ˆ๋‹ค.

๊น”๋”ํ•˜๊ฒŒ ์ œ๊ฑฐํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ. ๋‹ค์„ฏ ๊ฐ€์ง€ ์•ฑ ๋ชจ๋‘ ํ‘œ์ค€ Windows/Mac/Linux ์ œ๊ฑฐ ํ”„๋กœ๊ทธ๋žจ์„ ํ†ตํ•ด ์ œ๊ฑฐ๋ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ์€ ๋ณ„๋„์˜ ํด๋”(์ผ๋ฐ˜์ ์œผ๋กœ ๋ฌธ์„œ ๋˜๋Š” AppData)์— ์ €์žฅ๋ฉ๋‹ˆ๋‹ค โ€” ํ•ด๋‹น ํด๋”๋ฅผ ์‚ญ์ œํ•˜์—ฌ ๋””์Šคํฌ ๊ณต๊ฐ„์„ ํšŒ์ˆ˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ ˆ์ง€์ŠคํŠธ๋ฆฌ, ์‹œ์Šคํ…œ ํŒŒ์ผ ๋˜๋Š” ๋‹ค๋ฅธ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ์ˆ˜์ •ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์ธํ„ฐ๋„ท์—์„œ ์ด ์•ฑ์„ ๋‹ค์šด๋กœ๋“œํ•˜๋Š” ๊ฒƒ์ด ์•ˆ์ „ํ•ฉ๋‹ˆ๊นŒ?

๊ณต์‹ ์‚ฌ์ดํŠธ๋ฅผ ์‚ฌ์šฉํ•œ๋‹ค๋ฉด ์˜ˆ. ๋‹ค์„ฏ ๊ฐ€์ง€ ๊ณต์‹ ์‚ฌ์ดํŠธ๋Š” gpt4all.io, jan.ai, msty.app, anythingllm.com, lmstudio.ai์ž…๋‹ˆ๋‹ค. ์„œ๋“œํŒŒํ‹ฐ ๋‹ค์šด๋กœ๋”์™€ ํ† ๋ ŒํŠธ๋ฅผ ํ”ผํ•˜์‹ญ์‹œ์˜ค. ๋‹ค์„ฏ ๊ฐ€์ง€ ์„ค์น˜ ํ”„๋กœ๊ทธ๋žจ ๋ชจ๋‘ ๋ฐœํ–‰์ธ์ด ์„œ๋ช…ํ–ˆ์Šต๋‹ˆ๋‹ค; macOS์™€ Windows ๋ชจ๋‘ ์„ค์น˜ ์ค‘์— ๋ฐœํ–‰์ธ ์ด๋ฆ„์„ ํ‘œ์‹œํ•ฉ๋‹ˆ๋‹ค.

์ด ์•ฑ๋“ค์ด ์ž‘๋™ํ•˜๋ ค๋ฉด ์ธํ„ฐ๋„ท์ด ํ•„์š”ํ•ฉ๋‹ˆ๊นŒ?

์ตœ์ดˆ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ์—๋งŒ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ์ด ๋””์Šคํฌ์— ์žˆ์œผ๋ฉด ๋‹ค์„ฏ ๊ฐ€์ง€ ์•ฑ ๋ชจ๋‘ ์™„์ „ ์˜คํ”„๋ผ์ธ์œผ๋กœ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค โ€” Wi-Fi๋ฅผ ๋„๊ฑฐ๋‚˜, ๋น„ํ–‰๊ธฐ์— ํƒ‘์Šนํ•˜๊ฑฐ๋‚˜, ์ง€ํ•˜์‹ค์—์„œ ์ž‘์—…ํ•ด๋„ AI๊ฐ€ ๊ณ„์† ์‘๋‹ตํ•ฉ๋‹ˆ๋‹ค.

์ง์žฅ ๋…ธํŠธ๋ถ์—์„œ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๊ธฐ์ˆ ์ ์œผ๋กœ๋Š” ์˜ˆ. ์ •์ฑ…์ ์œผ๋กœ๋Š” IT ๋˜๋Š” ์ปดํ”Œ๋ผ์ด์–ธ์Šค ๋ถ€์„œ์— ๋จผ์ € ๋ฌธ์˜ํ•˜์‹ญ์‹œ์˜ค. ๋กœ์ปฌ AI๋Š” ํ”„๋กฌํ”„ํŠธ๋ฅผ ์–ด๋””์—๋„ ๋ณด๋‚ด์ง€ ์•Š์œผ๋ฏ€๋กœ ์ปดํ”Œ๋ผ์ด์–ธ์Šค์— ์œ ๋ฆฌํ•œ ๊ฒฝ์šฐ๊ฐ€ ๋งŽ์Šต๋‹ˆ๋‹ค โ€” ๊ทธ๋Ÿฌ๋‚˜ ๊ด€๋ฆฌ๋˜๋Š” ๊ธฐ๊ธฐ์— ์„œ๋“œํŒŒํ‹ฐ ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์„ค์น˜ํ•˜๋Š” ๊ฒƒ์€ ์ผ๋ฐ˜์ ์œผ๋กœ ์—ฌ์ „ํžˆ ์ •์ฑ…์˜ ๋ฌธ์ œ์ž…๋‹ˆ๋‹ค. "๋ฐ์ดํ„ฐ๊ฐ€ ๊ธฐ๊ธฐ๋ฅผ ๋ฒ—์–ด๋‚˜์ง€ ์•Š์Œ"์„ ์ฆ๋ช…ํ•˜๋Š” ๋ฐ ๋„์›€์ด ๋œ๋‹ค๋ฉด ์ด ๊ธฐ์‚ฌ์™€ Jan ๋ฐ GPT4All์˜ AGPL/MIT ์†Œ์Šค ์ฝ”๋“œ ๋งํฌ๋ฅผ ๋ณด์—ฌ์ฃผ์‹ญ์‹œ์˜ค.

๋น„์ „๋ฌธ๊ฐ€์—๊ฒŒ ๋กœ์ปฌ AI์™€ ChatGPT์˜ ์ฐจ์ด๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

์„ธ ๊ฐ€์ง€ ์ฐจ์ด์ : (1) ๋กœ์ปฌ AI๋Š” ๋…ธํŠธ๋ถ์—์„œ ์‹คํ–‰๋˜๋ฉฐ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์„œ๋ฒ„๋กœ ๋ณด๋‚ด์ง€ ์•Š์Šต๋‹ˆ๋‹ค, (2) ๋กœ์ปฌ AI๋Š” ์ตœ์ดˆ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ ํ›„ ์˜คํ”„๋ผ์ธ์—์„œ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค, (3) ๋กœ์ปฌ AI๋Š” ์˜๊ตฌ ๋ฌด๋ฃŒ์ž…๋‹ˆ๋‹ค โ€” ๊ตฌ๋… ์—†์Œ, ํ† ํฐ ์š”๊ธˆ ์—†์Œ. ๋‹จ์ ์€ ์†๋„์™€ ํ’ˆ์งˆ์ž…๋‹ˆ๋‹ค: ๋กœ์ปฌ 3Bโ€“8B ๋ชจ๋ธ์€ GPT-5.5๊ธ‰ ํด๋ผ์šฐ๋“œ ๋ชจ๋ธ๋ณด๋‹ค ๋Šฅ๋ ฅ์ด ํฌ๊ฒŒ ๋‚ฎ์Šต๋‹ˆ๋‹ค. ์ผ์ƒ์ ์ธ ๊ธ€์“ฐ๊ธฐ, ์š”์•ฝ, ๋ธŒ๋ ˆ์ธ์Šคํ† ๋ฐ, Q&A์—์„œ ์ฐจ์ด๋Š” ์ž‘์Šต๋‹ˆ๋‹ค. ๊ธธ๊ณ  ๋ณต์žกํ•œ ์ถ”๋ก ์—์„œ ์ฐจ์ด๋Š” ๋” ํฝ๋‹ˆ๋‹ค.

์ด ์•ฑ๋“ค์€ ์žฅ๊ธฐ์ ์œผ๋กœ ๋น„์šฉ์ด ๋“œ๋Š” ๊ฑด ์•„๋‹™๋‹ˆ๊นŒ?

์•„๋‹™๋‹ˆ๋‹ค. ๋‹ค์„ฏ ๊ฐ€์ง€ ๋ชจ๋‘ ๊ฐœ์ธ ์‚ฌ์šฉ์— ์˜๊ตฌ ๋ฌด๋ฃŒ์ž…๋‹ˆ๋‹ค. GPT4All(MIT)๊ณผ Jan(AGPL)์€ ์˜คํ”ˆ์†Œ์Šค์ž…๋‹ˆ๋‹ค. Msty๋Š” ํด๋ผ์šฐ๋“œ API ๊ธฐ๋Šฅ์— ์œ ๋ฃŒ ํ”Œ๋žœ์ด ์žˆ์ง€๋งŒ ๋กœ์ปฌ ์ „์šฉ ์‚ฌ์šฉ์€ ์˜๊ตฌ ๋ฌด๋ฃŒ์ž…๋‹ˆ๋‹ค. LM Studio๋Š” ๊ฐœ์ธ ๋ฐ ์ƒ์—…์šฉ ๋ฌด๋ฃŒ์ž…๋‹ˆ๋‹ค. AnythingLLM Desktop์€ ๋ฌด๋ฃŒ์ด๋ฉฐ ๋ณ„๋„์˜ ์ƒํ’ˆ์œผ๋กœ ์œ ๋ฃŒ ํ˜ธ์ŠคํŒ… ์ œํ’ˆ์ด ์žˆ์Šต๋‹ˆ๋‹ค.

โ† ๊ณ ๊ธ‰ ๋กœ์ปฌ LLM์œผ๋กœ ๋Œ์•„๊ฐ€๊ธฐ

ํ„ฐ๋ฏธ๋„ ์—†์ด ์ž‘๋™ํ•˜๋Š” ๋กœ์ปฌ AI ์•ฑ 5๊ฐ€์ง€ (2026) | PromptQuorum