Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
홈/고급 로컬 LLM/Strata 리뷰: 게이밍 PC에서 125B 파라미터 오픈 모델 실행
Overview & Reference

Strata 리뷰: 게이밍 PC에서 125B 파라미터 오픈 모델 실행

·9분 읽기·Hans Kuepper 저 · PromptQuorum 창립자 · 오픈 웨이트·오픈소스 AI 디스커버리 엔진
언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Strata(0.2.2 버전, 2026년 10월 21일 출시)는 README에 따르면 1,250억 파라미터 오픈 모델 하나를 일반 게이밍 PC에서 실행하고 로컬 API로 다른 프로그램에 제공하는 무료 MIT 라이선스 앱이자 Terminal 도구입니다. 이 리뷰의 속도, 품질, 개인정보 보호에 관한 모든 설명은 프로젝트 측에서 나온 것이며, PromptQuorum은 설치하거나 테스트하지 않았습니다.

Strata는 MIT 라이선스의 엔진, 데스크톱 앱, Terminal 도구로, README에 따르면 그래픽 메모리, RAM, SSD가 작업을 나누어 맡는 방식으로 1,250억 파라미터 오픈 모델인 Qwen3.8-Flash-Next를 게이밍 PC에서 실행합니다. 이 리뷰는 2026년 10월 23일에 확인한 프로젝트의 README, 안전 안내, v0.2.2 릴리스 페이지를 기준으로 합니다.

Strata 리뷰: 게이밍 PC에서 125B 파라미터 오픈 모델 실행

핵심 요점

  • 유지보수: 저장소는 2026년 9월 24일에 만들어졌고 0.2.0-beta, 0.2.1, 0.2.2 버전이 2026년 10월 19일부터 21일 사이에 나왔습니다. 활발하지만 생긴 지 한 달밖에 되지 않았으며, 방치 프로젝트 경고는 해당되지 않습니다.
  • 라이선스: Strata 자체는 MIT이며, 각 모델 파일에는 자체 라이선스가 있습니다.
  • 비용: 무료이며 계정이 필요 없고, 후원은 자발적입니다.
  • 설치 프로그램: README에 따르면 Windows 설치 프로그램은 아직 코드 서명이 되어 있지 않습니다.
  • 근거: 2026년 10월 23일에 읽은 README, 안전 안내, 릴리스 페이지이며 직접 테스트는 하지 않았습니다.

📍 한 문장으로

Strata는 1,250억 파라미터 오픈 모델 하나를 게이밍 PC에서 실행하는 MIT 라이선스의 엔진 겸 데스크톱 앱입니다.

💬 쉽게 말하면

모델을 그래픽카드, RAM, SSD에 나누어 올린 뒤 채팅 창이나 다른 도구가 호출할 수 있는 로컬 API로 답변합니다.

📌참고: PromptQuorum은 Strata를 설치, 테스트, 벤치마크하지 않았습니다. 아래의 속도, 품질, 개인정보 보호에 관한 설명은 프로젝트 측의 주장입니다.

Strata란?

Strata는 모델 하나, 곧 Qwen3.8-Flash-Next를 중심으로 만든 추론 엔진, 데스크톱 앱, Terminal 클라이언트이며, README는 이 모델을 보통은 서버가 필요한 1,250억 파라미터 모델로 설명합니다. Qwen 팀이 Hugging Face에 모델을 공개했고, GitHub 계정 Niko1221로 공개된 Strata가 이를 일반 소비자용 하드웨어에서 실행합니다.

README는 이 방식을 도서관에 비유해 설명합니다. 모델은 24,576명의 작은 전문가("experts") 팀이고 단어 하나를 만드는 데는 그중 10명만 필요합니다. 그래픽카드는 가장 자주 쓰이는 전문가를 담고, RAM은 전체를 담으며, SSD는 29 GB 조회 테이블을 담습니다. 작은 보조 모델이 다음 몇 단어를 미리 추측하고 큰 모델이 이를 한 번에 검증하는데, 프로젝트는 이렇게 하면 같은 답을 1.6배에서 1.8배 빠르게 얻는다고 밝힙니다. 엔진은 llama.cpp의 일부를 사용하며, 코드는 Niko1221/Strata에 있습니다.

입수 방법

Strata는 GitHub의 Releases 페이지에서 내려받으며, 시스템과 그래픽카드별로 설치 파일이 따로 있습니다.

시스템과 그래픽카드
다운로드
Windows, NVIDIA(드라이버 580+)windows-cuda13.exe
Windows, 이전 NVIDIA 또는 드라이버windows-cuda12.exe
Windows, AMD RX 9000 / R9700windows-hip.exe
Windows, AMD RX 7000 / Strix Halowindows-hip-rdna3.exe
Linux, NVIDIA(드라이버 580+)linux-nvidia-cuda13.AppImage
Linux, 이전 NVIDIA 또는 드라이버linux-nvidia-cuda12.AppImage
Linux, AMD RX 9000 / R9700linux-amd-rx9070.AppImage
Linux, AMD RX 7000linux-amd-rx7900.AppImage
Linux, Strix Halolinux-amd-strixhalo.AppImage
Mac, Apple Silicon(macOS 15+)mac.dmg
Terminal, Linux 및 Macinstall.sh(README의 한 줄 명령)
Terminal, Windowsinstall.ps1(README의 한 줄 명령)
소스 코드github.com/Niko1221/Strata
안전 및 개인정보 안내docs/SAFETY.md

검토한 버전: 0.2.2(엔진 0.1.47). GitHub 릴리스 페이지에 따르면 2026년 10월 21일에 공개되었으며, 확인 시점의 최신 업스트림 업데이트입니다. 별도의 제품 웹사이트는 찾지 못했습니다. 저장소의 홈페이지 항목과 관리자의 프로필 링크가 비어 있고, 웹 검색에서도 저장소와 제3자 글만 나왔습니다. README에 따르면 Windows 설치 프로그램은 코드 서명이 되어 있지 않아 Windows에서 「Windows protected your PC」 경고가 표시될 수 있으며, Linux AppImage에는 FUSE 2가 필요합니다. RX 6000 카드에는 전용 설치 파일이 없고, README는 해당 엔진을 실제 RX 6000 카드에서 아직 테스트하지 않았다고 밝힙니다.

필요한 사양

Strata에는 RAM과 그래픽 메모리(VRAM)를 합쳐 최소 32 GB, 여유 디스크 약 80 GB, 최신 그래픽 드라이버, 그리고 Windows 10/11, Linux 또는 macOS 15 이상이 필요합니다. Mac이나 Ryzen AI Max에서는 통합 메모리가 둘 모두로 계산됩니다.

컴퓨터
README 기준 지원
NVIDIAGeForce RTX 20, 30, 40, 50 시리즈, 12 GB 이상
AMDRadeon RX 6800 이상, Radeon AI PRO R9700, 12 GB 이상
IntelArc 카드, 가장 작은 모델만 Arc A750(Linux)에서 테스트됨
Apple SiliconM1 이상, macOS 15 이상, Intel Mac은 실행 불가
Ryzen AI Max (Strix Halo)통합 메모리 시스템, Windows와 Linux용 전용 설치 파일

README에 따르면 같은 제조사의 카드 두세 장이 모델 하나를 나누어 맡을 수 있으며, Strata는 모델을 NVIDIA와 AMD 카드에 걸쳐 나누지 않습니다. 이전 세대 카드와 프로세서에 대해서는 저장소에 별도의 실험적 페이지가 있습니다.

요금

Strata는 무료이며, README는 MIT 라이선스, 계정 없음, 클라우드 없음을 명시합니다.

항목
비용(USD)
앱, Terminal, 엔진$0(MIT 라이선스)
모델 파일표기된 가격 없음, 자체 라이선스 적용
프로젝트 후원선택 사항, Buy Me a Coffee

2026년 10월 23일에 README에서 확인한 내용입니다. 스폰서는 관리자의 GitHub 프로필을 통해 연락해 달라고 안내합니다. 실제 비용은 모델 다운로드이며, README 기준 약 40~70 GB입니다.

시작하는 방법

아래 단계는 README의 「Option A: the Strata app」를 따른 것이며 PromptQuorum이 직접 실행하지는 않았습니다.

  1. 1
    내 PC를 요구 사양과 비교
    Why it matters: 다운로드하기 전에 메모리, 여유 디스크, 그래픽카드를 위 표와 비교해 확인합니다.
  2. 2
    내 시스템과 카드에 맞는 설치 파일 다운로드
    Why it matters: 입수 방법 표에서 맞는 파일을 고릅니다. Terminal 사용자는 한 줄 스크립트를 실행한 뒤 `strata launch`로 Strata를 시작할 수 있습니다.
  3. 3
    설치하고 앱이 PC를 읽도록 하기
    Why it matters: 첫 화면에서 PC에 맞는 모델을 추천하며, 설치를 누르면 됩니다. 모델 다운로드는 용량이 크고, 중단되면 멈춘 지점부터 이어집니다.
  4. 4
    첫 로딩이 끝날 때까지 기다리기
    Why it matters: README에 따르면 모델이 RAM에 올라가는 동안 1~3분 정도 PC가 느려지거나 응답하지 않을 수 있으며, 처음이 가장 오래 걸립니다. 창을 닫지 마십시오.
  5. 5
    채팅하거나 다른 도구 연결
    Why it matters: 앱의 Chat 페이지를 쓰거나, `strata connect`를 실행해 OpenCode, Codex CLI, Claude Code 등의 설정을 출력합니다.

출처로 확인된 기능

아래 항목은 모두 README나 프로젝트 문서에서 확인한 내용입니다.

  • 로컬 API. 서버는 OpenAI 호환 API, 같은 포트의 Anthropic 방식 API, Codex CLI용 OpenAI Responses API를 제공하며, strata connect는 OpenCode, Codex CLI, Claude Code, oh-my-pi, pi, Hermes Agent, OpenClaw의 설정을 출력합니다.
  • 이미지. 이미지를 읽을 수 있는 모델에서는 이미지 입력이 기본으로 켜져 있으며, 그래픽카드 메모리가 24 GB 미만이면 이미지 리더는 프로세서에서 실행됩니다.
  • 채팅 앱. 앱에는 Chat, 모델·GPU·CPU·RAM을 보여 주는 Monitor, Models 페이지, Settings가 있으며, Manual 모드에서는 파일을 바꾸거나 명령을 실행하기 전에 채팅이 먼저 확인을 요청합니다.
  • 여러 카드. 그래픽카드마다 Main, Helper, Off를 지정할 수 있고, 채팅별로 사고 수준(off, low, medium, high)을 고를 수 있습니다.
  • MCP. AI 도구가 MCP 서버를 통해 Strata를 설치, 시작, 중지할 수 있습니다.
  • Terminal. strata launch는 모델, 컨텍스트, 이미지, 접근 권한을 한 번에 하나씩 묻고, 플래그를 쓰면 스크립트와 AI 에이전트가 묻지 않고 실행할 수 있습니다.

메모리별 모델 크기

Strata는 모델 하나를 여러 압축 크기로 제공하며, README는 작은 크기가 더 빠르고 큰 크기가 조금 더 똑똑하다고 밝힙니다.

메모리(RAM + VRAM)
README 권장 크기
32 GBGyro-S, 코드용은 Coder
40 GBSwift 1.5 IQ2_XS 또는 Gyro-M
48 GBIQ3_XXS: 더 느리지만 더 좋음
64 GBIQ3_S: 가장 느리지만 가장 좋음
96 GB 이상Unsloth UD-IQ4_XS부터 Q8_0까지

README는 RAM과 VRAM을 합한 값에서 시스템이 따로 확보하는 5 GB를 뺀 값을 기준으로 합니다. Gyro-S는 58.5 GB 다운로드에 그 메모리 27.6 GB가 필요하며, README에 따르면 IQ2_XS보다 품질이 낮습니다. Gyro-M은 92 GB 다운로드에 35 GB가 필요합니다. README는 IQ3_S가 공개된 테스트에서 전체 모델과 동등하다고 밝히지만, PromptQuorum은 그 테스트를 확인하지 않았습니다.

속도: 프로젝트가 제시한 수치

README는 RTX 5070에서 가장 빠른 크기가 초당 토큰 94개, IQ3_S가 53개라고 밝히며, PromptQuorum은 어떤 수치도 재현하지 않았습니다. 토큰 하나는 단어의 약 4분의 3입니다.

크기와 카드
응답(tok/s)
프롬프트(tok/s)
Q2_0, RTX 5070 (12 GB)942,650
IQ3_S, RTX 5070 (12 GB)531,620
Coder, RTX 5070 (12 GB)552,180
Q2_0, RX 9070 XT (16 GB)601,160

출처: README의 「How fast is it?」 표이며, 프로젝트가 Ryzen 5 7600과 RAM 64 GB(RTX 5070), Ryzen 9 3900X와 RAM 47 GB(RX 9070 XT)에서 측정한 값입니다. README는 또한 Strata가 채팅의 첫 메시지를 전부 읽는 데 토큰 30,000개당 약 1분이 걸리고 이후 메시지는 몇 초 만에 시작된다고 덧붙입니다.

개인정보 보호와 네트워크 사용

Strata의 안전 안내에 따르면 채팅, 프롬프트, 파일, 이미지, 모델은 내 PC에 남고, 원격 측정과 계정이 없으며, 모델을 시작하거나 실행할 때 아무것도 다운로드하지 않습니다. 안내는 또한 모델을 내려받은 뒤에는 인터넷 없이 실행되며, API 키로 다른 기기에 접근을 허용하지 않는 한 서버는 내 PC에서만 수신한다고 덧붙입니다.

같은 안내에 따르면 인터넷은 사용자가 요청할 때만 쓰입니다. Hugging Face와 GitHub Releases에서 받는 모델, 엔진, 앱 업데이트 다운로드, 에이전트의 웹 검색(DuckDuckGo, 두 번째 출처는 Bing)과 웹 페이지 접근, 사용자가 추가한 외부 모델 서비스, 켜 두었을 때의 Cloudflare 터널이 여기에 해당합니다. 웹 검색은 검색어를 내 PC 밖으로 보냅니다.

📌참고: 안내는 이 버전의 코드를 읽고 작성했다고 밝히지만, 이는 관리자의 설명입니다. PromptQuorum은 코드나 네트워크 트래픽을 감사하지 않았습니다.

이런 분께 적합합니다

  • 최신 게이밍 PC나 고용량 메모리 Mac을 가진 분. 서버를 빌리지 않고 매우 큰 오픈 모델 하나를 쓰고 싶은 경우입니다.
  • Claude Code, Codex CLI, OpenCode를 쓰는 개발자. 로컬 OpenAI 방식 또는 Anthropic 방식 엔드포인트가 필요한 경우입니다.
  • 채팅을 내 컴퓨터에 보관하고 싶은 분. 프로젝트의 안전 안내에 따른 설명입니다.

확인하지 못한 사항

  • 실사용 품질과 속도. PromptQuorum은 Strata를 실행하지 않았으므로 답변 품질, 속도 수치, 전체 모델과 동등하다는 주장은 모두 프로젝트 측의 설명입니다.
  • 개인정보 보호와 다운로드 검증. 원격 측정 없음, 오프라인 실행, 서명된 업데이트라는 설명은 코드나 네트워크 트래픽과 대조하지 않았습니다.
  • 성숙도. 저장소는 2026년 9월 24일에 만들어졌고 2026년 10월 23일 기준 열린 이슈가 697건이었습니다. Mac과 Intel Arc 경로는 0.2.2에서 새로 추가되었으며, 프로젝트가 밝힌 테스트 완료 기기도 많지 않습니다.
  • 모델 선택. 확인한 페이지는 크기가 여러 가지인 모델 하나와 이름이 언급된 몇 가지 대안만 설명할 뿐, 범용 모델 라이브러리가 아닙니다.

경쟁 제품과 대안

Ollama

플랫폼:
Windows, macOS, Linux
가격 / 라이선스:
무료 / MIT
핵심 차이:
명령 한 줄로 설치하고 모델 라이브러리가 방대하며 특정 모델에 묶여 있지 않음
Ollama 관련 문서 (10개)

표시되지 않은 293개 더보기

llama.cpp

플랫폼:
Windows, macOS, Linux
가격 / 라이선스:
무료 / MIT
핵심 차이:
Strata의 일부를 포함해 많은 도구의 기반이 되는 C++ 엔진으로, 명령줄 중심
llama.cpp 관련 문서 (9개)

표시되지 않은 158개 더보기

KoboldCpp

플랫폼:
Windows, Linux, macOS
가격 / 라이선스:
무료 / AGPL 3.0
핵심 차이:
웹 UI를 내장한 가벼운 llama.cpp 래퍼
KoboldCpp 관련 문서 (10개)

표시되지 않은 5개 더보기

Lucebox

플랫폼:
Linux
가격 / 라이선스:
무료 / Apache-2.0
핵심 차이:
특정 소비자용 GPU를 위해 직접 튜닝한 커널과 추측 디코딩
Lucebox 관련 문서 (2개)

경쟁 제품의 세부 정보는 자주 바뀝니다. 현재 가격, 라이선스, 플랫폼은 각 앱의 공식 페이지에서 확인하십시오.

디렉터리에서 비교

자주 묻는 질문

Strata는 그래픽카드 없이도 작동하나요?

README에 따르면 CUDA, HIP, SYCL 엔진은 시작하는 데 그래픽카드가 필요하므로 PC에 지원되는 카드가 있어야 합니다. Mac 엔진은 별도의 카드 없이 실행할 수 있습니다.

Strata를 Claude Code와 함께 쓸 수 있나요?

README에 따르면 가능하며, ANTHROPIC_BASE_URL을 로컬 주소로 설정해 Anthropic 방식 API로 연결합니다. 답변하는 모델은 Claude 모델이 아니라 Qwen3.8-Flash-Next입니다.

휴대폰이나 다른 PC에서 접속할 수 있나요?

README는 strata launch --access lan을 안내하며, 이 명령은 기본으로 API 키를 만듭니다. --no-api-key는 키를 생략하고 경고를 출력합니다.

Windows 설치 프로그램을 실행해도 안전한가요?

README에 따르면 아직 코드 서명이 되어 있지 않으며, Terminal 설치 프로그램은 SHA-256 해시를 확인합니다. PromptQuorum은 두 설명 모두 검증하지 않았습니다.

결론

Strata는 README에 따르면 1,250억 파라미터 오픈 모델을 게이밍 PC에서 쓸 수 있게 하고 OpenAI 방식과 Anthropic 방식 API로 제공하는 무료 MIT 라이선스 앱이자 Terminal 도구이며, 이번 확인 직전 한 주에 세 번 릴리스되었고 Windows, Linux, Apple Silicon Mac에서 더블클릭으로 설치됩니다. 반면 속도, 품질, 개인정보 보호에 관한 모든 설명은 프로젝트 측에서 나온 것이고, 저장소는 생긴 지 약 한 달이며, Windows 설치 프로그램은 코드 서명이 되어 있지 않고, 모델 라이브러리가 아니라 모델 하나를 중심으로 만들어졌습니다. 합산 메모리가 충분하고 채팅이나 코딩 에이전트에 그 모델을 쓰고 싶은 분께 적합하며, 다양한 모델과 더 긴 이력을 원한다면 Ollama나 llama.cpp와 비교해 볼 수 있습니다.

출처

← 고급 로컬 LLM으로 돌아가기

MCP