oMLX란 무엇인가?
oMLX는 Apple의 MLX 머신러닝 프레임워크를 완전한 서빙 스택으로 전환하는, Apple Silicon Mac용 로컬 추론 서버입니다 — OpenAI/Anthropic 호환 API, 다중 모델 관리자, 페이지 처리된 SSD 캐시, 그리고 이 모든 것을 제어하는 네이티브 macOS 메뉴 바 앱을 제공하며, 일상적인 사용에는 터미널이 필요하지 않습니다. 자체 GitHub 설명에서는 이를 "연속 배칭, 계층형 KV 캐싱, 네이티브 macOS 메뉴 바 관리 인터페이스를 갖춘, Apple Silicon Mac에 최적화된 LLM 추론 서버"로 소개하고 있습니다.
- 핵심 기능: 오픈 웨이트 모델을 로드하고 로컬 HTTP API를 통해 제공하는 백그라운드 추론 서버로, 메뉴 바 앱이나
omlxCLI를 통해 관리됩니다 - 추론 엔진: oMLX 자체 문서에 따르면 Apple의 MLX 프레임워크와 mlx-lm 라이브러리의
BatchGenerator위에 구축되었으며, 그 위에 독자적인 연속 배칭 및 페이지 처리 캐시 레이어가 추가되어 있습니다 - 기반: 개발자 본인의 발표에 따르면 oMLX는 원래 vllm-mlx를 출발점으로 구축되었으며, SSD 캐시 계층화, 연속 배칭, 비전-언어 모델 지원, Anthropic 호환 API, 네이티브 macOS 인터페이스에 대한 독자적인 구현이 추가되었습니다
- 개발자: jundot(저장소에 기재된 연락처는 junkim.dot@gmail.com)이라는 독립 유지관리자입니다 — 이 리뷰에서는 oMLX 뒤에 회사나 투자 라운드가 있다는 증거를 찾지 못했습니다
- 공식 저장소: github.com/jundot/omlx — 다른 GitHub 사용자명 아래에 동일한 이름의 여러 포크가 존재하지만(예: mkmsyk/omlx, dannysl/omlx), 이는 원본 프로젝트가 아닙니다
oMLX의 기원과 성장
oMLX는 2026년 3월 개발자 jundot이 Apple MLX 자체 GitHub 토론 게시판에 올린 게시물을 통해 처음으로 공개 발표되었습니다. 이 발표는 oMLX를 구체적이고 명확한 문제에 대한 해결책으로 제시했습니다. 길고 계속 성장하는 컨텍스트를 재사용하는 코딩 에이전트는 Apple Silicon에서 요청마다 해당 컨텍스트를 재로드하는 데 수십 초 단위의 지연을 겪을 수 있었는데, 이는 당시 MLX 기반 서버들이 일반적으로 키-값 캐시 상태를 RAM에만 유지했고 서버가 재시작되거나 컨텍스트가 만료될 때마다 이를 잃어버렸기 때문입니다. oMLX의 페이지 처리된 SSD 캐시는 이 상태를 디스크에 영속화하여, 이전에 처리된 프리픽스를 모델에서 다시 계산하는 대신 SSD에서 복원할 수 있도록 합니다. 개발자 본인의 발표에 따르면, oMLX는 출시 시점에 이미 약 110개의 GitHub 스타를 확보했으며, vllm-mlx를 출발점으로 구축된 뒤 SSD 계층화, 연속 배칭, 비전-언어 모델 지원, Anthropic 호환 API, 네이티브 macOS 인터페이스를 위한 새로운 코드가 추가되었습니다. 이 리뷰의 발행일 기준으로 oMLX의 GitHub 저장소는 23,000개가 넘는 스타를 보여주고 있으며, 이는 작성 시점 기준 출시된 지 8개월이 채 되지 않은 프로젝트치고는 빠른 성장입니다.
- 발표: 2026년 3월 4일, github.com/ml-explore/mlx/discussions/3203에서 프로젝트 개발자 본인인 jundot이 게시
- 출발점: vllm-mlx이며, 그 위에 개발자 본인의 SSD 계층화, 연속 배칭, VLM, Anthropic API, 네이티브 UI 코드가 추가되었습니다
- 성장: oMLX 자체 GitHub 저장소에 따르면 2026년 3월 발표 당시 약 110개의 GitHub 스타에서 이 리뷰 작성 시점 기준 23,000개가 넘는 스타로 증가했습니다
- 라이선스 이력: 저장소의 LICENSE 파일에는 "oMLX contributors"에 대한 2025년 저작권 표기가 있으며, 이는 프로젝트의 2026년 3월 공개 발표보다 앞서는 것으로, 공개 출시 이전의 비공개 개발과 일치합니다
oMLX로 무엇을 할 수 있는가?
oMLX의 기능 세트는 MLX 모델 추론을 일회성 스크립트가 아닌 지속적인 다중 모델 로컬 서버로 전환하는 데 중점을 두고 있습니다. 각 부분이 실제로 수행하는 기능은 oMLX 자체의 GitHub README와 omlx.ai 문서를 기준으로 다음과 같습니다.
- 계층형 키-값 캐시 — 활성 컨텍스트 블록은 핫 RAM 계층에 유지되며, 비활성 블록은 접두사 공유와 copy-on-write를 지원하는 safetensors 형식으로 콜드 SSD 계층으로 이동합니다. 캐시는 폐기되지 않고 서버 재시작 후에도 유지됩니다
- 연속 배칭 — 동시 요청은 mlx-lm의
BatchGenerator를 통해 처리되며, 요청을 하나씩 처리하는 대신 최대 동시성을 설정할 수 있습니다 - 다중 모델 서빙 — LLM, 비전-언어 모델(VLM), 임베딩 모델, 리랭커를 나란히 로드할 수 있으며, LRU 축출, 수동 로드/언로드, 모델 고정, 모델별로 설정 가능한 TTL을 지원합니다
- OpenAI 및 Anthropic 호환 API — OpenAI 형식 클라이언트를 위한
/v1/chat/completions,/v1/completions,/v1/embeddings,/v1/rerank와 Anthropic 형식 클라이언트를 위한/v1/messages를 모두http://localhost:8000에서 제공합니다 - 비전-언어 및 OCR 지원 — base64, URL, 파일 입력을 통한 다중 이미지 채팅, 시각적 컨텍스트를 포함한 도구 호출, 전용 OCR 모델의 자동 감지
- 도구 호출 및 MCP — Llama, Qwen, DeepSeek, Gemma, GLM, MiniMax, Mistral 등 다양한 모델 계열에 대한 채팅 템플릿 자동 감지를 포함한 JSON 스키마 도구 호출과 Model Context Protocol(MCP) 설정
- 네이티브 macOS 메뉴 바 앱 — 프로젝트 자체 문서에 따르면 명시적으로 Electron이 아닌 Swift/SwiftUI 앱으로, 터미널 없이 서버를 시작, 중지, 모니터링할 수 있으며, 로컬 사용 분석(모델별 합계, 시간대별 사용 히트맵)과 충돌 시 자동 재시작 기능을 제공합니다
- 관리 대시보드 — 서버가 실행된 후 브라우저에서 접근 가능한
/admin의 웹 UI로, 모델 관리, 내장 채팅 인터페이스, 원클릭 벤치마킹, MLX 또는 GGUF 형식으로 Hugging Face를 필터링하는 모델 다운로더, OpenClaw, OpenCode, Codex, Hermes Agent, Copilot, Pi, Mistral Vibe, DeepSeek Harness를 포함한 코딩 에이전트 통합에 대한 원클릭 설정을 제공합니다 - GGUF 및 NVFP4 모델용 외부 엔진 — 모델별 설정으로, GGUF 파일을 포함한 일부 Qwen 체크포인트를 별도 프로세스에서 실행되는 독립 Splash Metal 엔진을 통해 제공합니다. 지원 모델은 README에 명시되어 있으며 Splash 1.4.0 이상이 필요합니다
- 실험적 분산 추론 — 내려받은 언어 모델 하나를 메모리 용량이 서로 다른 여러 Mac에 나누어, Ring 또는 Thunderbolt RDMA/JACCL 위의 MLX 파이프라인 랭크로 실행합니다. 소스 빌드에서만 가능하며 oMLX README에도 실험적 기능으로 표시되어 있습니다(아래 분산 추론 섹션 참고)
oMLX 분산 추론과 클러스터링
oMLX의 분산 추론은 소스 빌드에서만 쓸 수 있는 실험적 기능으로, 모델 하나를 메모리 용량이 다른 Mac을 포함한 여러 Mac에 나누어 실행합니다. oMLX README에 따르면 Ring 또는 Thunderbolt RDMA/JACCL 네트워크 위의 MLX 파이프라인 랭크를 사용하며, 표준 macOS 앱이나 Homebrew 설치에는 포함되어 있지 않습니다.
- 상태: README에서는 "Experimental Multi-Mac Inference"로 표기합니다. 설정, 보안 경계, 현재 제한 사항, 실제 하드웨어 검증 체크리스트는 별도 문서 distributed-cluster.md에 정리되어 있습니다
- 제공 방식: 소스 빌드 전용 — 위 표의 macOS .dmg 앱과 Homebrew 설치에는 포함되지 않습니다
- 클러스터 대시보드: README에 따르면 읽기 전용 피어 탐색과 엄격한 SSH 및 런타임 검증을 제공합니다
- 프로필: README에 따르면 Interactive, Balanced, Throughput 프로필이 있으며 병합 배칭과 프롬프트 캐시 어피니티를 지원합니다
- 네트워크: Mac 사이에는 Ring 또는 Thunderbolt RDMA/JACCL
사용 예시: oMLX를 사용하는 세 가지 방법
다음은 위에서 문서화된 oMLX 기능을 기반으로 한 구체적인 워크플로이며, 가상의 사용 사례가 아닙니다.
메뉴 바 앱을 실행하고 Claude Code를 연결하기
macOS 앱을 설치하고, 메뉴 바에서 실행한 뒤 서버를 시작합니다. oMLX는 http://localhost:8000에서 Anthropic 호환 /v1/messages 엔드포인트를 제공하므로, Claude Code를 해당 주소로 지정하면 클라우드 API 대신 oMLX에 로드된 로컬 모델을 사용할 수 있습니다. README는 Claude Code에 대한 별도 대응을 문서화하고 있습니다. oMLX는 모델의 실제 컨텍스트 윈도우를 보고하여 auto-compact가 동작하도록 하고, SSE 킵얼라이브로 긴 prefill 중 읽기 타임아웃을 방지합니다. http://localhost:8000/admin의 대시보드에서는 OpenCode, Codex 같은 다른 에이전트에 대한 원클릭 설정을 제공합니다.
CLI 서버를 직접 시작하고 기존 OpenAI 클라이언트 통합을 재사용하기
터미널에서 omlx serve --model-dir ~/models를 실행합니다(백그라운드에서 실행하려면 omlx start). 서버가 http://localhost:8000에서 대기를 시작하면, 기존의 OpenAI 클라이언트 코드나 도구를 api.openai.com 대신 해당 주소로 지정하고 /v1/chat/completions를 사용하면 됩니다 — 이는 다른 로컬 OpenAI 호환 서버들이 사용하는 것과 동일한 패턴으로, 새로운 API 형태를 위해 다시 작성하는 대신 이미 보유한 코드를 재사용할 수 있게 해줍니다.
작업 세션 전체에 걸쳐 긴 코딩 에이전트 컨텍스트를 빠르게 유지하기
빠른 로컬 드라이브를 가리키는 --paged-ssd-cache-dir과 사용자 Mac의 RAM에 맞게 설정한 --hot-cache-max-size를 사용하여 omlx serve를 실행합니다. 동일한 대규모 컨텍스트를 반복적으로 재방문하는 긴 에이전트 코딩 세션을 진행하는 동안, 원래는 RAM에서 축출될 처리된 블록들이 대신 SSD 계층에서 복원됩니다. oMLX 자체 문서에 따르면 이를 통해 긴 컨텍스트의 재로드 대기 시간을 수십 초에서 단 몇 초로 줄일 수 있습니다.
oMLX 설치: macOS 앱, Homebrew, CLI
oMLX는 macOS 앱, Homebrew, 또는 소스코드를 통해 설치할 수 있습니다 — Windows나 Linux 빌드는 없는데, 이는 Apple Silicon만을 대상으로 하는 Apple의 MLX 프레임워크에 의존하기 때문입니다. 세 가지 방법 모두 동일한 기본 omlx 명령줄 도구를 설치합니다. 아래 링크는 공식 GitHub README에서 가져온 것입니다 — 설치 지침은 릴리스 사이에 변경될 수 있으므로 항상 해당 페이지에서 직접 확인하십시오.
macOS 앱(.dmg)
- 명령어/링크:
- GitHub Releases에서 다운로드하여(macOS 15 Sequoia용과 macOS 26/27용 .dmg가 각각 있습니다) Applications로 드래그합니다. 자동 업데이트를 지원하며
~/.omlx/bin/omlx에 CLI 심을 설치합니다.
Homebrew
- 명령어/링크:
brew tap jundot/omlx https://github.com/jundot/omlx, 이어서brew install jundot/omlx/omlx(네이티브 커널을 빌드하려면--with-custom-kernel추가, 전체 Xcode 필요), 이어서omlx start
소스코드에서 빌드
- 명령어/링크:
git clone https://github.com/jundot/omlx.git, 이어서cd omlx, 이어서make install
서버를 직접 실행
- 명령어/링크:
omlx serve --model-dir ~/models(포그라운드) 또는omlx start/omlx stop/omlx restart(백그라운드)
공식 README에 따른 시스템 요구 사항: macOS 15.0(Sequoia) 이상, Apple Silicon(M1~M5), Python 3.11–3.13. Intel Mac, Windows, Linux 빌드는 없습니다. README에 따르면 GLM-5.2, MiniMax M3, Qwen3.5는 네이티브 커스텀 커널이 필요하며 없으면 훨씬 느린 범용 경로로 되돌아갑니다. .dmg에는 사전 컴파일된 커널이 포함되어 있고, make install과 Homebrew의 --with-custom-kernel은 직접 빌드하므로 Metal 툴체인이 포함된 전체 Xcode가 필요합니다. 서버 설정 플래그 — --memory-guard {safe|balanced|aggressive}, --memory-guard-gb, --paged-ssd-cache-dir, --hot-cache-max-size, --max-concurrent-requests, --mcp-config, --hf-endpoint, --api-key, --host — 는 한 번 설정하면 ~/.omlx/settings.json에 영속화되며, 실행할 때마다 CLI 플래그로 재정의할 수 있습니다.
oMLX 요금제: 정말 무료인가?
예 — oMLX에는 유료 요금제가 없습니다. GitHub 저장소와 omlx.ai 모두 가격 페이지가 없으며, LICENSE 파일은 "oMLX contributors"에 대한 2025년 저작권 표기가 포함된 수정되지 않은 표준 Apache License 2.0으로, 애플리케이션 전체에 적용되며 특정 기능을 결제 뒤에 가두는 조항은 없습니다.
- 구독, 유료 요금제, oMLX 자체가 부과하는 사용량 제한이 전혀 없습니다
- 앱을 설치하거나 실행하는 데 계정이나 가입이 필요하지 않습니다
- 애플리케이션 자체, 메뉴 바 앱, CLI, 관리 대시보드는 모두 동일한 Apache License 2.0 조건에 따릅니다
- oMLX는 MLX를 통해 로컬 모델만 실행하므로 클라우드 제공업체에 대한 토큰당 또는 요청당 비용도 발생하지 않습니다 — 유일한 비용은 이미 보유한 전기와 하드웨어뿐입니다
oMLX vs. mlx-lm 및 MLX
MLX는 Apple의 머신러닝 프레임워크이고, oMLX는 그 위에 만든 서버 제품입니다. 경쟁하는 프레임워크가 아니므로 "oMLX vs MLX"는 대안 비교가 아니라 계층의 차이입니다. mlx-lm은 Apple의 MLX 생태계가 모델을 실행하고 서빙하기 위해 제공하는 Python 라이브러리 및 단순한 CLI이며, oMLX는 그 위에 직접 구축되어 연속 배칭을 위해 이 라이브러리의 BatchGenerator를 사용합니다. 두 도구는 실제로 경쟁자라기보다는 서로 다른 계층에 가깝습니다: mlx-lm은 기반이고, oMLX는 그 기반 위에 구축된 완전한 서빙 제품입니다.
측면 | oMLX | |
|---|---|---|
| 계층 | MLX와 mlx-lm 위에 만든 서버 제품 | MLX 프레임워크 위의 Python 라이브러리 |
| 정체성 | 패키지화된 추론 서버: 메뉴 바 앱 + CLI + 관리 대시보드 | MLX 모델을 실행/서빙하기 위한 Python 라이브러리와 경량 CLI |
| KV 캐싱 | 계층형 RAM+SSD 페이지 캐시, 재시작 후에도 유지 | 자체 문서화된 서버에 따르면 메모리 내 캐시만 지원, SSD 계층화 없음 |
| 다중 모델 관리 | LRU 축출, 고정, 모델별 TTL, UI를 통한 로드/언로드 | 내장 기능이 아니며 스크립트로 처리하거나 수동으로 관리 |
| API 호환성 | OpenAI 호환 및 Anthropic 호환 엔드포인트 | OpenAI 호환 서버 모드(mlx_lm.server) |
| 인터페이스 | 네이티브 macOS 메뉴 바 앱과 웹 관리 대시보드 | 명령줄만 지원, GUI 없음 |
| 코딩 에이전트 통합 | OpenClaw, OpenCode, Codex 등에 대한 원클릭 설정 | 문서화된 기능 없음. 엔드포인트를 수동으로 설정해야 함 |
스크립트나 간단한 서버 명령으로 단일 MLX 모델을 실행하는 가장 단순한 방법을 원한다면, mlx-lm 하나만으로 충분할 수 있습니다. 메뉴 바 UI를 갖춘 지속적인 다중 모델 서버, 긴 에이전트 컨텍스트를 위한 SSD 기반 캐시, 원클릭 코딩 에이전트 통합을 원한다면, oMLX는 mlx-lm을 대체하는 것이 아니라 그 위에 이 레이어를 추가하기 위해 특별히 설계되었습니다.
oMLX vs. mlx-serve
oMLX와 mlx-serve는 둘 다 OpenAI·Anthropic 호환 API를 제공하는 Apple Silicon용 무료 오픈소스 로컬 추론 서버입니다. 주요 차이는 런타임(Python/MLX 대 단일 Zig 바이너리)과 모델 형식(MLX 대 MLX와 GGUF)입니다. 서로 다른 개발자의 별개 프로젝트이며, 어느 쪽도 상대를 기반으로 하지 않습니다.
측면 | oMLX | |
|---|---|---|
| 언어/런타임 | MLX/mlx-lm 위의 Python, Swift 메뉴 바 앱 | 단일 Zig 바이너리(약 7MB), Python 불필요 |
| 모델 형식 | MLX 모델(LLM, VLM, 임베딩, 리랭커) | MLX와 GGUF용 내장 llama.cpp |
| API | OpenAI·Anthropic 호환 | OpenAI·Anthropic·Ollama 호환 |
| 동반 앱 | 메뉴 바 앱 + 웹 관리 대시보드 | MLX Core 메뉴 바 앱(채팅, 에이전트, 미디어) |
| 라이선스 | Apache License 2.0 | MIT(Apache-2.0 번들 구성요소 포함) |
| macOS 요구 사항 | macOS 15.0 이상 | macOS 26.2 이상 |
긴 코딩 에이전트 컨텍스트를 반복해서 쓰는 작업과 재시작 후에도 유지되는 계층형 SSD KV 캐시가 중요하다면 oMLX, Python 없는 작은 바이너리나 MLX에 더한 GGUF 지원이 필요하다면 mlx-serve가 맞습니다. mlx-serve 관련 내용은 mlx-serve 리뷰를 바탕으로 했습니다. 이 리뷰는 두 서버를 벤치마크로 비교하지 않았으므로, 최신 기능은 각 프로젝트의 저장소에서 확인하세요.
oMLX는 누구에게 적합한가?
oMLX가 자신에게 적합한지 여부는 거의 전적으로 한 가지에 먼저 달려 있습니다: 애초에 Apple Silicon Mac을 사용하고 있는지 여부이며, 이 요구 사항에는 우회 방법이 없습니다.
다음의 경우 oMLX를 사용하십시오
- macOS 15.0 이상을 탑재한 Apple Silicon Mac(M1~M5)을 사용하고 있는 경우 — 이는 권장 사항이 아니라 필수 요구 사항입니다
- 수동으로 재시작해야 하는 스크립트가 아니라, 메뉴 바 앱을 갖춘 지속적인 로컬 추론 서버를 원하는 경우
- Claude Code, OpenClaw, OpenCode 등 길고 반복적으로 재방문되는 컨텍스트를 사용하는 코딩 에이전트를 사용하며, 해당 워크플로의 재로드 지연을 줄이고 싶은 경우
- 두 개의 별도 도구를 운영하는 대신, 하나의 로컬 서버에서 OpenAI 호환 및 Anthropic 호환 엔드포인트를 모두 원하는 경우
- LLM, VLM, 임베딩 모델, 리랭커 등 여러 모델을 자동 메모리 관리가 가능한 단일 프로세스에서 제공하고 싶은 경우
다음의 경우 기다리거나 다른 곳을 찾아보십시오
- Windows나 Linux 머신, 또는 Intel Mac을 사용하고 있는 경우 — oMLX는 Apple Silicon 전용인 Apple의 MLX 프레임워크에 의존하기 때문에 이들 플랫폼용 빌드가 전혀 없습니다. 크로스 플랫폼 대안은 로컬 LLM 소프트웨어 디렉터리를 참고하십시오
- 회사와 SLA가 뒷받침하는 공식적으로 지원되고 자금이 확보된 제품을 원하는 경우 — 이 리뷰에서는 oMLX 뒤에 회사나 자금이 있다는 증거를 찾지 못했습니다. 자체 GitHub 저장소에 따르면 실명이 공개된 단독 개발자가 유지관리하고 있습니다
- 단일 MLX 모델을 실행하는 절대적으로 가장 단순하고 최소한의 방법을 원하는 경우 — oMLX의 서버 레이어 없이 mlx-lm 단독이 더 적합할 수 있습니다
- 프로덕션 배포를 위해 오랜 실적을 지닌 검증된 프로젝트가 필요한 경우 — oMLX는 2026년 3월에 처음 발표되었으므로, 더 확고히 자리 잡은 추론 서버들에 비해 공개된 이력이 아직 짧습니다
oMLX vs. 다른 로컬 추론 도구
oMLX는 로컬 추론 생태계 중에서도 Apple Silicon/MLX 영역에 속해 있습니다. 이 영역의 다른 도구들과의 비교는 다음과 같습니다 — 전체 카탈로그는 로컬 LLM 소프트웨어 디렉터리를, 가장 직접적인 비교는 위의 전용 oMLX vs. mlx-lm 비교를 참고하십시오.
- mlx-lm — oMLX 자체가 그 위에 구축된 기반 Python 라이브러리 및 CLI입니다. 완전한 서버 레이어 없이 단일 MLX 모델을 실행하는 가장 단순한 방법을 원한다면 올바른 선택입니다. 위의 전용 비교 섹션을 참고하십시오.
- mlx-serve — OpenAI·Anthropic·Ollama 호환 API를 제공하고 llama.cpp로 GGUF를 지원하는, Apple Silicon용 별개의 무료 오픈소스 Zig 추론 서버입니다. 위의 oMLX vs. mlx-serve 비교를 참고하세요.
- exo — 여러 Apple Silicon Mac(및 기타 기기)을 클러스터로 묶어 단일 기기로는 수용할 수 없는 더 큰 모델을 실행할 수 있게 해주는 오픈소스 도구입니다. oMLX의 실험적인 단일 클러스터 분산 모드가 사용자의 환경에 충분하지 않다면 관련이 있습니다. exo 리뷰를 참고하십시오.
- LM Studio — Apple Silicon에서 llama.cpp와 함께 MLX도 추론 엔진 중 하나로 사용하는 크로스 플랫폼(macOS, Windows, Linux) 데스크톱 앱입니다. 동일한 도구가 Mac이 아닌 하드웨어에서도 작동해야 한다면 더 적합합니다. LM Studio 리뷰를 참고하십시오.
- llamafile — MLX가 아닌 llama.cpp를 기반으로 한 단일 실행 파일 방식의 로컬 추론 방법으로, macOS, Windows, Linux에서 설치 과정 없이 동일한 파일을 실행할 수 있습니다. Apple Silicon 전용 성능보다 크로스 플랫폼 이식성이 더 중요하다면 유용한 대조군입니다. llamafile 설명 문서를 참고하십시오.
oMLX 평가 시 흔한 실수
oMLX를 둘러싼 대부분의 혼란은 이것이 크로스 플랫폼 도구처럼 작동한다고 가정하거나, 동일한 이름의 포크와 혼동하거나, Intel Mac 지원을 기대하는 데서 비롯됩니다.
실수 1: oMLX가 Windows나 Linux에서 실행된다고 가정하기
oMLX는 macOS 전용이며, 구체적으로는 Apple Silicon 전용입니다. 이는 Windows나 Linux를 전혀 대상으로 하지 않는 Apple의 MLX 프레임워크를 기반으로 구축되었기 때문입니다. 이 리뷰 작성 시점 기준으로 프로젝트 저장소에는 두 플랫폼 중 어느 쪽에 대해서도 로드맵 항목이나 베타 빌드가 문서화되어 있지 않습니다 — 크로스 플랫폼 도구가 필요하다면 대신 LM Studio나 llamafile을 참고하십시오.
실수 2: github.com/jundot/omlx를 동일한 이름의 포크와 혼동하기
다른 사용자명 아래에 "omlx"라는 동일한 이름의 GitHub 저장소가 여러 개 존재합니다(예: mkmsyk/omlx, dannysl/omlx). Apple MLX의 GitHub 토론 게시판에서의 개발자 본인의 발표로 확인된, 원본이자 활발히 개발 중인 프로젝트는 github.com/jundot/omlx입니다. 설치하거나 스타 수를 인용하기 전에 항상 이 특정 저장소를 보고 있는지 확인하십시오.
실수 3: Intel 기반 Mac이 지원된다고 가정하기
oMLX의 시스템 요구 사항은 Apple Silicon(M1~M5)만을 명시적으로 나열하고 있습니다. 이 리뷰에서는 공식 문서 어디에서도 Intel Mac 지원에 대한 언급을 찾지 못했습니다. oMLX가 구축된 프레임워크인 MLX 자체가 Intel Mac을 대상으로 하지 않으므로, 향후 oMLX 업데이트에서 이를 추가할 가능성은 낮습니다.
실수 4: oMLX가 서버가 아니라 채팅 클라이언트라고 기대하기
oMLX의 관리 대시보드에는 테스트용 내장 채팅 인터페이스가 포함되어 있지만, 주된 목적은 Claude Code, OpenCode, 또는 사용자 자신의 스크립트 같은 다른 애플리케이션이 사용할 수 있도록 API를 통해 모델을 제공하는 것입니다 — 범주상으로는 Jan이나 GPT4All 같은 완전한 기능의 독립형 채팅 앱보다는 로컬 추론 서버에 더 가깝습니다.
자주 묻는 질문
oMLX란 무엇입니까?
oMLX(github.com/jundot/omlx)는 Apple Silicon Mac용 무료 오픈소스 로컬 추론 서버입니다. Apple의 MLX 프레임워크를 통해 모델을 실행하며, 네이티브 macOS 메뉴 바 앱과 omlx 명령줄 도구 및 백그라운드 서버 형태로 제공되고, OpenAI 및 Anthropic 호환 API 엔드포인트를 갖추고 있습니다.
oMLX는 무료입니까?
예. GitHub 저장소와 omlx.ai 모두 가격 페이지가 없으며, LICENSE 파일은 유료 요금제가 전혀 없는 수정되지 않은 표준 Apache License 2.0입니다.
oMLX는 Windows나 Linux에서 실행됩니까?
아니요. oMLX는 macOS 전용이며, 구체적으로 Apple Silicon(M1~M5)과 macOS 15.0(Sequoia) 이상을 필요로 합니다. 이는 Windows, Linux, Intel Mac을 대상으로 하지 않는 Apple의 MLX 프레임워크에 의존하기 때문입니다.
oMLX는 Intel Mac에서 실행됩니까?
아니요. oMLX의 문서화된 시스템 요구 사항은 Apple Silicon만을 명시하고 있습니다. oMLX가 구축된 프레임워크인 MLX는 Intel 기반 Mac을 지원하지 않습니다.
oMLX는 mlx-lm과 어떻게 다릅니까?
mlx-lm은 Apple의 MLX 생태계가 모델 실행을 위해 제공하는 기반 Python 라이브러리 및 경량 CLI입니다. oMLX는 mlx-lm의 BatchGenerator 위에 구축되어 지속적인 서버, 메뉴 바 앱, 계층형 SSD 기반 캐시, 다중 모델 관리, OpenAI/Anthropic 호환 엔드포인트를 추가로 제공합니다. 위의 전체 비교를 참고하십시오.
oMLX의 페이지 처리된 SSD 캐시는 무엇을 위한 것입니까?
비활성 키-값 캐시 블록을 RAM에서 폐기하는 대신 safetensors 형식으로 Mac의 SSD로 오프로드합니다. 장시간 실행되는 코딩 에이전트가 대규모 컨텍스트를 다시 방문할 때, oMLX는 모델에서 다시 계산하는 대신 이전에 처리된 블록을 SSD에서 복원할 수 있으며, 자체 문서에 따르면 이를 통해 긴 컨텍스트의 재로드 대기 시간을 수십 초에서 단 몇 초로 줄일 수 있습니다.
oMLX를 Claude Code 또는 다른 코딩 에이전트와 함께 사용할 수 있습니까?
예. oMLX의 API는 OpenAI 및 Anthropic 요청 형식 모두와 호환되고, README는 Claude Code에 대한 별도 대응(모델의 실제 컨텍스트 윈도우 보고 및 SSE 킵얼라이브)을 문서화하고 있으며, 관리 대시보드에서는 OpenClaw, OpenCode, Codex 등에 대한 원클릭 통합 설정을 제공합니다.
oMLX는 오픈소스입니까? 어떤 라이선스를 사용합니까?
예. oMLX의 LICENSE 파일은 "oMLX contributors"에 대한 2025년 저작권 표기가 포함된 수정되지 않은 표준 Apache License 2.0입니다.
Homebrew로 oMLX를 어떻게 설치하나요?
brew tap jundot/omlx https://github.com/jundot/omlx를 실행하고, 이어서 brew install jundot/omlx/omlx, 마지막으로 omlx start를 실행합니다. oMLX README에는 macOS .dmg 앱과 소스 설치 방법도 나와 있습니다. 설치 단계는 릴리스마다 바뀔 수 있으니 명령어는 그곳에서 확인하세요.
oMLX는 여러 Mac에 걸친 분산 추론을 지원하나요?
실험적으로 지원합니다. oMLX README는 내려받은 모델 하나를 Ring 또는 Thunderbolt RDMA/JACCL 위의 MLX 파이프라인 랭크로 메모리 용량이 다른 Mac에 나눌 수 있는 소스 빌드를 설명합니다. 표준 앱이나 Homebrew 설치에는 없으며, 프로젝트는 제한 사항을 별도 문서에 정리해 두었습니다.
oMLX의 최신 버전은 무엇인가요?
v0.7.2이며 2026년 10월 21일에 공개되었습니다. 같은 Releases 페이지에서 안정 릴리스에 앞서 개발 빌드와 릴리스 후보가 공개됩니다. 버전을 인용하기 전에 github.com/jundot/omlx/releases에서 더 새로운 버전이 있는지 확인하세요.
oMLX와 MLX는 어떻게 다른가요?
MLX는 Apple Silicon용 Apple의 오픈소스 머신러닝 프레임워크입니다. oMLX는 MLX와 mlx-lm 라이브러리 위에 만든 로컬 추론 서버로, 메뉴 바 앱, 다중 모델 관리, 페이지 단위 SSD 캐시, OpenAI/Anthropic 호환 API를 더합니다.
oMLX와 mlx-serve 중 무엇을 써야 하나요?
둘 다 Apple Silicon용 무료 오픈소스 추론 서버입니다. oMLX는 Python 기반이며 긴 코딩 에이전트 컨텍스트를 위한 계층형 SSD KV 캐시를 갖추고 있습니다. mlx-serve는 단일 Zig 바이너리로, llama.cpp를 통해 GGUF 모델도 실행합니다. 위의 비교 표를 참고하세요.
oMLX는 누가 개발합니까?
oMLX는 독립 유지관리자인 jundot이 개발합니다(저장소에 기재된 연락처는 junkim.dot@gmail.com). 이 리뷰에서는 해당 프로젝트 뒤에 회사나 투자 라운드가 있다는 증거를 찾지 못했습니다.
github.com/jundot/omlx가 진짜 oMLX 저장소입니까?
예. 다른 GitHub 사용자명 아래에 "omlx"라는 동일한 이름의 저장소가 여러 개 존재하지만, github.com/jundot/omlx가 원본 프로젝트이며, 이는 Apple MLX의 GitHub 토론 게시판에서의 개발자 본인의 발표로 확인되었습니다.