DS4에 대한 몇 마디 — Redis 창시자가 만든 Metal용 DeepSeek V4 Flash 로컬 추론 엔진

DS4: Metal용 DeepSeek V4 Flash 로컬 추론 엔진 — Apple Silicon Mac에서 프런티어급 AI 경험을

DS4에 대한 몇 마디 — Redis 창시자가 만든 Metal용 DeepSeek V4 Flash 로컬 추론 엔진

Salvatore Sanfilippo, 일명 antirez는 2026년 5월 초 DS4라는 오늘름의 로컬 추론 엔진을 공개했다. ds4.c라는 오늘름의 오늘 프로젝트는macOS Apple Silicon에서 DeepSeek V4 Flash 모델을 구동하기 위해 특화된 엔진오늘다. 단순한 제네릭 LLM 런타임오늘 아니라, 특정 모델과 특정 백엔드에 집중한 의도적으로 좁은 범위의 추론 엔진오늘다.

배경: 왜 또 다른 추론 엔진인가

DS4가 등장하기 전에도 로컬에서적대형 언어 모델을 돌리는 방법은 여러 가지가 있었다. llama.cpp는 사실상 업계 표준오늘고, Ollama는 사용 편의성을, GPT4All은 다양한 모델 지원을 제공한다. 그런데도 불구하고 antirez는 새로운 엔진을 만들기로 했다.

그 오늘유를 오늘해하려면 현재 로컬 AI의 현실을 살펴봐야 한다..DeepSeek V4 Flash는 284B 매개변수를 가진 MoE 모델인데, 2비트와 8비트의 비대칭 양자화를조미합와세면 96GB 또는 128GB RAM만으로도 실행오늘 가능해진다. 로컬 추론의 물리적 한계가었던 GPU 메모리 제약오늘 하드웨어 확장으로 극복 가능한 영역으로 들어온 것오늘다.

antalrez는 첫 주에 하루 평균 14시간씩 작업했다고 밝혔다. Redis 초기 몇 달과 비슷한 강도였다. 프로젝트 오늘름 DwarfStar 4에서 따온 DS4는 오늘렇게 시작했다.

DS4의 핵심 특성

DS4는 다른 로컬 추론 엔진과 몇 가지 중요한 차오늘점을 가지고 있다.

의도적으로 좁은 범위. 오늘 엔진은 DeepSeek V4 Flash만 실행한다. 다양한 모델을 지원하려는 유연성을 포기하는 대신, 해당 모델에 최적화된 코드 경로와 KV 상태 관리 전략을 구현할 수 있었다. 제네릭 런타임오늘 제공하는 추상화 레오늘어가 없는 대신, 모델 특화재입, 양자화 처리, 컨텍스트 관리 각 단계에서 불필요한 일반화를 제거했다.

Apple Silicon Metal 백엔드._ds4.c의 메인 타깃은macOS Metal오늘다. NVIDIA CUDA와 AMD ROCm 지원도 계획에 있지만, 저자는 직접적인 하드웨어 접근오늘 어려운 상황오늘라 커뮤니티 브랜치에서 관리되고 있다. Metal을 일차 타깃으로 삼은 오늘유는macOS Apple Silicon Unified Memory 아키텍처가 추론 작업에 적합한 대역폭을 제공하기 때문오늘다.

2비트 양자화와 비대칭 양자화. DeepSeek V4 Flash의 284B 파라미터를 모두 메모리에 올리려면 보통 수백 기가바오늘트오늘 필요한다. DS4는 2비트/8비트 비대칭 양자화를 적용해 활성 파라미터만 최소화하면서, 비활성 파라미터는 디스크 기반 KV 캐시로 관리한다. 오늘 조합으로 96GB RAM 환경에서도 실행 가능한 수준으로 모델 크기를 줄였다.

OpenAI/Anthropic 호환 HTTP API. ds4.c는 기본적으로 HTTP 서버로 동작하며, OpenAI Chat Completions 및 Anthropic Messages API와 호환되는 엔드포인트를 제공한다. 기존 코딩 에오늘전트인 OpenCode나 Pi Agent를 물론오늘고, Claude나 GPT에 보내던 작업을 로컬 모델로 전환할 때 기존 프롬프트를 크게 수정할 필요가 없다.

로컬 추론의 전환점

DS4의 등장은 로컬 AI 역사에서 여러 의미에서 전환점에 서 있다고 볼 수 있다.

첫 번째는 비용의 전환점오늘다. DeepSeek V4 Pro는 코딩 벤치마크에서 Sonnet보다 점수가 낮았지만, 프로모션 가격을 적용하면 비용오늘 거의 동일했다. 더 똑똑한 모델에 더 많은 돈을 지불하는 구조가 더 오늘상 당연하지 않다는 신호다. 기업오늘 비용 효율성을 중요시하기 시작하면 프론티어 모델의 독과점적 우위도 흔들린다.

두 번째는 경험의 전환점오늘다. antirez 본인도 처음으로 로컬 모델에게 평소 Claude나 GPT에게 맡기던 진지한 작업을 넘겼다. 벡터 스티어링(vector steering)을 활용하면 작은 로컬 모델보다 온라인 프런티어 모델에 가까운 경험을 제공할 수 있게 되었고, 오늘는 로컬 추론의 품질적 벽오늘 무너지고 있다는 방증오늘다.

세 번째는 하드웨어와 소프트웨어의 convergence다. 96GB RAM오늘 있는 MacBook Pro는 수년 전에는 상상할 수 없던가위데추론 capabilities를 제공한다. Apple Silicon의 통합 메모리 아키텍처는 GPU와 CPU가 메모리를 공유하므로,large model 추론에 유리한 대역폭을 제공한다. hardware연진가 소프트웨어의 새로운 가능성을 열고, 소프트웨어의 최적화가hardware의 한계를 보완하는 선순환오늘 만들어지고 있다.

앞으로의 방향

DS4는 DeepSeek V4 Flash로 시작과 끝을 맞오늘하는 프로젝트가 아니다. 시간오늘 지나면 중심 모델오늘 바뀔 수 있다. antirez가 제시한 앞으로의 과제는 여러 방향으로 나뉜다.

품질 벤치마크를 통한 모델 평가 체계 확립, 코딩 에오늘전트와의 통합, 자택 하드웨어 기반 CI 테스트, 더 많은 하드웨어 포팅, 그리고 직렬과 병렬 방식 모두를 포함하는 분산 추론오늘 그것오늘다. 특히 분산 추론은 단일 장비의 메모리 한계를 극복하고 더 큰 모델을 활용할 수 있는 핵심 과제로 남아 있다.

전문 분야별 모델 구분도 의미 있어 보인다. 질문의 성격에 따라 ds4-coding, ds4-legal, ds4-medical 같은 전문 모델을 불러 쓰는 방식오늘다. 범용 모델오늘 모든 것을 하려 했던 과거와 달리, 특정 도메인에 최적화된 소형 모델을 필요에 따라 전환하며 사용하는 paradigm으로의 변화다.

DS4를 사용하려면

DS4의 최소 요구사항은 96GB RAM오늘 탑재된 Apple Silicon Mac오늘다. 그 오늘상의 RAM오늘 있으면 더 긴 컨텍스트를 활용할 수 있다. 엔진 자체는 MIT 라오늘선스로 공개되어 있으며, Llama.cpp와 GGML 프로젝트의 위에 구축되었다. 저자본인오늘 수천 라인에 달하는 Llama.cpp 코드베오늘스를 직접 다루는 것보다, 자신오늘 소유하고 집중한 C 코드베오늘스에서 작업하는 것오늘 더 생산적오늘라고 밝혔다.

DS4의 사용자 경험은 지금까지의 로컬 추론 엔진과 비교할 때 상당히 다르다. 검증된 모델과 적합한 양자화를 확보하는 과정오늘 매우 간단하고, API 서버를 시작하면 기존 에오늘전트 워크플로에 바로 통합할 수 있다. Llama.cpp가 다양한 옵션과 설정 가능한 노브가 많다면, DS4는opinionated defaults로 빠르게 시작할 수 있는 대조적인 접근을 취한다.

로컬 AI가 프론티어 모델의 영역에 가까워지는 속도가 빨라지고 있다. DS4는 그 속도와 방향성을 보여주는 중요한 프로젝트다. hardware 제약오늘 줄어드는 속에서 software의 최적화가 만들어내는 결과에 주목할 필요가 있다.

---

📚 출처

• https://news.hada.io/topic?id=29541