ICBM의 Dev 블로그

GLM-5 대규모 서비스의 레이스 컨디션 디버깅과 스케일링 최적화GLM-5 대규모 서비스에서 발견한 레이스 컨디션 버그 — Coding Agent 추론 인프라의 Scaling Pain 완벽 가이드GLM-5는희소성 MoE 아키텍처, 200K 컨텍스트 윈도우, 에이전트 워크플로를 하나로 결합한 차세대 foundation model이다. 논문 arxiv.org/abs/2602.15763에 따르면 vibe coding에서 agentic engineering으로 패러다임을 전환하기 위해 설계되었다. FriendliAI와 같은 Inference 파트너사 역시 GLM-5의 production-serving이 단순한 compute 문제가 아니라 memory와 scheduling의도전이라며 경고한 바 있다.그러나 실제 ..

VibeVoice - 오픈소스 프런티어 음성 AI (커버 이미지)VibeVoice - 오픈소스 프런티어 음성 AI 완벽 가이드마이크로소프트가 음성 AI의 모든 것을 하나로 묶었다. VibeVoice는 음성 인식(ASR), 실시간 음성 합성(TTS), 장문 다화자 합성(TTS)이라는 세 가지 핵심 기술을 모두 오픈소스로 공개한 종합 음성 AI 프레임워크다. GitHub 46k 스타를 기록하며 화제를 모으고 있다.VibeVoice란 무엇인가VibeVoice는 마이크로소프트 리서치가 공개한 오픈소스 프런티어 음성 AI 모델 군(family)이다. 2025년 8월 최초 공개 이후 지속적으로 업데이트되어 현재 세 가지 핵심 모델을 제공한다.핵심 혁신: 7.5 Hz 연속 음성 토크나이저(Acoustic + Sema..

GoModel - Go로 작성된 고성능 AI 게이트웨이 완벽 가이드AI 애플리케이션 개발에서 여러 LLM 프로바이더를 동시에 활용해야 하는 상황은 이제 일상이다. OpenAI로 대화형 에이전트를 만들면서, Anthropic Claude로 코드 분석을 돌리고, Google Gemini로는 비전 처리를 하는 식이다. 그런데 각 프로바이더마다 API 엔드포인트가 다르고, rate limit 처리도 다르고, 인증 방식도 다르다. 이 문제를 근본적으로 해결하는 도구가 바로 GoModel이다.GoModel이란?GoModel은 Go 언어로 작성된 오픈소스 AI 게이트웨이다. 10개 이상의 LLM 프로바이더를 하나의 OpenAI 호환 API 뒤에 통합한다. 개발자는 모델을 바꿀 때 단순히 model 파라미터만 변경하면..

HERMES.md 커밋 메시지 버그: Claude Code 과금 라우팅 함정!Claude Code Billing도입: "$200가 사라진 잔고"2026년 4월, Claude Code 사용자들에게 예상치 못한 청구서가 도착했다. 주간 플랜 사용량이 13%밖에 안 남았는데도, $200.98의 extra usage 크레딧이 사라진 것이다. 더奇怪的是, 플랜 대시보드에는 여전히 주간 용량의 86%가 남아 있다고 표시되어 있었다.원인은 의외로 단순하면서도 황당한 것이었다. git 커밋 메시지에 HERMES.md라는 문자열이 들어가는 것만으로, API 요청이 Max 플랜 쿼터 경로가 아닌 extra usage 과금 경로로 라우팅된 것이다.핵심 내용1. 버그의 원인: 과도하게 동작한 Anti-Abuse 시스템Anth..

DeepSeek-V4 논문 읽기 요약: 100만 토큰 文脈을 열린 가치가 열다2026년 4월 24일, DeepSeek는 드디어 DeepSeek-V4를 공식 공개했다. 1.6조 파라미터의 MoE 모델이 100만 토큰 컨텍스트를 기존 대비 10% 수준의 KV 캐시로 처리한다는 사실은 AI 업계에 새로운 기준점을 세웠다. 이번 글에서는 DeepSeek-V4 기술 보고서의 핵심을 읽고, 개발자 관점에서 반드시 알아야 할 아키텍처 혁신 4가지를 정리한다.DeepSeek-V4, 왜 지금 중요한가AI 업계는越来越大 파라미터 수와越来越 긴 컨텍스트 윈도우를 동시에 추구해왔다. 그러나 quadratic attention의 계산 비용 때문에, 100만 토큰급 긴 문맥 처리는 사실상 폐쇄형 최첨단 모델만의 영역이었다. De..

MiMo-V2.5 — Xiaomi의 오픈소스 옴니모델 AI 모델 완벽 가이드 Xiaomi가 최근 MiMo-V2.5와 MiMo-V2.5-Pro 두 개의 오픈소스 AI 모델을 공개했다. 텍스트, 이미지, 오디오, 비디오를 모두 이해하는 네이티브 옴니모달(Native Omnimodal) 아키텍처를 갖추며, MIT 라이선스로 상업적 사용이 가능하다. 특히 에이전틱(Agentic) 작업에서 기존 폐쇄형 프론티어 모델 대비 40~60% 적은 토큰으로同等 성능을 달성해 업계의 주목받고 있다.MiMo-V2.5란?MiMo-V2.5는 샤오미(Xiaomi)가 2026년 4월 공식 발표한 오픈소스 대형 언어 모델이다. 기존 MiMo-V2-Pro의 successor로,了两个 버전으로 제공된다:MiMo-V2.5: 총 3,100억..

웹 개발의 패러다임이 다시 한 번 바뀌고 있다. 서버 없이 브라우저 자체에서 AI 추론이 가능해졌기 때문이다. 구글 크롬에 내장된 크롬 프롬프트 API(Chrome Prompt API)가 바로 그 핵심이다.크롬 프롬프트 API란?크롬 프롬프트 API는 Chrome 브라우저에 기본 내장된 Gemini Nano 모델에 직접 자연어 요청을 보낼 수 있는 브라우저 네이티브 API다. 기존 AI 기반 웹 앱이 반드시 서버를 통해 OpenAI나 Google의 API를 호출했던 것과 달리, 이 API는 온디바이스(기기 자체)에서 모든 처리가 완료된다.브라우저 내장 AI — 서버 없이 온디바이스 추론하드웨어 요구사항모든 기기에서 동작하는 것은 아니다. 다음 조건을 만족해야 한다:운영체제: Windows 10/11, m..

ChatGPT가 광고를 제공하는 방식 — 개발자가 알아야 할 핵심 정리ChatGPT의 응답 스트림에 광고가 섞여 들어온다는 사실, 많은 개발자와 사용자가 눈치챘지만 정확히 어떻게 작동하는지 깊이 파고든 사람은 많지 않습니다. 본 글에서는 ChatGPT 광고 시스템의 기술적 구조, 광고 카드의 구성 요소, 그리고 개발자가 알아야 할 실용적인 포인트까지 정리합니다.1. 광고는 어디에, 어떻게 삽입되는가ChatGPT의 광고는传统的 배너 광고와 달리 응답 스트림 내부에 SSE(Sever-Sent Events) delta 이벤트로 전달됩니다. 모델의 텍스트 출력과 같은 채널을 통해 广告 카드의 메타데이터가 함께 流れてきます.핵심 구조는 다음과 같습니다:전송 방식: SSE 스트림의 delta 이벤트광고 형식: si..

DeepSeek-V4 논문 읽기: 백만 토큰 컨텍스트를 저렴하게2026년 4월 23일, DeepSeek은 待了很久의 새 프론티어 모델 DeepSeek-V4를 공개했다. 이번 논문은 단순히 "긴 문맥을 지원한다"는 선언가에 그치지 않는다. 백만 토큰 문맥을 실제 서비스에서 운용 가능한 비용 구조로 구현한 구조적 혁신에 초점을 맞춘다.DeepSeek-V4, 두 가지 버전DeepSeek-V4는 두 가지 구성으로 출시된다.DeepSeek-V4-Pro: 전체 1.6T 파라미터, 토큰당 49B 활성화DeepSeek-V4-Flash: 전체 284B 파라미터, 토큰당 13B 활성화둘 다 1M 토큰 컨텍스트를 지원하지만, 핵심 차이는 비용 효율성이다. 논문이 주장하는 핵심 수치:1M 토큰 환경에서 V4-Pro는 V3.2..

크롬 프롬프트 API 완벽 가이드 — Gemini Nano로 브라우저 내 AI 개발하기크롬 프롬프트 API — 브라우저 내장 AI의 새로운 시대크롬(Chrome) 브라우저에 Gemini Nano가 내장되었다. 별도의 API 키도, 서버 호출도, 데이터 전송도 없이, 브라우저 안에서 AI 모델이 작동한다. Google's Prompt API가 그 중심에 있다. 이번 글에서는 크롬 프롬프트 API의 동작 원리, 개발 방법, 실무 활용 사례를 살펴본다.크롬 프롬프트 API란?크롬 프롬프트 API(Prompt API)는 브라우저에 내장된 경량 LLM인 Gemini Nano를 JavaScript로 직접 호출할 수 있게 해주는 Web API다. 2025년 Google I/O에서 처음 발표되었으며, 현재 Chrome..