로컬 기기용 1비트 Bonsai Image 4B 이미지 생성 — iPhone에서 9.4초에 이미지 생성하기

Bonsai Image 4B — 로컬 기기에서 고품질 이미지 생성

로컬 기기용 1비트 Bonsai Image 4B 이미지 생성 — iPhone에서 9.4초에 이미지 생성하기

Bonsai Image 4B는 노트북부터 휴대폰까지 로컬 하드웨어에서 고품질 이미지 생성을 실행하도록 설계된 소형 모델군이다. FLUX.2 Klein 4B 아키텍처를 유지한 채 확산 트랜스포머 가중치를 1비트 또는 3진법 형태로 변환해 메모리 부담을 크게 줄였다.

핵심 성능 수치

1비트 버전의 확산 트랜스포머 크기는 0.93GB, 3진법 버전은 1.21GB로 원본 7.75GB 대비 8분의 1 수준이다. 실제 생성 속도는 iPhone 17 Pro Max에서 512×512 이미지를 9.4초에 완료하며, Mac M4 Pro에서는 약 6초가 걸린다. Mac M4 Pro 기준 기본 전체 정밀도 MFLUX 파이프라인 대비 최대 5.6배 빠르다.

메모리 절감 구조

4B급 이미지 모델에서 확산 트랜스포머는 가장 큰 부분을 차지하며 생성 중 각 디노이징 단계마다 반복 실행된다. 크기 축소가 핵심인데, 이진 레이어는 전체 정밀도 대비 약 14배 줄어든다. 다만 정밀도에 민감한 약 5%의 projection layer는 FP16으로 유지해 품질 저하를 최소화했다.

Apple Silicon 배포 페이로드 기준 1비트 판본 3.42GB, 3진법 판본 3.88GB이다. 런타임 시 평균 활성 메모리는 512×512 생성 시 1비트가 1.5GB, 3진법이 1.96GB로 원본 11.74GB 대비 7.8배 절감했다. 1024×1024 해상도에서도 1비트 1.95GB, 3진법 2.38GB로 원본 14.39GB 대비 7.4배 줄어든다.

벤치마크 성능

Ternary Bonsai Image 4B는 GenEval 0.723, HPSv3 12.22, DPG-Bench 0.851을 기록했다. FLUX.2 Klein 4B 대비 95% 성능을 유지하면서 확산 트랜스포머 크기를 6.4배 줄였다. 1비트 판본은 GenEval 0.671, HPSv3 11.15, DPG-Bench 0.822로 88% 성능을 유지하면서 1GB 아래로 낮췄다.

기존 소형 모델과 비교하면 SDXL이 67% 수준, Stable Diffusion 1.5가 51%, PixArt-Σ XL 2가 83% 수준이다. Bonsai Image 4B는 더 작은 메모리 풋프린트를 가진 모델보다 성능이 높으며, 기존에 더 작고 낮은 성능의 모델이 차지하던 메모리 범위로 현대적인 확산 트랜스포머 동작을 가져왔다.

로컬 추론의 제품적 의의

클라우드 API는 많은 제품에서 계속 적합하지만, 모든 프롬프트를 원격 요청으로 보내며 반복마다 서빙 비용과 지연이 추가된다. 이미지 생성은 본질적으로 반복적이라 사용자가 프롬프트를 수정하고 결과를 비교하고 변형을 만들고 다시 시도하는 창작 루프를 거친다. 각 시도가 서버측 작업이면 사용자가 매번 비용을 계산하고 기다려야 한다.

로컬 추론은 모델이 기기에 들어간 뒤 생성 기능을 제품 경험 안에 직접 배치할 수 있게 한다. 실행 비용이 낮아지고 반복 속도가 빨라지며, 프롬프트와 생성 자산이 비공개로 유지되어야 하는 환경에서도 쉽게 쓸 수 있다.

공개 방식과 관련 자료

1비트와 3진법 버전 모두 Apache 2.0 라이선스로 오픈 가중치와 코드가 공개될 예정이다. Hugging Face에서 모델을 받을 수 있으며, WebGPU 데모와 iOS 앱 Bonsai Studio도 함께 출시되어 iPhone에서 직접 시험해볼 수 있다.

정리

Bonsai Image 4B는 로컬 기기에서 고품질 이미지 생성을 실현하는 접근법이다. 메모리 풋프린트를 크게 줄이면서도 성능 저하는 최소화했다. 개인 개발자나 소규모 팀이 클라우드 비용 걱정 없이 바로 사용할 수 있는 도구로 자리잡을 것으로 보인다. 무료로 사용할 수 있는 오픈 가중치 모델이니만큼, 로컬 AI 이미지 생성에 관심 있는 개발자라면 지금 직접시해볼 시기다.

---

📚 출처

• https://news.hada.io/topic?id=30073