Qwen3.8-27B 기반 삼진법 가중치 모델 'Ternary Bonsai 2' 공개, 6GB 미만·브라우저 구동
원문 보기 · Reddit r/LocalLLaMAQwen3.8-27B 기반의 삼진법(ternary) 가중치 모델 'Ternary Bonsai 2'가 공개됐다. FP16 대비 9배 작은 6GB 미만 용량으로 브라우저에서도 구동 가능하다는 점이 특징이다.
Ternary Bonsai 2는 Qwen3.8-27B의 아키텍처를 유지하되 가중치를 삼진법(ternary)으로 바꿔 모델 용량을 6GB 미만으로 줄인 파생 모델이다. 모델카드 기준 FP16 대비 9배 작으면서도 지능 수준의 98.2%를 유지한다고 소개됐다.
삼진법 가중치는 최근 LLM 경량화 연구에서 주목받는 극단적 양자화 방식으로, 모델 크기를 크게 줄이면서 성능 손실을 최소화하는 것을 목표로 한다. 데모가 WebGPU 기반 브라우저 환경에서 제공된다는 점도 이런 경량화 흐름의 실용적 지향을 보여준다.
기업의 온디바이스·브라우저 기반 AI 도입을 검토하는 기술 담당자라면 서버 없이도 구동 가능한 경량 모델의 활용 가능성을 참고할 수 있다. 특히 민감정보를 다루는 업무에서 외부 서버 전송 없이 로컬·브라우저에서 처리할 수 있다는 점은 데이터 보안 측면에서 관심을 가질 만하다.
'98.2% 지능 유지'라는 수치의 산출 기준과 벤치마크 방법론은 발췌만으로는 확인되지 않아 모델카드 원문 확인이 필요하다.
본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 원문 전체를 옮긴 것이 아니므로 수치·날짜·조문 등 세부 사실은 위 원문 링크에서 확인하세요. 개별 사안에 대한 법률·세무·노무·회계·의료 자문을 대체하지 않습니다.
기술·AI 실무를 강의로 이어서 학습하세요
읽은 주제를 실무 절차로 옮기는 과정은 전문가 강의에서 다룹니다. 분야별 커리큘럼과 수강 현황을 강의 페이지에서 확인할 수 있습니다.

