기술·AI2026.09.17Reddit r/LocalLLaMA

Qwen3.8-27B 기반 삼진법 가중치 모델 'Ternary Bonsai 2' 공개, 6GB 미만·브라우저 구동

  • Qwen3.8-27B 기반 삼진법 가중치 모델이 6GB 미만 용량으로 공개됐다.
  • FP16 대비 9배 작으면서 98.2%의 지능을 유지한다고 소개됐다.
  • WebGPU 기반 브라우저 데모를 통해 서버 없는 구동 가능성을 보여준다.

Ternary Bonsai 2는 Qwen3.8-27B의 아키텍처를 유지하되 가중치를 삼진법(ternary)으로 바꿔 모델 용량을 6GB 미만으로 줄인 파생 모델이다. 모델카드 기준 FP16 대비 9배 작으면서도 지능 수준의 98.2%를 유지한다고 소개됐다.

삼진법 가중치는 최근 LLM 경량화 연구에서 주목받는 극단적 양자화 방식으로, 모델 크기를 크게 줄이면서 성능 손실을 최소화하는 것을 목표로 한다. 데모가 WebGPU 기반 브라우저 환경에서 제공된다는 점도 이런 경량화 흐름의 실용적 지향을 보여준다.

기업의 온디바이스·브라우저 기반 AI 도입을 검토하는 기술 담당자라면 서버 없이도 구동 가능한 경량 모델의 활용 가능성을 참고할 수 있다. 특히 민감정보를 다루는 업무에서 외부 서버 전송 없이 로컬·브라우저에서 처리할 수 있다는 점은 데이터 보안 측면에서 관심을 가질 만하다.

'98.2% 지능 유지'라는 수치의 산출 기준과 벤치마크 방법론은 발췌만으로는 확인되지 않아 모델카드 원문 확인이 필요하다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.

삼진법양자화경량화모델QwenWebGPU
원문 출처

Reddit r/LocalLLaMA

원문 읽기

이어서 읽기

기술·AIAI리포트2026.11.01

FineDNA가 DNA 특화 LLM 학습용 데이터·코드·레시피를 공개했다.

기술·AIAI리포트2026.11.01

109M 모델이 이미지-텍스트 정렬에서 최대 72B 모델을 앞섰다는 연구가 소개됐다.

기술·AIAI리포트2026.11.01

마음AI 로봇 모델이 자체 RoboMME 평가에서 성공률 67.42%를 기록했다.

기술·AI인사이트2026.11.01

Heretic 2.0이 언어모델 수정용 오픈소스 도구로 출시됐다.