NVIDIA가 로컬 도구 사용 강화 Nemotron 3.5 Bolt E4B를 공개했다.

• Nemotron 3.5 Bolt E4B는 Gemma 기반의 추가 학습 소형 언어모델이다.
• NVIDIA는 로컬 환경의 빠른 응답과 다회차 도구 사용 성능을 강조했다.
• 민감 업무 적용 시에는 도구 권한, 데이터 흐름, 로그 및 오류 통제를 별도로 점검할 필요가 있다.

발췌에 따르면 Nemotron 3.5 Bolt E4B는 NVIDIA가 Gemma-4-E4B-it를 기반으로 추가 후학습한 소형 언어모델이다. NVIDIA는 이 모델이 대화 능력을 이어받으면서 다회차 도구 사용, 지시 이행, 입력 내용에 근거한 응답을 개선했다고 설명했다. 빠른 로컬 음성·기기 보조, 임베디드·엣지 인터페이스 등이 주요 사용 사례로 제시됐다.

도구 사용 모델은 단순히 답변을 생성하는 데 그치지 않고, 필요시 검색·업무 시스템·기기 기능 등 외부 도구를 호출하는 에이전트 구조에서 활용될 수 있다. 로컬 또는 엣지 실행은 데이터가 외부 서버로 전송되는 범위를 줄일 가능성이 있지만, 실제 개인정보 보호 수준은 배포 구조, 로그 처리, 연동 도구의 권한 설정에 따라 달라진다.

법률·세무·노무·의료 등 민감한 업무에서 로컬 모델 도입을 검토한다면, ‘로컬 실행’이라는 표현만으로 기밀성이나 정확성을 판단하기는 어렵다. 모델이 어떤 입력을 외부 도구로 전달하는지, 도구 호출 권한이 어디까지인지, 대화·호출 이력을 어떻게 보관하는지, 잘못된 호출을 누가 통제하는지를 점검할 필요가 있다. 특히 음성 입력 환경에서는 녹음 데이터와 전사 텍스트의 처리 기준도 별도로 살펴볼 사안이다.

발췌는 모델의 라이선스, 지원 언어, 실제 하드웨어 요구사항, 벤치마크 결과 및 상용 이용 조건을 제공하지 않는다. 동반 DFlash drafter를 이용한 speculative decoding 언급도 있어, 실제 배포 전에는 모델 카드와 공식 문서 원문을 통해 구성 요건과 성능 측정 조건을 확인할 필요가 있다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.