LiquidAI가 온디바이스 에이전트용 24B 추론 모델을 공개했다.
- LiquidAI는 총 240억 파라미터, 활성 20억 파라미터의 온디바이스 지향 추론 모델을 공개했다.
- 로컬 실행 가능성은 데이터 보호 측면의 장점이 될 수 있지만 실제 전송·로그 경로 확인이 필요하다.
- 벤치마크 우위 주장은 독립 재현과 업무 데이터 기반 평가로 검증할 필요가 있다.
발췌에 따르면 LiquidAI는 LFM2.5-24B-A2B를 240억 파라미터 규모의 추론 모델로 소개했다. 이 모델은 활성 파라미터가 20억개인 구조이며, 온디바이스에서 빠르고 프라이버시를 고려한 에이전트를 위해 설계됐다는 것이 회사 측 설명이다. GGUF 파일과 데모 링크가 함께 제시됐고, 해당 모델은 LFM2.5 계열의 가장 큰 최종 모델이라고 소개됐다.
총 파라미터와 활성 파라미터가 구분되는 설명은 모든 파라미터를 매 입력마다 동일하게 연산하지 않는 구조를 염두에 둔 것으로 볼 수 있다. 이러한 구조는 추론 비용과 지연시간을 낮추는 방향으로 활용될 수 있으나, 실제 실행 가능성은 모델 파일 크기, 양자화 방식, 메모리 용량, 하드웨어 및 컨텍스트 길이에 따라 달라진다. 발췌만으로는 라이선스 조건, 지원 언어, 보안 통제, 최소 운영 사양은 확인되지 않는다.
기업의 AI·정보보안 담당자에게는 ‘온디바이스’라는 표현만으로 데이터 반출 위험이 자동으로 해소되는 것은 아니라는 점이 중요하다. 실제 업무 적용 전에는 입력 데이터가 외부 서비스로 전송되는지, 로컬 실행 범위가 어디까지인지, 로그·캐시·도구 호출 과정에서 어떤 정보가 남는지를 점검할 필요가 있다. 법률·세무·의료 등 민감정보를 다루는 업무에서는 모델의 환각, 근거 제시 방식, 권한 관리, 사람의 검토 절차도 별도로 검증할 필요가 있다.
게시물은 에이전트·도구 사용 과제에서 경쟁 모델보다 우수하다는 성능 주장과 LiveClaw 점수를 제시한다. 그러나 벤치마크 조건, 프롬프트, 모델 설정, 재현 방법 및 독립 평가 여부는 발췌만으로 확인되지 않는다. 실무 도입 판단은 실제 문서·업무흐름을 사용한 폐쇄형 평가와 비용·보안·운영성 검토를 병행하는 방식이 적절하다.
본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.
Reddit r/LocalLLaMA