중국 China Telecom, 29B 파라미터 MoE 모델 'Xing4.0-29B-A4B' 공개

• China Telecom이 29B 파라미터 MoE 모델 Xing4.0-29B-A4B를 공개했다.
• 토큰당 4B 활성화, 256K 컨텍스트(최대 512K)를 지원한다.
• Ascend NPU·MindSpore로 전량 학습된 첫 이 규모 모델이라는 점이 주목된다.

China Telecom Artificial Intelligence Technology가 자사 Xing 시리즈(구 TeleChat)의 신모델 Xing4.0-29B-A4B를 허깅페이스에 공개했다. 전체 29B 파라미터 중 토큰당 4B만 활성화되는 MoE 구조이며, 256K 컨텍스트를 기본 지원하고 512K까지 확장 가능하다.

MoE 구조는 전체 파라미터 수를 늘리면서도 연산량은 활성화된 일부 파라미터만큼만 소요돼 효율성을 높이는 방식으로, 최근 대형 모델들의 공통된 설계 흐름이다. 이 모델은 특히 중국의 자체 AI 반도체인 Ascend NPU와 자체 프레임워크 MindSpore로 이 규모를 전량 학습한 첫 사례로 소개돼, 미국 GPU·소프트웨어 생태계에 대한 의존을 줄이려는 흐름을 보여준다.

AI 인프라 및 공급망을 다루는 실무자에게는 특정 국가·기업의 자체 하드웨어·소프트웨어 스택 완결성이 높아지고 있다는 점에서 지정학적 리스크와 기술 표준 다변화를 참고할 필요가 있다. 또한 긴 컨텍스트 지원 모델이 늘어나는 만큼 문서 분석·계약서 검토 등 장문 처리 업무에 활용 가능성도 살펴볼 만하다.

모델의 실제 성능 벤치마크, 라이선스 조건, 상업적 이용 가능 여부 등은 발췌에 포함되지 않아 GitHub 저장소나 모델카드 원문 확인이 필요하다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.