텐센트 위챗 팀이 X 플랫폼에서 위챗 팀이 개발한 대규모 언어 모델 WeLM을 공개했으며, 이 모델은 자원 활용 효율을 핵심으로 한다.
공식 공개 포스터에 따르면 WeLM 시리즈 대규모 언어 모델에서 현재 공개된 사양은 다음 두 가지다.
WeLM-80B: 총 800억 개 파라미터, 활성화 파라미터 30억 개
WeLM-617B: 총 6170억 개 파라미터, 활성화 파라미터 230억 개
이 가운데 WeLM-80B 모델은 위챗에 기본 탑재된 AI 어시스턴트 ‘샤오웨이’에 배포되어 다음 기능을 지원한다.
대화 및 검색
위챗 기본 기능 사용
미니 프로그램 서비스 호출
IT之家가 확인한 바에 따르면 WeLM-671B 모델은 현재 개발 중이며, 혼합 전문가 모델(MoE)이다. 적절한 활성화 파라미터를 유지하면서 범용 이해 및 논리 추론 능력을 크게 향상해 위챗 생태계 내 복잡한 작업을 대상으로 한다.
스마트 미니 프로그램 개발
샤오웨이 도구 생성
