Mistral Large 4 운영 중

Mistral Large 4는 프랑스 Mistral AI가 출시한 플래그십 모델로, 「Le Chonk 뚱냥이」라는 별칭이 있습니다. Mistral Large 4는 세분화된 MoE 아키텍처를 사용하며, 총 매개변수는 1.05T이고 매번 약 49B만 활성화됩니다. 1.6B 비전 인코더를 탑재해 네이티브 멀티모달을 지원하고 컨텍스트 길이는 1M입니다. Mistral Large 4는 Mistral API에서 제공되며, 소프트웨어 엔지니어링, 재무 프로세스, 원격탐사 이미지 위치 지정 벤치마크에서 높은 성능을 보였습니다. 로컬 배포가 가능한 네트워크 방어 및 기업 주권 분야를 주요 사용 사례로 삼습니다.

네이티브 멀티모달 이해: 텍스트와 이미지를 동시에 읽고 텍스트를 출력할 수 있으며, 컨텍스트 창은 1M 토큰에 달합니다.
장기 소프트웨어 엔지니어링: DeepSWE v1.1 실제 엔지니어링 작업에서 62%를 기록했으며, 코드 작성과 다단계 개발을 수행할 수 있습니다.
기업 재무 분석: Finch 재무 프로세스 벤치마크에서 67%를 기록했으며, 복잡한 표에서 데이터 찾기, 모델링, 보고서 작성에 강합니다.
시각적 위치 지정: 원격탐사 항공 사진과 같은 복잡한 이미지에서 대상의 위치를 박스로 표시할 수 있습니다. DIOR-RSVG에서 73%를 기록했으며, 재해 피해 평가와 송전선 점검에 활용할 수 있습니다.
도면의 CAD 변환: 기술 도면을 CAD 모델로 변환할 수 있으며, 공식 발표에 따르면 반도체 관련 테스트에서 높은 성적을 거뒀습니다.
네트워크 방어: 프리뷰 버전은 제한이 적고 사이버 보안 기능이 강화된 버전을 제공해 취약점 검사 등의 방어 작업에 사용할 수 있습니다.
다국어 및 주권 배포: 160개 이상의 언어로 학습되었으며, 자체 서버 또는 EU 법률의 보호를 받는 지역 내 API에 배포할 수 있습니다.

WeChat에서 팔로우한 뒤 “开源”라고 답장하면 AI 오픈소스 프로젝트 교류 그룹에 참여할 수 있습니다.
세분화된 혼합 전문가(MoE) 아키텍처: 총 매개변수 1.05T를 다수의 「전문가」 하위 네트워크로 나누고, 토큰을 처리할 때마다 그중 일부만 활성화합니다. 또한 1.6B 비전 인코더를 사용해 이미지 입력을 처리합니다. 희소 활성화를 통해 대형 모델의 용량과 소형 모델에 가까운 추론 비용을 동시에 확보하는 방식이며, 토큰당 연산 비용은 49B 밀집 모델에 가깝습니다.
처음부터 학습 및 자체 연산 자원: 모델은 처음부터 완전히 학습되었고, 약 두 달이 걸렸습니다. 약 4,000개의 NVIDIA Grace Blackwell을 사용했으며, 모든 작업은 Mistral 자체 유럽 데이터센터에서 완료되었습니다. 이를 통해 학습 과정을 통제하고 데이터를 추적할 수 있으며, 주권 AI라는 방향성을 뒷받침합니다. 고객은 외국 정부의 공급 중단 영향을 받지 않는 모델을 사용할 수 있습니다.
지속적인 강화학습 후처리: 공개된 버전은 프리뷰 버전이므로 가중치가 공개되기 전에도 성능이 달라질 수 있습니다. 추론, 코드, 재무 프로세스 등 작업에서 장기적인 문제 해결 성능을 지속적으로 강화학습으로 끌어올리는 방향입니다.
시각적 위치 지정(Grounding): 멀티모달 기능을 바탕으로 이미지 안에서 대상의 구체적인 위치 좌표를 출력할 수 있습니다. 비전 인코더가 이미지 특징을 추출한 뒤 언어 지시와 멀티모달 정렬을 수행해 원격탐사와 도면 등의 분야에서 픽셀 수준으로 대상을 식별합니다.

계정 등록: Mistral Studio 공식 웹사이트에 접속해 등록하고 로그인합니다.
API Key 생성: 콘솔에서 인증 호출에 사용할 API 키를 생성합니다.
모델 ID 확인: 모델 mistral-large-4를 선택합니다.
연동 방식 선택: APIhttps://api.mistral.ai를 직접 호출할 수 있습니다.
요청 작성: 요청을 보낼 때 API Key, 모델명, 입력 내용을 함께 전송합니다.

희소 MoE 아키텍처: 총 매개변수 1.05T 중 매번 49B만 활성화해 초대형 모델의 용량과 소형 모델에 가까운 추론 비용을 모두 확보합니다.
공식 발표에 따르면 유럽과 미국에서 가장 강력한 오픈 웨이트 모델이며, 30억 유로 규모의 시리즈 D 투자 이후 처음 선보이는 플래그십입니다.
주권 및 보안 통제: 유럽 내 자체 데이터센터에서 학습하고 가중치를 다운로드해 직접 배포할 수 있어 외국 정부의 공급 중단 영향을 받지 않습니다.
네이티브 멀티모달 및 선도적인 시각적 위치 지정: 1M 컨텍스트와 이미지 대상 식별 및 박스 표시 기능에서 폐쇄형 최첨단 모델을 능가합니다.
프리뷰 벤치마크 성과: DeepSWE 소프트웨어 엔지니어링 62%, Finch 재무 67%로 모두 동일 분야 경쟁 모델보다 앞섰습니다.

장기 소프트웨어 엔지니어링: 요구사항 분석, 코딩, 디버깅으로 이어지는 전체 개발 작업을 자율적으로 수행합니다.
기업 재무 분석: 복잡한 표와 문서에서 데이터를 찾고 모델링하며 보고서를 생성해 대사 및 감사 업무에 적합합니다.
원격탐사 이미지 평가: 보험사는 항공 사진으로 폭풍 피해를 평가하고, 전력회사는 송전선을 점검하며, 농장은 작물 생육 상태를 모니터링할 수 있습니다.
네트워크 방어: 취약점 검사와 공격·방어 훈련에 활용할 수 있으며, 가중치를 로컬에 다운로드하면 폐쇄형 모델의 안전장치에 의해 차단되지 않습니다.
법률 및 계약 검토: 전체 법률 업무 프로세스를 지원할 수 있습니다. Harvey 통과율은 15%였고 현재 전체 모델이 합격 기준에 미치지 못해 초기 단계의 역량으로 평가됩니다.