Mellum2.1 운영 중

Mellum2.1은 JetBrains가 출시한 오픈 소스 AI 코딩 모델로, 12B 혼합 전문가 아키텍처를 채택했습니다. Mellum2.1은 강화 학습을 마무리 단계에서 학습의 중심으로 전환하고 수백만 회의 샌드박스 실행을 결합해 코드베이스를 탐색하고 파일을 편집하며 변경 사항을 자체 점검할 수 있어 에이전트 코딩 역량을 크게 향상했습니다. Mellum2.1의 고부하 처리량은 Qwen3.5-9B의 약 2배에 가깝고, 프라이빗 배포를 지원하며 Hugging Face에 등록되어 있습니다.

에이전트 코딩: 코드베이스를 탐색하고 파일을 편집하며 변경 사항을 자체 점검할 수 있고, 실패한 테스트의 근본 원인을 파악해 수정안을 작성하고 검증할 수 있습니다.
코드 자동 완성 및 생성: Mellum2의 방향성을 이어받아 코딩 워크플로에 빠른 코드 생성 및 질의응답 기능을 제공합니다.
도구 호출: 외부 도구를 호출해 작업을 완료할 수 있어 AI 에이전트 시스템 구축에 적합합니다.
범용 추론: 일상적인 질의응답을 처리하고 수학 및 논리 문제를 단계적으로 추론하고 해결할 수 있습니다.
프라이빗 배포: 로컬 또는 자체 인프라에서 실행할 수 있어 코드와 데이터를 기업 내부에 완전히 보관할 수 있습니다.

WeChat에서 팔로우한 후 “오픈 소스”라고 답장하면 AI 오픈 소스 프로젝트交流群에 참여할 수 있습니다.
혼합 전문가(MoE) 아키텍처: Mellum2.1은 12B 파라미터의 혼합 전문가 아키텍처를 사용하며, 추론 시 2.5B 파라미터만 활성화합니다. 모델은 여러 ”전문가” 하위 네트워크로 구성되며, 입력은 라우팅 메커니즘을 통해 일부 전문가에게만 분배됩니다. 이를 통해 모델 용량을 유지하면서 연산량을 크게 줄여 낮은 비용과 높은 처리량의 추론을 구현합니다.
대규모 강화 학습(RL): 이번 버전의 핵심 업그레이드는 학습 과정입니다. RL은 사전 학습 후의 짧은 마무리 단계에서 학습의 중심으로 확대되었습니다. 팀은 수학, 경시 프로그래밍, 과학, 도구 사용 및 소프트웨어 엔지니어링 등의 작업을 추가했습니다. 자체 인프라는 학습 중 수백만 개의 샌드박스를 실행하고 수천 개의 실제 환경을 대상으로 하여, 모델이 실제 코딩 상황과 상호작용하며 시행착오와 보상 신호를 통해 에이전트에 필요한 탐색, 편집 및 검증 능력을 습득하도록 했습니다.
엄격한 데이터 선별: 학습에 사용되는 공개 데이터 세트는 모두 등록 전에 필터링됩니다. 테스트에 결함이 있거나 답을 검증할 수 없거나 난이도가 부적절한 작업을 제거해 RL 학습 신호의 신뢰성을 확보하고 모델이 잘못된 피드백에서 학습하는 것을 방지합니다.
다중 토큰 예측(MTP): MTP를 사용하면 모델이 한 번의 순방향 전파에서 여러 개의 후속 Token을 예측할 수 있습니다. 단일 요청 환경에서 속도가 약 1.6배 향상되며, MoE의 낮은 활성 파라미터 설계와 결합해 Mellum2.1의 고부하 처리량은 Qwen3.5-9B의 약 2배에 가깝습니다.

모델 페이지 방문: Hugging Face의 JetBrains 공식 조직 페이지를 열고 Mellum2.1 모델 저장소를 찾습니다.
모델 가중치 다운로드: 모델 카드 페이지에서 다운로드를 클릭하거나 라이선스 조건에 따라 모델 파일을 가져옵니다(제한이 있는 경우 먼저 사용 약관에 동의해야 합니다).
배포 프레임워크 선택: Transformers 또는 vLLM을 사용해 배포합니다. Transformers는 간단한 검증에 적합하고, vLLM은 프로덕션급 고동시성 서비스에 적합합니다.
추론 환경 구성: GPU 환경을 준비합니다(공식 벤치마크는 단일 H200을 기준으로 함). 모델을 로드하고 131K 컨텍스트 파라미터를 설정합니다.
가속 옵션 활성화: 공식 지침에 따라 다중 토큰 예측(MTP)을 구성해 단일 요청 속도를 약 1.6배 향상합니다.
추론 호출 실행: API를 통해 코드 생성, 저장소 단위 편집 또는 에이전트 작업 프롬프트를 전송하고 모델 출력을 받습니다.

뛰어난 에이전트 코딩 능력: 실제 환경에서 대규모 RL 학습을 거쳐 코드베이스를 자율적으로 탐색하고 파일을 편집하며 변경 사항을 검증할 수 있습니다. 테스트 실패의 근본 원인을 파악하고 수정안을 작성할 수도 있습니다.
업계 최고 수준의 추론 속도: 고부하 환경에서 처리량이 Qwen3.5-9B의 약 2배에 가까워 동급 모델 중 가장 빠릅니다.
빠른 단일 요청 응답: 다중 토큰 예측(MTP) 기술로 단일 요청 속도가 약 1.6배 향상됩니다.
효율적인 아키텍처: 12B MoE 설계에서 2.5B 파라미터만 활성화해 낮은 연산 비용으로 높은 성능을 구현합니다.
높은 학습 데이터 품질: 모든 학습 데이터가 엄격하게 선별되며 결함이 있는 작업을 제거해 학습 신호의 신뢰성을 확보합니다.
강력한 종합 능력: 프로그래밍, 경시 프로그래밍, 수학, 도구 호출 및 일반 지식 등 다양한 영역에서 전반적으로 향상된 성능을 제공합니다.
프라이빗 배포에 적합: 로컬 또는 자체 인프라에서 실행할 수 있어 코드와 데이터를 완전히 자체 통제할 수 있으며, 기업의 민감한 환경에 적합합니다.

프로젝트 공식 웹사이트：https://blog.jetbrains.com/ai/2026/10/mellum2-1-gets-to-work-a-fast-open-model-for-coding-agents/
Hugging Face 모델 저장소：https://huggingface.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking

에이전트 코딩: 코드베이스를 자율적으로 탐색하고 파일을 편집하며 변경 사항을 검증해 테스트 실패 원인 파악부터 수정까지 전 과정을 수행합니다.
기업용 프라이빗 어시스턴트: 기업 서버에 로컬 배포해 코드와 데이터가 사내 네트워크 밖으로 유출되지 않도록 보호합니다.
IDE 심층 통합: JetBrains 제품군 IDE 또는 타사 도구에 통합해 코드 자동 완성 및 지능형 질의응답을 제공합니다.
하위 에이전트 조정: 낮은 지연 시간과 높은 처리량을 활용해 멀티 에이전트 시스템에서 하위 작업을 수행하거나 요청을 라우팅합니다.
수학 및 논리 추론: 수학 문제 풀이, 알고리즘 경시 및 일상적인 질의응답을 처리하며 범용 어시스턴트 기능도 제공합니다.