Ant Group의 Ling(灵) 팀은 어제 차세대 네이티브 혼합 추론 모델 Ling-3.0-flash를 공식 오픈소스로 공개했다. 이 모델은 극대화된 지능 밀도, 전 과정 Agent 폐쇄 루프와 저비용 대규모 적용을 주요 특징으로 한다.
화웨이는 오늘 Ascend가 Ling-3.0-flash 모델의 0 Day 호환을 동시에 완료했다고 발표했다. 호환 과정에서 CANN PyPTO 연산자 프로그래밍 프레임워크를 처음 도입해 복잡한 융합 연산자의 제공 주기를 단축하고, 연산자 연동과 추론 프레임워크 성능 최적화를 효율적으로 완료했으며, 전체 배포 프로젝트도 함께 공개했다.
이번 호환은 Ascend A2 및 A3 시리즈 제품을 전면 지원하며, 공식 표준 배포 방안도 제공한다. 개발자는 공식 이미지를 통해 추론 서비스를 빠르게 실행할 수 있다(하드웨어 요구 사항: Ascend A2 시리즈 제품 8카드, Ascend A3 시리즈 제품 4카드).
CANN PyPTO 프로그래밍 프레임워크는 PTO ISA(가상 명령어 집합)를 기반으로 Tile 프로그래밍 방식을 구축한다. 개발자는 Tensor 수준 API를 통해 계산 로직을 정밀하게 정의하고, 프레임워크가 분할 스케줄링, 데이터 이동, 코드 생성의 전 과정을 자동으로 처리한다.
또한 CANNBot PyPTO Agent는 멀티 에이전트 프레임워크를 구축해 전체 연산자 개발 과정을 7개 단계(Stage)로 나누고 자동으로 진행한다. 각 단계는 역할이 명확한 하위 에이전트들이 협력해 수행한다. 모든 스케줄링은 통합 오케스트레이터 pypto-op-orchestrator가 담당하며, 하위 에이전트들은 메모리 메커니즘과 기계 판독 가능한 상태를 통해 정보를 교환해 컨텍스트가 원활하게 전달되도록 한다.
전체 과정은 자연어 형태의 연산자 요구 사항을 입력하는 단계에서 시작해 자동 생성, 검증 및 최적화를 거친 뒤, 정확도 기준을 충족하고 성능 최적화가 완료된 실제 칩 탑재 가능 연산자를 산출하는 단계로 이어진다. 전 과정에서 각 단계 간 인계에 사람의 개입이 필요 없다. 이 워크플로는 연산자 프로그래밍 경험을 전면적으로 향상했을 뿐 아니라 연산자 제공 주기도 크게 단축했다. 각 단계의 로직은 다음과 같다.
