Thinking Machines Labは昨日（7月30日）にブログ記事を公開し、Inklingと同等の性能を持ちながら、規模を約4分の1に抑えたInkling-Smallモデルの提供開始を発表しました。
Inklingは「米国最強のオープンソースAIモデル」と称され、混合専門家（MoE）アーキテクチャを採用しています。総パラメータ数は975B、アクティブパラメータ数は41Bで、最大コンテキスト長は1Mトークンです。
今回発表されたInkling-Smallも混合専門家（MoE）アーキテクチャを採用し、総パラメータ数は276B、アクティブパラメータ数は12Bで、規模はInklingの約1/4です。NVIDIA GB300 NVL72システム上でトレーニングされています。
Inklingと同様に、Inkling-Smallは音声と画像のネイティブ推論、可変の思考強度、最大1Mトークンのコンテキストウィンドウに対応し、複数分野のベンチマークテストでバランスの取れた性能を維持しています。
Thinking MachinesはInkling-Smallの完全な重みを公開し、Tinkerのファインチューニングサービスにも対応させました。また、Tinker Playgroundではテキスト、画像、音声によるチャット体験を提供しています。
Thinking Machinesによると、Inkling-Smallはより少ない計算量でInklingに近い性能を実現しています。エージェントによるツール利用、推論、指示遵守のテストでは、Inkling-SmallはInklingを上回る効率を示し、同等の重み規模を持つ他のモデルとも競争できるとしています。
推論およびエージェントタスクでは、Inkling-SmallはInklingと同等以上の性能を発揮しました。Humanity’s Last Examテストでは、Inkling-Smallのスコアは31.6%で、Inklingの29.7%を上回りました。Thinking Machinesは、各思考予算において、Inkling-Smallのテスト時計算量曲線がいずれもInklingを上回ったと説明しています。
