説明
インクリングは、シンキングマシーンズラボ株式会社が開発した汎用マルチモーダルAIモデルです。合計9750億のパラメータを持ち、アクティブなパラメータは410億で、テキスト、画像、音声入力を受け付け、テキスト出力を生成するように設計されています。このモデルは英語および他の言語での使用を意図しており、さまざまなアプリケーションに対応できる柔軟性を持っています。開発者はインクリングを利用して、エージェントシステムやツール使用システム、コーディングアシスタント、チャットボット、情報検索を強化した生成システムなどのAI駆動アプリケーションを構築できます。その設計は、汎用的な会話の使用、指示に従うこと、その他の自然言語およびマルチモーダルタスクをサポートしています。インクリングはオープンウェイトでリリースされており、下流の開発者による研究、ファインチューニング、サードパーティ製品への統合が可能です。
インクリングのアーキテクチャは、スパースなMixture-of-Experts（MoE）フィードフォワードバックボーンを持つ66層のデコーダ専用トランスフォーマーに基づいています。各トークンは256の専門家のうち6つにルーティングされ、すべてのトークンで2つの共有専門家がアクティブになります。このモデルはネイティブにマルチモーダルであり、階層的パッチエンコーダーを介して画像をエンコードし、離散トークンエンコーディングを通じて音声をエンコードします。すべてのモダリティは共有された隠れ空間に投影され、デコーダによって共同で処理されます。インクリングは最大100万トークンのコンテキストウィンドウをサポートしており、大規模な入力データを処理する能力があります。
インクリングは、ファインチューニングサービスであるティンカーを介してAPIアクセスを通じて利用可能であり、サードパーティの推論プロバイダーを通じても利用できます。モデルのウェイトはHugging Faceからダウンロードできます。最適なパフォーマンスを得るためには、十分なVRAMを持つGPUクラスターなど、特定のハードウェア構成が必要です。このモデルは、マルチモーダルインタラクションに関連するリスクを軽減するために広範な安全評価を受けており、既存のオープンウェイトモデルを超える実質的なリフトを示さないことを保証しています。ただし、高リスクのコンテキストでインクリングを展開する際には、追加の安全策と人間の監視を実施することが推奨されます。
インクリングモデルカードのハイライト
モデルタイプ: マルチモーダル自己回帰トランスフォーマー
API利用可能: はい
ライセンス: Apache 2.0
パラメータ: 合計975B、アクティブ41B
ファインチューニングサポート: はい
マルチモーダル: はい
数値サポート: BF16, MXFP8, NVFP4
コンテキストウィンドウ: 1Mトークン
インクリングモデルカードをはじめる
モデルにアクセス: APIアクセスのためにティンカーサービスを訪問してください。
認証: アカウントを設定し、APIキーを取得します。
環境を設定: ハードウェアがモデルの要件を満たしていることを確認します。
API経由で統合: 提供されたドキュメントを使用してインクリングをアプリケーションに統合します。
最適化: 特定のユースケースに応じてモデルをファインチューニングします。
インクリングモデルカードの使用例
- チャットボット
- コーディングアシスタント
- マルチモーダルアプリケーション
- 指示に従う
- 情報検索を強化した生成
