AI エージェント
LangSmithは、AIエージェントとLLMのオブザーバビリティプラットフォームであり、エージェントの動作を完全に可視化します。エージェントのデバッグ、障害の特定、コストとレイテンシの追跡に役立ちます。お好みのフレームワークをトレースするか、Python、Typescript、Go、またはJava…
ベスト MLOps・モデルデプロイ AIツール
113 件のツールMLOps・モデルデプロイの最適なツールを見つけましょう—AIエージェントの可観測性ツールやAIプラットフォームから、AIフレームワーク、AI GitHubリポジトリ、スケーラブルな推論ソリューションまで、データサイエンティストやエンジニアがワークフローを効率化するためのツールをここで見つけます：AIエージェントの監視、機械学習モデルのデプロイ、モデルライフサイクルの管理、APIを用いたAIの実行。 AI アプリ, AI プラットフォーム, AI フレームワーク, AI エージェント と AI GitHub リポジトリ などにわたる 113 件のベスト MLOps・モデルデプロイ AIツールをご覧ください。
113 tools
AI エージェント
Langfuseは、開発者がAIアプリケーションを構築、監視、改善するのに役立つように設計された、オープンソースのLLMエンジニアリングプラットフォームです。トレーシング、プロンプト管理、評価、分析を統合されたワークフローで提供します。Langfuseは、さまざまなモデル、フレームワーク、および統合をサポートしており、チームがプロトタイプから本番環境へと効率…
AI フレームワーク
MLflow は、従来の機械学習ワークフローと最新の LLM/エージェント開発の両方に対応する包括的なドキュメントを提供します。実験追跡、モデルレジストリ、デプロイメント、LLM トレーシング、エージェント評価、プロンプト管理、AI ガバナンスを網羅し、AI ライフサイクル全体を管理するためのツールを提供します。
AI エージェント
Braintrustは、高品質なAI製品の構築向けに設計されたAIオブザーバビリティプラットフォームです。チームが本番環境をトレースし、評価を実行し、ユーザーに影響が及ぶ前に回帰を検出するのに役立ちます。このプラットフォームは、リアルタイムのトレース検査、品質測定、自動スコアリングを提供し、AIのパフォーマンスを向上させます。
AI フレームワーク
Kubeflow ドキュメントは、Kubeflow プラットフォームの理解と活用に関する包括的なリソースを提供します。開始ガイド、サブプロジェクトの詳細、コミュニティ情報、およびより広範な Kubeflow エコシステムを網羅しています。このドキュメントは、Kubernetes 上で機械学習ワークフローを実装および管理したいすべての人にとって不可欠です。
AI プラットフォーム
Bentoは、速度と制御のために設計された推論プラットフォームであり、あらゆるAIモデルをあらゆる場所にデプロイできます。テーラードされた最適化、効率的なスケーリング、およびAIチーム向けの合理化された運用を提供します。デプロイメントに対する完全な制御を維持しながら、推論インフラストラクチャを簡素化します。
AI エージェント
LM Studioを使用すると、ローカルAIモデルをコンピューター上で直接実行できます。gpt-oss、Llama、Gemma、Qwen、DeepSeekなどのモデルをサポートしています。インターネット接続を必要とせずに、AIモデルをプライベートにデプロイして使用できます。GUIと、サーバーおよびCI用のヘッドレスデプロイオプションを提供しています。
AI プラットフォーム
Replicateは、オープンソースの機械学習モデルを実行およびファインチューニングするためのクラウドAPIを提供します。カスタムモデルを1行のコードでデプロイできます。画像生成、音声、音楽、ビデオ作成のための、本番環境対応の数千ものAIモデルにアクセスできます。使用したコンピューティングリソースのみに支払い、自動スケーリングに対応しています。
AI プラットフォーム
DataRobotは、企業向けに設計された統合エージェントワークフォースプラットフォームを提供し、ビジネスがAIアプリケーションを効果的に構築、運用、管理できるようにし、リスクを最小限に抑え、影響を最大化します。
AI プラットフォーム
Red Hat OpenShift AIは、MLOps、GenAIOps、およびAgentOps機能を統合した柔軟なハイブリッドクラウドプラットフォームであり、組織がさまざまな環境でエージェントAIアプリケーションの展開を加速できるようにします。
AI プラットフォーム
Clarifaiは、スケーラビリティとスピードのために設計された、コンピュートオーケストレーションのための主要なAIプラットフォームです。GPU上での推論と推論を高速化するためにコンピュートリソースを動的に管理することで、複雑なAIタスクを合理化します。このプラットフォームは、モデル最適化、ソフトウェア設計、およびハイパースケールAIクラウド環境での効率的な…
AI プラットフォーム
Basetenの推論プラットフォームは、ユーザーがオープンソースおよびカスタムAIモデルを効率的にデプロイおよびスケールできるようにします。専用のインフラストラクチャ、高性能なAPI、シームレスな開発者ワークフローを提供し、迅速なデプロイと信頼性の高いパフォーマンスを確保します。
AI フレームワーク
CometのMLプラットフォームは、データサイエンスおよび機械学習チームが、MLライフサイクル全体を通じてモデルを追跡、比較、説明、最適化できるようにします。実験管理、モデル監視、LLMアプリケーション評価を合理化し、より迅速なイテレーションと優れたモデル開発を可能にします。
AI GitHub リポジトリ
vllm-project/vllmは、大規模言語モデル（LLM）向けに設計された高スループットかつメモリ効率の良い推論および提供エンジンです。リソース使用を最小限に抑えつつパフォーマンスを最適化し、AIや機械学習のさまざまなアプリケーションに適しています。
AI アプリ
エージェントの稼働状況を観察し、監視するためのオープンソースのAIエージェントプラットフォームで、プロダクション環境でのエージェントのトレース、障害の検出、そして自動的に修正するためのコーディングエージェントの派遣を行います。
AI プラットフォーム
DeepInfraは、開発者に優しいAPIを通じて100以上の機械学習モデルを提供するAI推論クラウドで、従量課金制の価格設定を採用しています。コスト効率が高く、スケーラブルで、商用利用に適した推論を必要とする開発者や企業を対象としています。
AI プラットフォーム
開発者が200以上の最適化されたLLMおよびマルチモーダルモデルをデプロイ、ファインチューニング、実行できるAIインフラストラクチャプラットフォームで、OpenAI互換のAPIを通じて従量課金制で提供されます。
AI フレームワーク
SGLangは、大規模な言語モデルとマルチモーダルモデル向けに設計された高性能なサービングフレームワークです。高度なAIソリューションを効率的に実装しようとする開発者のために、広範なハードウェアサポートと堅牢なエコシステムを提供します。
AI プラットフォーム
Kubeflowは、Kubernetes上での機械学習ワークフローの展開を簡素化し、簡単かつ自動化されたプロセスを提供します。オープンソースでコミュニティによって構築されており、AIプラットフォームチームにとってモジュール式でスケーラブルなソリューションを提供します。
AI プラットフォーム
Cloudflare Workers AIは、ユーザーが単一のAPIコールでグローバルにAI推論を実行できるエッジAI推論プラットフォームです。50以上のモデルとサーバーレス料金を特徴としており、インフラを管理することなくAIワークロードを簡単にスケールできます。
AI プラットフォーム
Cometは、開発者向けに設計されたエンドツーエンドのAI可観測性プラットフォームOpikの創造者です。高度なエージェントテスト、最適化、監視機能を提供し、開発プロセスを強化し、AIモデルのパフォーマンスを向上させます。
AI プラットフォーム
TrueFoundryは、LLMおよびAIエージェントの展開、セキュリティ、スケーリングを可能にするエンタープライズグレードのAIプラットフォームです。AIアプリケーション全体にわたる中央集権的なガバナンスと可視性を提供し、企業のコンプライアンスとコスト管理を確保します。
AI プラットフォーム
ZenMLは、機械学習とAIのための統一レイヤーであり、再現可能なMLパイプラインとエージェント評価を可能にします。既存のインフラストラクチャとシームレスに統合され、チームがベンダーロックインなしで効率的にワークフローを構築および管理できるようにします。
AI GitHub リポジトリ
SGLangは、大規模言語モデルおよびマルチモーダルモデル向けに設計された高性能サービングフレームワークです。AIアプリケーションのパフォーマンスを向上させる効率的なサービング機能を提供し、AI分野の開発者や研究者に適しています。
AI プラットフォーム
Cerebriumは、リアルタイムAI向けのサーバーレスGPUインフラストラクチャを提供し、音声エージェント、ビデオモデル、LLMのコールドスタートをサブ秒で実現します。インスタントな自動スケーリング、従量課金制（秒単位）、Kubernetes不要な環境を提供し、複雑なインフラ管理なしで本番レベルのAIを容易に利用可能にします。
AI プラットフォーム
Union.aiは、クラウドインフラストラクチャ内で動作するAIランタイムであり、データのプライバシーを保証します。耐久性のあるAIワークフローやリアルタイムアプリケーションをオーケストレーションし、コンピューティングリソースを最適化することで、金融サービス、ジオスペース、ロジスティクス、バイオテクノロジー業界に significant ROI…
AI プラットフォーム
Valohaiは、LLMおよび専門モデルを統合したAI製品向けに設計されたMLOpsプラットフォームです。ユーザーは、自分のクラウドインフラストラクチャを使用して構成を比較、評価、展開でき、データから展開までの完全な系譜を維持します。
AI エージェント
Teammatelyは、AIエンジニアが信頼性の高いAIサービスを構築するために設計されたAIエージェントです。プロンプトの生成、AIモデルの洗練、パフォーマンスの評価を通じて、AI開発を自動化し、加速します。このプラットフォームは、エージェント型RAGの構築、AI生成ドキュメント、多次元LLMジャッジなどの機能を提供します。
AI エージェント
Phala Cloud は、プライベート LLM 推論、sealed agents、検証可能なコンピューティングのための機密 AI プラットフォームを提供します。Intel TDX および NVIDIA H100/H200 を含む、TEE で保護された GPU 上で実行されます。ユーザーは、既存の Docker Compose…
AI エージェント
CRABは、マルチモーダル言語モデルエージェントを評価するための包括的なベンチマークフレームワークです。クロス環境サポート、グラフ評価器、自動タスク生成を提供し、多様なシナリオとモデルにわたるエージェントの能力を堅牢に評価できます。
AI アプリ
UsageGuardは、エンタープライズ対応のAI開発オブザーバビリティプラットフォームです。複数のAIモデルへのアクセスを統一されたAPIで提供し、組み込みのセーフガード、モデレーション、コスト管理、セキュアで効率的なAIアプリケーション開発のための詳細なエンドユーザーおよび使用状況トラッキングを提供します。
AI アプリ
Visnetは、AIモデルの開発とデプロイのための、包括的なヘッドレス、マルチ互換、ユニバーサルニューラルネットワークインターフェースを提供します。モジュラーフロントエンド、サーバーレスアーキテクチャ、堅牢なセキュリティ機能を備え、様々な産業用途におけるNLPおよびディープビジョンシステムの効率的な統合を可能にします。
AI アプリ
APIParkは、オープンソースのエンタープライズグレードAPI開発者ポータルおよびLLMゲートウェイです。複数のLLMに対する統一APIシグネチャ、ロードバランシング、トラフィック制御、プロンプト管理を提供します。APIParkは、企業がAIを業務に統合する際のLLM呼び出しのセキュリティ、安定性、コスト最適化を強化します。
AI アプリ
EnergeticAIは、サーバーレスNode.jsアプリケーション向けにTensorFlow.jsを最適化し、高速なコールドスタート時間とモジュールサイズの縮小を実現します。テキスト分類や埋め込みなどのタスクに対応する事前学習済みモデルを提供し、開発者がオープンソースAIをビジネスに適したライセンスで効率的にプロジェクトに統合できるようにします。
AI アプリ
Meteron AIは、LLMおよび生成AIのメータリング、ロードバランシング、ストレージを処理し、AIビジネスの成長を支援するオールインワンツールセットを提供します。開発者は複雑なプロセスから解放され、AI製品の構築に集中できます。柔軟な課金オプションと弾力的なスケーリングにより、AIモデルを収益化できます。
AI アプリ
Coxwave Alignは、生成AI製品向けの分析エンジンであり、組織がLLMベースの会話データを監視、分析、評価できるようにします。これにより、改善点の特定、ハルシネーションの削減、チャットボット品質の向上を支援し、生のインタラクションデータを製品ROI向上のための実行可能なインサイトに変換します。
AI アプリ
Hamming AIは、エンタープライズ向けの音声およびチャットエージェントのQAおよび本番環境監視のための包括的なプラットフォームを提供します。シナリオ生成の自動化、本番通話のリプレイ、50以上のメトリクスを提供します。SOC 2認定およびHIPAA対応で、チームは10分以内にテストを開始できます。
AI アプリ
EvalsOneは、生成AIアプリケーションの評価を容易にするためのプラットフォームでした。ユーザーがAIモデルのパフォーマンスを評価し、理解するためのツールと機能を提供していました。このサービスは現在終了しており、後継製品が利用可能です。
ClearMLのGenAI App Engineは、ワンクリックでのLLMデプロイ、コンピューティングコストの最適化、AIパフォーマンス監視をセキュアでスケーラブルな環境で実現し、GenAIの導入を加速します。開発者とビジネスオーナーのGenAIプロジェクト立ち上げを効率化します。
AI アプリ
EmbedAPIは、OpenAI、Anthropic、Geminiなどの様々なAIモデルをアプリケーションに統合するための統合プラットフォームを提供します。AIインフラストラクチャ管理を簡素化し、開発者がチャットボット、コンテンツ生成、コード支援などのAI搭載機能を、予測可能な価格設定とエンタープライズグレードの信頼性で迅速に構築できるようにします。
Orq.aiは、チームがAIアプリケーションを効率的かつ安全に構築、リリース、スケーリングするのを支援するために設計された、生成AIコラボレーションプラットフォームです。開発、テスト、デプロイ、監視のための統合環境を提供し、AIライフサイクル全体での品質と継続的な改善を保証します。
AI アプリ
Awan LLMは、開発者やパワーユーザー向けの無制限かつ費用対効果の高いLLM推論APIプラットフォームを提供します。無制限のトークンにより、検閲やトークン数制限の懸念なく、大規模なデータ処理、コード補完、AIエージェント開発が可能です。無料で始め、費用対効果の高い無制限のLLM利用を体験してください。
AI アプリ
Mancerは、誰でも無制限の大規模言語モデル（LLM）にアクセスできるサービスです。フィルターやガイドラインなしで、強力なLLMに対してあらゆるプロンプトを実行できるプラットフォームを提供します。ユーザーは無料で利用できる高性能LLMにサインアップするか、モデルのパフォーマンス、速度、強度を強化するために有料プランを選択できます。
AI アプリ
TextSynthは、テキストおよび画像生成、音声処理などの高度なAIモデルへのAPIアクセスを提供します。標準ハードウェア上での高速かつ低コストな運用を実現するためにカスタム推論を利用しています。2020年に設立され、GPT-2への早期アクセス提供者の一つであり、サーバーはフランスに設置されています。レート制限付きの無料プランも利用可能です。
AI アプリ
Langtraceは、開発者がAIプロトタイプをエンタープライズグレードの製品に変換するのを支援するために設計された、オープンソースのオブザーバビリティおよび評価プラットフォームです。AIエージェントのパフォーマンス、セキュリティ、コストに関する洞察を提供し、シームレスな統合とイテレーションのために一般的なフレームワークとLLMプロバイダーをサポートします。
AI アプリ
OpenLITは、GenAIおよびLLMアプリケーションのオブザーバビリティを提供するオープンソースのAIエンジニアリングプラットフォームです。OpenTelemetryを基盤とし、トレーシング、評価、プロンプト管理機能を提供します。Apache…
AI アプリ
Klu.aiは、チームが大規模言語モデル（LLM）アプリケーションを設計、デプロイ、最適化できるように支援します。共同でのプロンプト設計、評価ワークフロー、オブザーバビリティツールを提供し、信頼性の高いAI体験を保証します。Kluは、チーム間の連携、パフォーマンスの追跡、本番LLMアプリのコスト管理を支援します。
Featherlessは、オープンソースLLM向けのサーバーレスホスティングを提供し、単一のAPIキーで30,000以上のモデルに即座にアクセスできます。インフラストラクチャの煩わしさなしに高度なAI機能を統合したい開発者や企業のために、デプロイメントを簡素化し、信頼性と予測可能なコストを保証します。
AI エージェント
Covalは、AI音声およびチャットエージェント向けのシミュレーションおよび評価プラットフォームを提供します。チームがAIエージェントを大規模にテスト、監視、最適化するのを支援し、デプロイ前後で数百万ものエッジケースを検出します。このプラットフォームは、継続的な品質を確保することで、音声AIのデプロイ準備を整えることを目指しています。
AI アプリ
Cekuraは、会話型AIエージェント向けの自動エンドツーエンドテストとオブザーバビリティを提供します。多様なペルソナで本番前のシナリオをシミュレートし、ライブ会話を監視して、指示追従、ツール使用、および全体的な会話品質を確保し、より迅速で信頼性の高いエージェント展開を可能にします。
AI アプリ
VERN OSは、感情的な信号を検出し、リアルタイムで行動ポリシーを適用することにより、会話型AIを強化するAIガバナンスシステムです。AIの応答がより安全で効果的であり、ビジネス目標に沿っていることを保証し、ドリフトを防ぎ、ユーザーの成果を向上させます。このシステムは、信頼性とパフォーマンス監視のための分析機能を提供します。
AI アプリ
Cyaraは、エンタープライズがAIエージェントを大規模に自信を持って展開できるように、CX保証およびテストのためのAgentic AIを提供します。幻覚を検出し、決定を検証し、コンプライアンスを確保することで、AIファーストの世界における顧客体験を変革し、AI駆動型インタラクションに不可欠な信頼レイヤーを提供します。
AI アプリ
ManagePromptは、開発中にすべてのAPIコールをキャプチャするオープンソースのローカルLLMコールデバッガーです。ローカルWeb UIで、リクエスト/レスポンスの詳細、トークン使用量、コスト見積もり、レイテンシを提供し、さまざまなLLMプロバイダーと連携する開発者のデバッグプロセスを効率化します。
AI アプリ
Deployoは、AIモデルを本番対応アプリケーションに変換する、直感的でクラウド非依存、かつセキュアなインフラストラクチャを提供します。機械学習ワークフローを合理化し、ユーザーは数分でトレーニングからスケーラブルなAPIへと移行でき、デプロイメントの複雑さと時間を削減します。
AI アプリ
Backmeshは、LLM APIキーを保護し、漏洩を防ぎ、コストを管理するオープンソースのバックエンドです。JWT認証、ユーザーごとのレート制限、APIリソースアクセス制御を提供し、承認されたユーザーのみが機密性の高いLLM機能にアクセスできるようにします。また、LLMユーザー分析も提供します。
AI アプリ
Elixir Observabilityは、マルチモーダルで音声ファーストな会話型AIエージェント向けのAI Ops & QAプラットフォームです。本番環境で音声エージェントが信頼性高く期待通りに動作することを保証するため、自動テスト、通話レビュー、監視、分析、トレース機能を提供します。
AI アプリ
mpathic AIは、会話データおよびコンテキストデータを分析する人間中心のAI安全プラットフォームを提供します。専門家主導のレッドチーミングと科学的に根拠のある人間のデータベンチマーキングを使用して、AI開発者が人間向けモデルを評価、ストレステスト、改善するのを支援し、より安全で魅力的なAIを保証します。
AI アプリ
Remyx AIは、AIチームが次に何をリリースすべきかを判断するための意思決定インテリジェンスを提供します。評価、実験、および本番環境での結果を分析し、最もインパクトのある変更を推奨し、パフォーマンスを向上させないものを検出します。このプラットフォームは、既存のスタックと統合され、AI開発ライフサイクルを合理化します。
AI アプリ
Eden AIは、LLMや音声、画像、OCRなどの専門AIを含む500以上の主要AIモデルにアクセスできる統合APIを提供します。コスト、パフォーマンス、地域に基づいたスマートルーティングと、堅牢性を高めるための組み込みフォールバック機能を備えています。
ModelsLabは、開発者が1000以上のジェネレーティブAIモデルにアクセスできる統合APIを提供します。画像、ビデオ、オーディオを生成し、LLMを活用して、高速でスケーラブル、かつコスト効率の高いAI搭載アプリケーションを構築できます。単一のシンプルなインターフェースを通じて、多様で最先端のAIツールで開発を進めましょう。
AI プラットフォーム
Wallaroo.aiは、機械学習モデルのデプロイ、管理、監視のためのツールを提供するAIプラットフォームです。MLOpsライフサイクルを簡素化し、チームがより迅速かつ自信を持ってAIを本番環境に導入できるようにすることを目指しています。このプラットフォームは、さまざまなモデルタイプをサポートし、既存のワークフローと統合されます。
AI プラットフォーム
Seldon Coreは、Kubernetes上でAIシステムをデプロイ、管理、スケーリングするためのMLOpsおよびLLMOpsフレームワークです。クラウド全体での様々なモデルタイプの標準化されたデプロイを可能にし、パイプライン、自動スケーリング、マルチモデルサービングなどの機能により、モジュール式でデータ中心のアプリケーションを促進します。
AI プラットフォーム
Cortexは、本番環境での機械学習モデルのデプロイ、管理、スケーリングのためのスケーラブルなクラウドインフラストラクチャを提供します。サーバーレスおよびバッチ処理、自動クラスター管理、CI/CD統合を備え、信頼性が高くコスト効率の高いMLオペレーションのためにAWS EKS上に構築されています。
AI プラットフォーム
KServeは、セルフホスト型AI推論のためのオープンソース、Kubernetesネイティブプラットフォームです。生成AIと予測AIの両方に対応する統合ソリューションを提供し、GPUアクセラレーションやオートスケーリングなどの機能により、迅速なセットアップから要求の厳しいエンタープライズワークロードまで、デプロイメントを簡素化します。
AI プラットフォーム
SUPERWISE AMPは、規制産業向けのAgentic Management Platformであり、完全な可視性、リアルタイムのガードレール、ポリシー施行を提供します。PII検出や監査証跡などの機能により、企業が安全かつコンプライアクトにAIエージェントを構築、管理、ガバナンスすることを可能にし、信頼できるAI結果を保証します。
AI プラットフォーム
DKubeは、企業がセキュアで本番稼働可能なプライベートAIシステムをデプロイできるよう支援します。オンプレミスおよびハイブリッド環境全体でAIソリューションを構築でき、完全な制御、コンプライアンス、および所有権を保証します。DKubeの包括的なプラットフォームにより、AIのデプロイメントを数週間から数ヶ月に短縮します。
AI プラットフォーム
DVCは、データサイエンスおよび機械学習プロジェクト向けのオープンソースバージョン管理システムです。Gitライクな操作感でデータ、モデル、実験を管理し、ソフトウェアエンジニアリングのベストプラクティスをAI/MLワークフローとデータインフラストラクチャにもたらします。
AI モデル
Together AIはAIモデルのプラットフォームです。様々なモデルへのアクセスを提供し、開発者が高度なAI機能をアプリケーションに統合できるようにします。このプラットフォームは、AI開発とデプロイのための堅牢な環境を提供することに重点を置き、AI主導のプロジェクトにおけるイノベーションと効率性をサポートします。
AI フレームワーク
OpenVINOは、多様なハードウェア上で高性能AIソリューションを展開するためのオープンソースツールキットです。開発者は、クラウド、AI PC、エッジデバイスでの効率的なデプロイメントをサポートし、一般的なフレームワークの生成AIおよび従来のAIモデルの両方の変換、最適化、推論実行を可能にします。
AI フレームワーク
Weights & Biases は、AIモデルの開発とLLMアプリケーションの提供を支援するプラットフォームです。実験追跡、評価、オブザーバビリティツールに加え、サーバーレス推論、トレーニング、サンドボックス用のマネージドサービスを提供し、AI開発ワークフローを効率化します。
AI フレームワーク
SHAP (SHapley Additive exPlanations) は、機械学習モデルの出力を説明するためのゲーム理論的アプローチです。Shapley値を用いた局所的な説明と最適なクレジット配分を結びつけ、様々なモデルタイプやデータモダリティにわたる特徴量が予測にどのように影響するかについての洞察を提供します。
LIMEは、機械学習モデルの予測に対するローカルで解釈可能、かつモデルに依存しない説明を生成するためのPythonパッケージです。このツールは、特定の予測に至った要因をハイライトすることで、モデルがなぜその決定を下したのかを理解するのに役立ち、複雑なモデルをユーザーにとってより透明で信頼性の高いものにします。
AI フレームワーク
AI Fairness 360 (AIF360) は、研究者や開発者が機械学習モデルにおける望ましくないバイアスを検出、理解、軽減するのに役立つオープンソースツールキットです。公平なAIシステムを促進するための包括的な公平性指標と緩和アルゴリズムを提供します。
AI フレームワーク
Fairlearnは、AIシステムの公平性を評価および改善するために設計されたオープンソースツールキットです。機械学習モデルにおける不公平性を特定および軽減するためのツールを提供し、開発者がより公平なAIアプリケーションを構築するのを支援します。このフレームワークは、さまざまな公平性指標と軽減戦略をサポートしています。
AI フレームワーク
ONNX (Open Neural Network Exchange) は、バージョン 1.23.0 のドキュメントを提供します。コアコンセプト、Python 統合、API リファレンス、バージョン管理、データ構造、演算子を網羅しています。ドキュメントでは、データストレージ、セキュリティ、バックエンドおよび実験的演算子の実装ガイドなどの技術的な側面を詳述して…
AI フレームワーク
LiteRTは、エッジプラットフォーム上でGenAIおよびMLモデルを展開するためのGoogleの高性能オンデバイス機械学習フレームワークです。TensorFlow Liteの基盤を活かし、効率的な変換、ランタイム、最適化を提供し、数十億台のデバイスで低遅延と高いプライバシーを実現します。
AI フレームワーク
Core MLは、開発者が機械学習モデルをアプリに直接統合できるようにするAppleのフレームワークです。モデルの統一された表現を提供し、オンデバイスでの予測とトレーニングを可能にします。Core MLは、CPU、GPU、Neural Engineなどのデバイスハードウェアを活用してパフォーマンスを最適化し、プライバシーと応答性を確保します。
AI フレームワーク
TensorFlow Extended (TFX) は、Google の本番環境スケールの機械学習プラットフォームです。ML システムの定義、起動、監視のための共通コンポーネントを統合するための設定フレームワークと共有ライブラリを提供します。TFX を使用すると、本番環境で ML…
AI フレームワーク
BigDL-LLMは、ラップトップからクラウドGPUまで、Intel XPUハードウェア上で大規模言語モデル（LLM）を実行するためのオープンソースライブラリです。低遅延推論のためのINT4/FP4/INT8/FP8量子化をサポートし、PyTorchモデル向けの包括的なファインチューニング機能を提供します。
AI フレームワーク
DeepDetectは、ディープラーニングモデルのデプロイと管理に特化したAIフレームワークです。機械学習モデルのサービングプロセスを簡素化し、開発者が効率的にAI機能をアプリケーションに統合できるようにします。このプラットフォームは、リアルタイム推論とモデル監視のための堅牢なバックエンドを提供することに重点を置いています。
AI フレームワーク
Cortexは、機械学習モデルのデプロイ、管理、スケーリングを可能にする、大規模な本番環境向け機械学習インフラストラクチャを提供します。サーバーレス、リアルタイム、非同期、バッチワークロードをサポートし、自動クラスター管理、オートスケーリング、CI/CD統合を備え、AWS EKS上に構築されています。
AI フレームワーク
Seldon Core 2は、MLおよびLLMシステムを大規模にデプロイおよび管理するためのKubernetesネイティブフレームワークです。オンプレミス、ハイブリッド、マルチクラウド環境向けの柔軟でモジュラーなアーキテクチャを提供し、MLOpsおよびLLMOpsの標準化、オブザーバビリティの強化、コスト効率を保証します。
AI フレームワーク
BentoMLは、AIシステムのデプロイとスケーリングに特化した統合推論プラットフォームです。複雑なインフラ管理なしに、本番レベルの信頼性で任意のモデルを任意のクラウドにデプロイでき、AIシステム開発の迅速化と効率的なスケーリングを実現します。カスタムモデルをサポートし、セキュリティも確保します。
AI コミュニティ
Flyteはオープンソースのワークフローオーケストレーションプラットフォームです。このコミュニティリソースハブでは、イベント、ケーススタディ、ブログ、ドキュメントにアクセスできます。AIおよびML開発者とグローバルに繋がり、質問したり、アイデアを共有したり、実験から本番環境までAIシステムをスケールする方法を学びましょう。
AI エージェント
AgentOpsは、信頼性の高いAIエージェントのトレーシング、デバッグ、デプロイメントのためのプラットフォームを提供します。セッションリプレイ、タイムトラベルデバッグ、ログとエラーの完全なデータトレイルを提供し、エンジニアが自信を持ってコスト管理を行いながら、エンタープライズグレードのエージェントを構築およびスケーリングできるようにします。
AI エージェント
Wayfoundは、ビジネスユーザー向けのAIエージェント監視を提供し、エンタープライズ全体でのパフォーマンス監視とリスク低減を可能にします。AIエージェントが目標とポリシーに沿っていることを保証し、スコアカード、推奨事項、アラートを提供して成果を向上させ、あらゆるAIエージェントまたはワークフローの自己改善を自動化します。
AI エージェント
Chat Arenaは、大規模言語モデル（LLM）の評価と比較のためのオープンソースプラットフォームです。ユーザーは、会話形式のバトルで異なるAIモデルを競わせることができ、AIの研究開発のためのユニークな環境を提供します。
AI アプリ
ZETIC Melangeは、あらゆるデバイス上のあらゆるモデルに対して、オンデバイスAIのデプロイを自動化します。元Qualcommエンジニアが開発し、NPUアクセラレーションを最適化し、200以上のデバイスでベンチマークを行い、わずか3行のコードで数時間でのデプロイを可能にし、コストとレイテンシを削減します。
AI アプリ
Cleanlabは、ユーザーに届く前に不正確な応答を検出し修正することで、チームがより安全なAIエージェントを構築できるよう支援します。AIの出力が安全性、コンプライアンス、信頼性の基準を満たしていることを大規模に保証し、様々なアプリケーションに不可欠な制御を備えたAIエージェントを本番稼働可能にします。
AI アプリ
Zenbaseは、AIアプリケーションの作成とデプロイを簡素化する開発者向けプラットフォームです。開発者がAIモデルを効率的に構築、テスト、スケーリングするためのツールとインフラストラクチャを提供します。このプラットフォームは、AI開発ライフサイクルを合理化し、チームにとってよりアクセスしやすく管理しやすいものにすることを目指しています。
AI アプリ
GPUXはAIモデル向けのサーバーレスGPU推論を提供し、機械学習ワークロードの高速なデプロイと実行を可能にします。高速なコールドスタート、Stable Diffusion XLやWhisperなどの様々なAIモデルのサポート、プライベートモデルでの推論実行やリクエスト販売をユーザーに提供し、AIをよりアクセスしやすく効率的にします。
AI モバイルアプリ
AI-Maskは、ブラウザ上で直接AIモデルを実行できるChrome拡張機能です。Llama2、Gemma、Mistralなどのモデルで、無料かつプライベートな推論を提供し、ローカルでのAI処理を必要とするWebアプリケーションのゲートウェイとして機能します。データを外部に送信することなく、AIのパワーを体験してください。
AI アプリ
LangdriveはAIアプリケーションをデプロイするためのプラットフォームです。ユーザーが最初のアプリを起動するプロセスをガイドするホスティングドキュメントを提供します。サイトには、アプリがデプロイされていない場合やカスタムドメインの設定が不完全な場合に「サイトが見つかりません」というエラーが表示される可能性があることが示されています。
AI アプリ
Raindropは、AIエージェントの可観測性と監視プラットフォームで、すべてのプロダクション実行をキャプチャし、幻覚やループのような静かな障害を自動的に検出し、チームが修正を追跡、トリアージ、証明できるようにします。
AI アプリ
Runwareは、画像、動画、音声、3D、LLM、ビジョンモデルのための統一されたAPIを提供する生成AI推論プラットフォームです。400K以上のモデル、管理されたインフラストラクチャ、カスタム推論エンジンに基づいた使用量ベースの価格設定を提供します。
AI アプリ
コーディングエージェント向けに構築された推論プラットフォームで、高速フロンティアモデルとコード検索、編集の適用、コンテキスト圧縮、監視のための専門モデルを提供し、1つのOpenAI互換APIを通じて利用できます。
AI アプリ
Curraiは、実際の会話を意図、ユーザーストーリー、ポリシー違反、エラーに変換し、ユーザーが報告しない静かな失敗をキャッチし、証拠に基づいたアラートをSlackに送信するチャットおよび音声エージェントの監視と製品分析を提供します。
AI アプリ
Chirpz AIはエージェントエンジニアリングに特化した応用AIラボです。その製品であるPandaProbeは、AIエージェントを追跡、評価、監視するためのオープンソースプラットフォームであり、チームが本番環境でデバッグし、改善できるようにします。
AI アプリ
コーディングエージェントのためのインテリジェントなモデルルーターで、エンジニアリングチームが最も適したモデルにリクエストをルーティングすることで、コストの一部で最前線の品質の成果を達成するのを支援します。
AI アプリ
オープン、独自、カスタムモデルを1つのOpenAI互換APIの背後でホストし、従量課金制の価格設定、高いレート制限、ノーコードダッシュボードを提供する専門的なAI推論および統合プロバイダーです。
AI アプリ
特別に設計されたASICインフラストラクチャ上でモデルを提供する高速AI推論プロバイダーで、OpenAI互換のAPIを通じて、コーディングエージェントやリアルタイム音声などのレイテンシに敏感なワークロードに対して低いファーストトークン時間と高いスループットを提供します。
AI アプリ
Aurikоは、LLM推論のためのAIコントロールプレーンであり、モデルゲートウェイ、インテリジェントルーティング、可観測性、FinOpsを1つのプラットフォームで提供します。これにより、ユーザーはコストとパフォーマンスを最適化し、既存のAIエコシステムにシームレスに統合できます。
RunInfraは、GPUのベンチマーク、カーネルの最適化、プロダクションAPIのデプロイを行うチャットネイティブAIモデル最適化プラットフォームです。チームがAIアプリケーションを効率的に構築・デプロイできるようにし、全体のスタックの所有権と透明性を確保します。
AI アプリ
Routescopeは、さまざまな大規模言語モデルをOpenAI、Claude、Gemini互換インターフェースにクロスフォーマット変換することをサポートする統合AIモデル集約および配信ゲートウェイであり、個人および企業向けに集中管理されたモデル管理とゲートウェイサービスを提供します。
AI アプリ
vLLMは、大規模言語モデル（LLM）のための高スループットかつメモリ効率の良い推論および提供エンジンです。これにより、最先端のパフォーマンスを持つAIモデルの迅速な展開が可能になり、さまざまな業界のユーザーにとってLLMの提供が簡単で迅速、かつコスト効率の良いものとなります。
AI アプリ
Opikは、開発者がエージェントシステムをテスト、出荷、継続的に改善するのを支援するオープンソースのAI可観測性プラットフォームです。LLMアプリケーションを効果的に評価および監視するためのツールを提供します。
AI アプリ
W&B Weaveは、プロダクションエージェントの可観測性を向上させ、実世界の経験から学び改善することを可能にします。このツールは、継続的な監視と評価を通じてAIアプリケーションの信頼性とパフォーマンスを維持するのに役立ちます。
AI アプリ
Adalineは、自己改善型AIエージェントのために設計された可観測性および評価プラットフォームです。生産トレースを行動、評価、合成データセット、検証された改善に変換し、チームがAIシステムを効率的かつ効果的に強化できるようにします。
AI アプリ
Mosaic AIモデルサービングは、データワークフローとシームレスに統合されたスケーラブルなリアルタイムモデル推論を提供します。さまざまなAIモデルをサポートし、AI機能を効果的に活用しようとする企業のために、効率的なデプロイとガバナンスを確保します。
AI アプリ
Hugging Faceによる推論エンドポイントは、ユーザーが数分でHugging Face HubからAIモデルをデプロイできるようにします。完全に管理されたプラットフォームを提供し、開発者がインフラのセットアップを心配することなくAIアプリケーションの構築に集中できるようにします。
NVIDIA Dynamo-Tritonは、TensorRT、PyTorch、ONNXなどのさまざまなフレームワークでAIモデルのデプロイを可能にします。リアルタイム、バッチ処理、ストリーミングワークロードをサポートし、多様なAIアプリケーションに適しています。
トヨタはGoogle Cloudと協力し、工場でのAIの民主化を進めています。ハイブリッドクラウドアーキテクチャは製造効率を向上させ、作業者が機械学習モデルを簡単に開発できるようにし、プロセスを最適化し、手作業を削減します。
AI GitHub リポジトリ
エージェンティック GenAI メンテナンス コパイロットは、回転機器の調査のために設計された Azure 展開ツールです。LangGraph、RAG、および FastAPI を利用し、人間の承認プロセスを組み込むことで、信頼性のある分析と意思決定を実現します。
よくある質問
MLOps・モデルデプロイにふさわしい注目の存在を知っていますか？
ToolPotionは、最高のMLOps・モデルデプロイを見つけるために人々が閲覧するAIツールディレクトリです。掲載は無料で、すべての投稿は編集者がレビューします。検索の出発点にあなたのツールを置きましょう。