オラマモニタリング

最終更新日 - 07年2026月XNUMX日

LogicMonitorは、カスタムGroovyスクリプトとOllamaのREST APIを使用して、Ollama言語モデルのモニタリングを提供します。この統合により、トークン数、モデルの応答遅延、ロード時間を測定することで、モデルのパフォーマンスをベンチマークできます。このパッケージにより、AIインフラストラクチャのプロアクティブなモニタリングが可能になり、モデルの効率性に関する洞察を確実に得ることができます。

Ollamaモニタリングの要件

• Ollama LogicModules をインストールまたは更新します。
  詳細については、を参照してください。 パッケージ内のLogicModules.
• コレクターバージョン32.400以降。
• Ollama REST API へのアクセス。

Ollamaリソースを監視に追加する

Ollamaリソースは手動で環境に追加されます。詳細については、 リソースの追加.

Ollamaプロパティをリソースに割り当てる

LogicMonitor内のOllamaリソースには、以下のカスタムプロパティを設定する必要があります。プロパティ設定の詳細については、以下を参照してください。 リソースとインスタンスのプロパティ.

プロパティ	詳細説明	必須？
システム カテゴリ	監視を開始する前に、Ollama を system.categories に追加する必要があります。	あり
ollama.port	ロードされたモデルを取得するためにOllama APIにアクセスするために使用するポートを指定します。デフォルトは11434です。	オプション
ollama.models	監視する機械学習モデルを指定します。指定がない場合は、現在ロードされているモデルがデフォルトになります。カンマ区切りのリストをサポートします。	あり
ollama.prompt	ベンチマーク用モデルからの応答を生成する際に使用するプロンプトを指定します。デフォルトは「LogicMonitor の文字数」です。	オプション

LogicModulesをインポートする

LogicMonitorパブリックリポジトリから、以下のリストにあるすべてのOllama LogicModulesをインポートします。 パッケージ内のLogicModulesこれらのLogicModuleが既に存在する場合は、最新バージョンであることを確認してください。LogicModuleがインポートされ、必要なプロパティが設定されると、データの収集と検出が自動的に開始されます。

パッケージ内のLogicModules

LogicMonitorのOllama用パッケージは、以下のLogicModuleで構成されています。完全なカバレッジを得るには、これらのLogicModuleがすべてLogicMonitorプラットフォームにインポートされていることを確認してください。

表示名	Typer	詳細説明
オラマベンチマーク	データソース	現在 Ollama にロードされている言語モデルのベンチマーク。

このパッケージの DataSource によって追跡されるさまざまなメトリクスに静的なデータポイントのしきい値を設定する場合、LogicMonitor はテクノロジー所有者のベスト プラクティス KPI 推奨事項に従います。