ビッグデータのモニタリングパート2:AWSのElasticsearchサービス

LogicMonitor開発ポスト

私は最近書いた ブログ モニタリングの概念を紹介する Elasticsearch LogicMonitorを使用します。 Elasticsearch、特にフルELKスタック(Elasticsearch、 ログスタッシュ, 木場), Amazon Webサービス (AWS)リリース Elasticsearchサービス 2015年後半。Elasticsearchクラスターの管理ではなくデータに重点​​を置きたい場合は、AmazonのElasticsearchが優れた代替手段です。 ただし、新しいサービスには、ノードレベルのアクセスとAPI機能に関して制限があります。 それでもLogicMonitorの強力な アクティブディスカバリー プロセスでは、これらの制限にもかかわらず、AmazonのElasticsearchを簡単に監視できます。

AWSのサービスに関する主要な目標のXNUMXつは、特定のオファリング(ネットワーキング、ノード、オペレーティングシステム)を構成する多くの内部の複雑さからユーザーを保護し、アプリケーションとのインターフェースに使用できるエンドポイントをユーザーに提供することです。

AWSのElasticsearchの場合、HTTP経由で利用できるのはアプリケーションレベルのAPIのみであり、これには制限があります。 たとえば、多くのAPIエンドポイントは利用できません。特に、シャードの割り当てなど、下位レベルのバックエンドの設定に影響を与えるエンドポイントは利用できません。 これは、サービスがそのような詳細を処理し、ユーザーが自分のデータに集中できるようにするためです。

ElasticsearchのもうXNUMXつの制限は、ノードレベルのアクセスです。 AWS Elasticsearchサービスクラスター(ドメイン)を構成する個々のノードへの直接ネットワーク接続は存在しないため、ノードレベルでのクラスターのモニタリングは困難です。 これは、LogicMonitorのアクティブディスカバリーの美しさです。 手順– / _cat / nodes APIを使用してAWSクラスターのノードを表示すると、次のように表示されます。

2016 04-15-1.24.01 PMでのスクリーンショット
ご覧のとおり、ホスト名とIPアドレスは公開されておらず、公開されていても直接アクセスすることはできません。 ただし、Active Discoveryを使用することにより、LogicMonitorは、サーバー上の個々のディスクまたはボリュームを検出する方法と同様に、これらの個々のノードをクラスター内のインスタンスとして検出できます。 また、Elasticsearchがノードに自動的に割り当てるクールなマーベルコミック名を識別子として使用することで、LogicMonitorはこれらのインスタンスを検出し、/ _ nodesAPIを使用してメトリックの収集を開始できます。

 

インスタンス/ _cluster / stats APIを介して利用できるクラスターレベルの統計に加えて、ノードレベルでの可視性があり、個々のノードのXNUMXつが、たとえば、ヒープスペースが不足しているか、に多くの時間を費やしているかを判断できます。ガベージコレクション。

AmazonのElasticsearchのもうXNUMXつの優れた機能は、クラスターをオンザフライで再構成できることです。 すでに本番環境にあるクラスターのメモリーが不足している場合は、サービスを中断することなく、より大きなインスタンスを使用するように再構成できます。 この再構成は、新しいインスタンスを透過的にスピンアップし、それらをクラスターに追加し、すべてのインデックスシャードを新しいインスタンスに再配置し、最後に元のインスタンスをクラスターから削除することによって実現されます。

Active Discoveryを使用しているため、このプロセスの動作を確認できます。 以下は、再構成中のクラスターを視覚化した画像です。 最初のXNUMXつのグラフには、個々のノードのヒープとクラスター全体のヒープが表示されます。 個々のノードのグラフの場合、新しいノードがクラスターに参加し、シャードの再配置が発生する正確なポイントを確認できます。 また、データの転送中は両方のノードセットがクラスターのメンバーであるため、クラスターヒープ全体の増加を確認できます。

ノードヒープ
クラスタヒープ-1最後に、以下の画像は、シャード再配置プロセスが完了し、元のノードがクラスターからドロップしたときのヒープドロップを示しています。

クラスタヒープ-2
これは、LogicMonitor Active Discoveryの能力と、それを利用してアプリケーションレベルで重要な洞察を得る方法を示すもうXNUMXつの例です。

ブランドンメトカルフ

Brandon Metcalfは、LogicMonitorの従業員です。

LogicBlogを購読して、LogicMonitorの最新の開発に関する最新情報を入手し、ITエキスパートとエンジニアのワールドクラスのチーム、およびITプロフェッショナルが愛する製品。

LogicBlogの他の記事

アンペアロボット 影

お店の話をしましょう。

STARTED GET