オープンソースストレージエンジンであるHSE、SSD用に最適化されたSSE

ミクロン技術 (DRAMとフラッシュメモリの製造を専門とする会社) の紹介を発表しました と呼ばれる新しいエンジン 「HSE」 (ヘテロジニアスメモリストレージエンジン)、使用の詳細を念頭に置いて開発されました NANDフラッシュベースのSSDドライブ (X100、TLC、QLC 3D NAND)または読み取り専用メモリ(NVDIMM)。

エンジンはライブラリの形で作られています 他のアプリケーションに埋め込み、 Key-Value形式のデータ処理をサポートしますr。 HSEコードはCで記述され、Apache2.0ライセンスの下で配布されます。

エンジンアプリケーションの中で、 低レベルのデータストレージのアプリケーションが言及されています DBMS NoSQLでは、CephやScality RINGなどのソフトウェアウェアハウス(SDS、ソフトウェア定義ストレージ)、大量のデータを処理するためのプラットフォーム(ビッグデータ)、ハイパフォーマンスコンピューティングシステム(HPC)、Internet of Things(IoT)デバイス、機械学習システムのソリューション。

HSEは、最大のパフォーマンスのためだけでなく、最適化されています。 また、さまざまな種類のSSDドライブの耐久性を確保するためにも。 高速を実現しましたハイブリッドストレージモデルを介して: 最も関連性の高いデータがキャッシュされ、ディスクアクセスの数が減ります。

新しいエンジンをサードパーティプロジェクトに統合する例として、HSEを使用するように翻訳されたドキュメント指向バージョンのMongoDBDBMSが用意されました。

技術的には、HSE 追加のカーネルモジュールmpoolに基づいていますは、ソリッドステートドライブのオブジェクトを格納するための特殊なインターフェイスを実装し、その機能と特性を考慮して、速度と耐久性の根本的に異なる特性を可能にします。 MpoolもHSEと同時に開かれているMicronTechnologyの開発ですが、独立したインフラストラクチャプロジェクトとして際立っています。 Mpoolは、永続メモリとゾーンストレージの使用を想定していますが、現在は従来のSSDのみがサポートされています。

YCSBパッケージを使用したパフォーマンステスト (Yahoo Cloud Serving Benchmark)は、2KBのデータブロック処理で1TBのストレージを使用するとパフォーマンスが大幅に向上することを示しました。 読み取り操作と書き込み操作が均等に分散されたテストでは、特に大幅なパフォーマンスの向上が見られます。

例えば HSEエンジンを搭載したMongoDBは、約8倍高速であることが判明しました 標準のWiredTigerエンジンを搭載したバージョンよりも、RocksDBDBMSエンジンはHSEを6倍以上上回っています。 テストでは、読み取り操作の95%と変更または追加の5%を示す優れたインジケーターも表示されます。

実行された別のテストは読み取り操作のみを含み、約40%の利益を示しています。 RocksDBベースのソリューションと比較した書き込み操作中のSSDの存続可能性の増加は7倍と推定されています。

HSEの主な機能:

  • 標準および高度なオペレーターのサポート キー/値形式でデータを処理する。
  • 完全なトランザクションサポートと、スナップショットを作成することでストレージセグメントを分離する機能(スナップショットを使用して、ストア内の個別のコレクションを維持することもできます)。
  • カーソルを使用して、スナップショットベースの表現でデータをトラバースする機能。
  • 単一のリポジトリ内の混合負荷タイプ用に最適化されたデータモデル。
  • 柔軟なメカニズム ストレージの信頼性を管理します。
  • カスタマイズ可能なデータオーケストレーションスキーム(リポジトリに存在するさまざまなタイプのメモリを介した配布)。
  • CAPIを備えたライブラリ これは、任意のアプリケーションに動的にリンクできます。
    テラバイトのデータと数千億のキーをストレージに拡張する機能。
  • 何千もの並列操作の効果的な処理。
  • 通常の回避策と比較して、さまざまなタイプのワークロードの帯域幅が大幅に増加し、待ち時間が短縮され、読み取り/書き込みが増加します。
  • 同じストレージで異なるクラスのSSDを使用して、パフォーマンスと耐久性を最適化する機能。

エンジンコードにアクセスできます 下のリンクから。 


コメントを残す

あなたのメールアドレスが公開されることはありません。 必須フィールドには付いています *

*

*

  1. データの責任者:MiguelÁngelGatón
  2. データの目的:SPAMの制御、コメント管理。
  3. 正当化:あなたの同意
  4. データの伝達:法的義務がある場合を除き、データが第三者に伝達されることはありません。
  5. データストレージ:Occentus Networks(EU)がホストするデータベース
  6. 権利:いつでも情報を制限、回復、削除できます。