Redis互換で25倍高速とする「Dragonfly」がオープンソースで登場。2022年の最新技術でインメモリデータストアを実装

今回は「Redis互換で25倍高速とする「Dragonfly」がオープンソースで登場。2022年の最新技術でインメモリデータストアを実装」についてご紹介します。

関連ワード (効率、技術、高効率化等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Redisやmemcachedに代表されるインメモリデータストアは、高速なデータアクセスを要求される場面で使われています。

このインメモリデータストアを2022年の最新技術を用いて設計、実装することで、Redis/memcached互換を実現しつつRedisの25倍高速とする「Dragonfly」がオープンソースで登場しています(開発元のアナウンス、GitHub)。

fig

Redisやmemcachedが登場した十数年前と比べて、現在ではCPUのマルチコア化やI/Oの高速化、メモリの大容量化など、ハードウェア技術が大きく進化しています。

これらを最大限活用する設計と実装を取り入れることでRedisやmemcachedよりも大幅な高速化と高効率化を目指したのがDragonflyです。

採用した主な技術の1つ目が、マルチコアを活用するために採用されたのがマルチスレッドにおけるシェアードナッシングアーキテクチャです。これによりそれぞれのコアの能力を最大限に引き出しているとのこと。下記はGitHubのREADME.mdからの引用です。

we used shared-nothing architecture, which allows us to partition the keyspace of the memory store between threads, so that each thread would manage its own slice of dictionary data. We call these slices – shards.

われわれはシェアードナッシングアーキテクチャを採用しています。これにより、メモリストアのキー空間ごとにスレッドを分割し、各スレッドが辞書データのスライスを管理することができます。このスライスをシャード(shard)と呼んでいます。

さらに「Dash」と呼ばれるハッシュテーブルを採用したことで、TTLレコードに対する効率的な期限管理や、LRUやLFUなどよりも高いキャッシュヒット率をメモリのオーバーヘッドなしに実現し、優れたスナップショットアルゴリズムも実現したとのこと。

また、Dragonflyでは操作のアトミック性(操作全体が成功か失敗かどちらかで終わること)が保証されています。

下記が開発チームによるAmazon EC2のインスタンスを用いたベンチマーク結果の一部抜粋です。飛び抜けて高い6本のマーカーがどれもDragoflyによるもの。最大でRedisの25倍高速であり、Dragonflyは1インスタンスで数百万QPS(Query Per Second)を実現するとのこと。

fig

また、メモリ効率もRedisと比較してアイドル時で30%、最大時で3倍優れており、スナップショットも高速に終了するとしています。

Dragonflyは現時点で130のRedisコマンドとすべてのmemcachedコマンドの互換性を有しており、Redis 2.8のほとんどのAPIをサポート。

次はRedisからDragonflyへのレプリケーションとDragonfly同士のレプリケーションの実現による高可用性の実現を目指し、さらに多くのRedis APIのサポートを実装していくとしています。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
Google、3月22日の大規模Androidアプリ障害の原因と対策を発表
アプリ・Web
2021-04-22 04:35
宇都宮市とNEC、顔認証を活用した実証実験を開始
IT関連
2021-03-17 04:31
コロナ「第5波」でもテレワーク拡大せず 五輪の影響も限定的
企業・業界動向
2021-08-18 04:48
静岡に“珍自販機スポット”現る 冷凍ラーメンから昆虫食、ふるさと納税まで
くらテク
2021-07-09 11:22
みずほ銀、3月上旬のオンライン口座移行を断念か システム障害で計画見直し
企業・業界動向
2021-03-06 15:48
日立製作所、エクイニクスと協業強化–DX通じて持続可能な社会や事業の実現に取り組む
IT関連
2023-04-27 21:32
SBI生命、「Amazon Kendra」の自然言語処理と機械学習をコールセンターに導入
IT関連
2023-07-13 13:48
無料版「Google Meet」の最大通話時間、3人以上は60分までに戻る
アプリ・Web
2021-07-14 13:27
表と裏を独立検知できる布地タッチセンサー Google、「ZebraSense」開発 :Innovative Tech
イラスト・デザイン
2021-03-17 15:16
Google DeepMindの気象予測AI「GraphCast」–従来の予測モデルをはるかに上回る精度
IT関連
2023-11-28 18:34
オンライン授業導入に差、大阪市の小中
IT関連
2021-04-29 12:05
Google Cloudでのクラウド破産をAIが警告、抑止。「Cost Anomaly Detection」パブリックプレビュー
Google Cloud
2024-10-16 23:52
ジョブ型導入で「適材適所」から「適所適材」へ–富士通のHR戦略
IT関連
2022-03-30 18:19
デジタル変革の力点はフロントからバックエンドに–ワークデイ正井社長
IT関連
2021-03-08 15:52