(cache) HeteroDB,Inc

ONE STOP PLATFORM
FOR DATA PROCESSING

データの蓄積、集計、解析に必要な全ての機能をこの一台に All the features needed for data collection, summarize and analytics in a box

HeteroServerには、データ活用の一連のライフサイクル～蓄積、集計、解析～に必要な全ての機能を搭載されています。従来は管理の煩雑なマルチノード構成が必要であった水準のデータ処理能力を、GPUやNVMe-SSDといった新世代のハードウェアと、その能力を最大限に引き出すソフトウェアとの組合せによって実現しています。 HeteroServer has all the required feature to handle a series of data processing life-cycle; collection, summarize, statistical analytics and machine-learning. It build massive ammount of data processing capability into a single node by utilization of new-generation hardware like GPU or NVMe-SSD and advanced software which pull out maximum capability of the hardware.

データベース管理システムという、まさにデータの集積する中心にGPU/SSDという強力な集計・解析エンジンを増強する事で、大量のデータを動かす事なくその場で計算する事が可能となります。これにより、データベース外での煩雑なデータ管理に費やす時間や費用からユーザを解放し、本質的な課題に集中する事ができるようになります。 Database management system is exactly central location where all the data gather. Enhancement of powerful data processing capability with GPU/SSD enables to handle massive amount of data in the place, without data export. It releases engineers & scientist from cumbersome works and extra cost to manage dataset out of the database system, and allows to focus on their essential jobs.

GPUによるSQLの超並列処理 Massive parallel SQL execution

PG-StromはSQLワークロードをGPUで実行するプログラムを自動生成し、GPUの持つ数千プロセッサコアと数百GB/sのメモリ帯域を活かした超並列処理で、SQLの集計・レポート処理を大幅に高速化します。 PG-Strom automatically generates GPU programs to run SQL workloads, and accelerate SQL's summarizing and reporting workloads notably, using thousands processor cores and hundreds GB/s memory band of GPU.

詳しく Learn More

ストレージの速度を最大化 Maximize Storage Throughput

SSD-to-GPUダイレクトSQL実行機能により、NVMe-SSDデバイスの読み出し速度を理論限界に近い値まで引き上げ、さらにGPUでのSQL実行と組み合わせる事で、I/O中心ワークロードを高速化します。 SSD-to-GPU Direct SQL Execution enables to pull out maximum capability of scan performance of NVMe-SSD device, and cooperates with SQL execution on GPU, to accelerate I/O intensive workloads.

詳しく Learn More

In-database 機械学習 In-database Machine-Learning

PL/CUDA機能と統計解析・機械学習ライブラリは、GPUを用いて高度なアルゴリズムの並列実行を"データのある場所で"実行する事を可能にします。これはデータ入出力の手間を省くだけではなく、SQLの高度な柔軟性を前処理/後処理に適用できるという事でもあります。 PL/CUDA and statistical analytics and machine-learning library allow to run advanced algorithms in parallel using GPUs on the data location. It is not only skip of data export, but utilization of SQL's flexibility on pre-/post-process of data analytics.

詳しく Learn More

ビジネスインテリジェンス & レポーティング Business Intelligence & Reporting

ビジネスインテリジェンス(BI)やレポーティングで多用される集計系SQLワークロードは多数のCPU/GPUコアを使用する並列処理に向いており、ストレージには高いI/Oスループットが要求されます。 HeteroServerはこの種のワークロードに最適化されており、CPU/GPU/SSD全てのハードウェアリソースを駆使する事で高速な集計処理を実現します。 Typical summarizing SQL workloads, often used for business intelligence (BI) or reporting, are suitable for parallel execution by massive CPU/GPU cores and require storage system high I/O throughput. HeteroServer is optimized to this kind of workloads, thus enables rapid summarizing with all the hardware resources like CPU, GPU and SSD.

そのため、従来であれば高額なDWH専用機を導入したりクラスタ構成を組んでいたシステムを、シンプルなPostgreSQLベースの構成で代替する事が可能となり、システムの導入と運用に要する費用を削減する事が可能となります。 Therefore, it allows to replace legacy systems, expensive DWH appliance or cluster based systems people often adopted in the past, by simple PostgreSQL-based solution.

アノマリー検知 Anomary Detection

クレジットカードの不正使用や振り込め詐欺など、日々のトランザクションデータの中から犯罪性のある取引を見つけるには、“普段と違う”記録を、なるべく高い頻度で見つけだす必要があります。 We need to find out “anomary” as frequent as possible, to detect criminal transaction, like credit-card skimming or bank transfer scam, from the daily transactional records.

HeteroServerを使えば、データベースに格納されたトランザクションデータに対して、直接、統計解析アルゴリズムに基づいた検査を実行する事ができます。これらのロジックはGPUにより高速に計算する事が可能で、また、In-database処理であるため、計算のたびにデータをエクスポートする必要もありません。 HeteroServer supports to run anomary detection logic based on statistical analysis algorithms directly on the transactional records stores in the database. GPU can process these logic very fast, and no need to export the database for checking because of in-database processing.

model	HeteroServer S120	HeteroServer GS120
Form	1U Rack Server	1U Rack Server
CPU	Intel Xeon E5-2650 v4 (2.20GHz, 12C/24HT) x1	Intel Xeon E5-2650 v4 (2.20GHz, 12C/24HT) x1
GPU	------	NVIDIA Tesla P40 (1.3GHz, 3840C, 24GB) x1
RAM	128GB (DDR4-2400; ECC)	128GB (DDR4-2400; ECC)
SSD	PCIe x8接続エンタープライズSSD x2 PCIe x8 connected enterprise grade SSD	PCIe x8接続エンタープライズSSD x2 PCIe x8 connected enterprise grade SSD
HDD	1TB + 3TBx2 (SATA; 72krpm)	1TB + 3TBx2 (SATA; 72krpm)
Software	PostgreSQL v9.6 + NVMe-Strom v2.0	PostgreSQL v9.6 + PG-Strom v2.0
Features	PostgreSQLの全ての先進機能 All the advanced feature of PostgreSQL 最大10.0GB/sのストレージ帯域 Max 10.0GB/s of storage throughput 非同期&SSDダイレクトスキャン Asynchronous&Direct SSD Scan 時系列データへの最適化 Optimization for time series data	PostgreSQLの全ての先進機能 All the advanced feature of PostgreSQL 最大10.0GB/sのストレージ帯域 Max 10.0GB/s of storage throughput SSD-to-GPU ダイレクトSQL実行 SSD-to-GPU Direct SQL Execution 時系列データへの最適化 Optimization for time series data GPUプログラムの自動生成と実行時コンパイル Automatic GPU code generation and JIT compile GPUの持つ数千コアでSQLワークロードを並列実行 Massive parallel execution of SQL workloads by GPU GPU対応統計解析・機械学習ライブラリ GPU library for statistical analytics & machine learning オンメモリ列構造データベースキャッシュ On-memory columnar database cache
価格 Price	お問い合わせ下さい Contact us	お問い合わせ下さい Contact us
発売時期 Expected Release Date	2018年3月予定 Mar-2018	2018年3月予定 Mar-2018
備考 Remarks	※製品構成は現時点での参考構成であり、製品リリースまでに変更となる事があります。 Please note that hardware configuration may change by the production release.

お問い合わせ Contact Us

GPUによるSQLの"超"並列処理 Massive parallel SQL execution

GPUの特徴 GPU Characteristics: GPUには数千個のプロセッサコアが搭載されており、また、これらのプロセッサにデータを供給するメモリバスは数百GB/sの帯域を持っています。これらのハードウェアリソースは並列計算において極めて有効に作用し、CPUと比べて非常に高い価格対性能比を発揮します。 A GPU device has thousands processor cores, and high throughput memory bus more than hundreds GB/s to provide data to the processors. These hardware resource works very efficiently on parallel computing, thus GPU can offer much higher price-performance ratio.; GPUが得意とする並列計算の典型例は行列演算ですが、これは大量の均質なデータに対してそれぞれ同一の演算を行っているためです。SQLにも類似の処理はいくつかあり、例えば全件スキャンにおいて各レコード毎にWHERE句の条件を評価するといった処理が典型です。 A typical parallel computing workload where GPU has advantage is matrix operations, because it issues identical calculations on massive amount of uniformed data set. SQL has several similar workloads, like evaluation of WHERE-clause for each record on full table scan.
PG-Stromの概要 PG-Strom Overview: PG-StromはPostgreSQL向けの拡張モジュールで、一部のSQLワークロードをGPUの並列演算能力を活用して高速化するために開発されました。 PG-Strom is an extension for PostgreSQL, designed to accelerate a few SQL workloads using parallel computing capability of GPUs.; CPU集約的なワークロードであるWHERE句、JOIN、GROUP BY処理のGPU実行に対応しており、コスト評価の結果PostgreSQLのクエリオプティマイザがGPUでの実行を選択した場合、エグゼキュータはPostgreSQL本体の実装の代わりに、PG-Stromモジュールを呼び出してSQLを処理させます。 It supports on-GPU execution of WHERE-clause, JOIN and GROUP BY; these are CPU intensive workloads. Once query optimizer of PostgreSQL chooses the execution on GPU, its executor calls PG-Strom module, instead of PostgreSQL built-in implementation, to process SQL workloads.; GPUで処理すべきワークロードはクエリごとに異なります。そのため、PG-StromはSQLから自動的にGPU用のプログラムを生成して実行時コンパイルを行い、これをGPU側で非同期・並列実行しています。 The workloads to be processed on GPU are various for each query, thus, PG-Strom automatically constructs a GPU program and builds it on run time, then execute the program asynchronously and in parallel on GPUs

なぜPG-StromはPostgreSQLとシームレスな統合が可能なのか？ Why PG-Strom can cooperative with PostgreSQL seamlessly?

共通のクエリ No Query Changes

PG-StromはSQL構文がパースされた後の内部データ構造を参照し、GPUでのSQL実行が可能かどうかを判定します。したがって、特別なSQL命令を与える必要はなく、"重い処理"だけを選択して透過的にGPUで実行する事ができるのです。 PG-Strom references the internal data structure that is already parsed from SQL statement, to determine whether it can run the workloads on GPUs. So, no special SQL commands are needed. It selectively picks up "heavy workloads" and transparently runs on GPUs.

共通のデータ No Data Migration

PG-StromはPostgreSQLのデータ構造／ストレージ形式をそのまま使用します。そのため、特別なテーブルへデータを移行したり、データ形式を変換したりする事なく利用する事が可能です。 PG-Strom utilizes the data schema and storage format of PostgreSQL, so no need to migrate your data to special tables, or to transform data format.

共通のPostgreSQL No Patch for PostgreSQL

PG-StromはPostgreSQLが標準でサポートするインターフェースのみを用いて実装されています。そのため、PostgreSQL本体へのパッチや特別な修正なしに利用する事ができます。 PG-Strom is implemented on top of the standard interfaces supported by PostgreSQL, so no special patches to PostgreSQL are needed.

SSD-to-GPUダイレクトSQL実行 SSD-to-GPU Direct SQL Execution

コンセプト Concept: ストレージに格納されたPostgreSQLデータブロックを読み出す際に、CPU/RAMへこれを転送する前に、まずGPUへ転送しWHERE句、JOIN、GROUP BYといったSQLワークロードを処理する事で不要なデータを削除します。結果としてCPU/RAMへ転送すべきI/O量が減少するため、I/Oが負荷の中心であるSQLワークロードであっても、GPUの手助けによって高速化が可能となります。 When data blocks of PostgreSQL on the storage are loaded, SSD-to-GPU direct SQL execution mechanism transfers the data chunks to GPU first, prior to the loading onto CPU/RAM, then runs WHERE-clause, JOIN and GROUP BY workloads which usually works to eliminated unnecessary rows. In the results, our mechanism reduces amount of the data size to be loaded to CPU/RAM, thus, it looks GPU accelerates this kind of SQL workloads even if it is I/O intensive.; CPUの視点からNVMe-SSDとGPUの協調動作を眺めると、あたかもストレージ機器がSQLワークロードを解釈し、不要である事が分かり切っているデータを削除、あるいは前処理を行った上でデータを読み出しているかのように見えます。 From the viewpoint of CPU, the collaboration of NVMe-SSD and GPU looks an intelligent storage device which can understand SQL workloads, for elimination of definitely unnecessary rows or for pre-process to the post stage.
背景技術 - GPUDirect RDMA Technology Basis - GPUDirect RDMA: この仕組みの基盤となっているのがGPUDirect RDMA機構です。これはNVIDIA社のTesla/Quadro GPUに固有の機能で、GPUデバイスメモリ上の特定の領域を、ホストシステムの物理アドレス空間にマップするための機能です。物理アドレスに紐づける事ができれば、PCIeデバイスとのDMAの際に、マップしたGPUデバイスメモリをデータ転送先/元として使用する事ができるようになりますが、この時、データ転送パスはCPU/RAMを介さずにピアツーピアで行われます。 Technology basis of this mechanism is GPUDirect RDMA which is a unique functionality in Tesla/Quadro GPU of NVIDIA. It allows to map a particular region of GPU device memory on physical address space of host systems. Once GPU device memory got a physical address on host system, it can be utilized for source or destination address of DMA data transfer with third party PCIe devices. In this case, data moves over PCIe bus peer-to-peer, without any relay by CPU/RAM.; GPUDirect RDMAは本来、MPI over Infinibandを実現するために開発された機能ですが、カスタムLinux kernel moduleがGPUデバイスメモリとPCIeデバイスとの間のDMAを適切に仲介すれば、他のPCIeデバイスとも共存できない理由はありません。私たちはこれを、NVMe-SSDとGPUとの間を密連携させるために利用しました。 GPUDirect RDMA is a feature originally designed for MPI over Infiniband, on the other hands, there is no reason why we cannot apply this feature on other type of PCIe devices if custom Linux kernel module intermediates DMA transfer between GPU device memory and PCIe device. We utilized this infrastructure for the close cooperation between NVMe-SSD and GPU.

なぜGPUでI/Oワークロードを高速化できるのか？ Why GPU can accelerate I/O workloads?

ダイレクト転送 Direct Data Transfer

PostgreSQLが通常用いるファイルシステム経由のI/Oでは、ストレージからデータブロックを読み出し、アプリケーションのバッファにデータを転送するまでに何回もコピーを繰り返す事になり、これらはデータ量に比例してCPUサイクルを消費する事になります。 The filesystem based I/O, usually used by PostgreSQL, takes multiple buffer copies on storage block read. It also consumes CPU cycles according to the data size.

SSD-to-GPUダイレクトSQL実行を用いた場合、SSDから読み出されたデータはGPUのバッファに直接、しかも非同期に転送されます。これにより、CPUやGPUをデータコピー処理から解放し、SQLワークロードの処理という本来の仕事に全ての処理サイクルを費やす事が可能となるのです。 In case of SSD-to-GPU direct SQL execution, data blocks read from SSD are transferred to the buffer on GPU device directly and asynchronously. It releases CPU/GPU from the workload of data copy, and allows them to focus on SQL workloads processing; only CPU/GPU can do.

データ量を減らす Reduction of data to load

元々、PG-StromはPostgreSQLのレコード（行データ形式）に対して、GPU上でWHERE句、JOIN、GROUP BYを実行する機能を持っており、多くの場合、これらのSQL操作はレコード数を減少させる方向に作用するという特性があります。 PG-Strom originally has a feature to execute WHERE-clause, JOIN and GROUP BY on GPU device to PostgreSQL's records (row data format). These SQL operations work to reduce number of records in most cases.

したがって、SSDから読み出したPostgreSQLデータブロックをGPUで前処理する事により、結果としてCPU/RAMにロードすべきI/O量を減少させる事が可能となります。そのため、非常に高いスループットでデータブロックを読み出しているにも関わらず、CPUが実際に処理すべきレコード数は遥かに少ないため、SSDの限界性能に近い処理速度を発揮できます。 Thus, pre-processing data blocks of PostgreSQL read from SSD by GPU allows to reduce amount of I/O to be loaded onto CPU/RAM in the results. Even though data blocks are loaded with very high throughput, much smaller number of records shall be processed by CPU, so we can pull out maximum throughput of SSD; which is near to the limit performance.

In-database 統計解析・機械学習 In-database Analytics & Machine-Learning

コンセプト Concept: GPUでの並列計算に対応したSQLユーザ定義関数として統計解析・機械学習で利用するアルゴリズムを提供し、最も計算量の多いアルゴリズムの中核部分をSQLに埋め込めるようにします。これにより、データベースからデータをエクスポートする必要がなくなるだけでなく、データサイエンティストの仕事の8～9割とも言われる前処理/後処理をSQLで柔軟に記述する事ができるようになります。 We offer various statistical analytics & machine-learning algorithms as user defined functions of SQL, parallel-executable on GPU devices. It allows to build the most computing intensive core portion of the algorithms into SQL statement. This feature does not only eliminate the need to export data from database system, but also allows to describe the pre-processing / post-processing portion, which often consumes 80-90% of data scientist's work, using SQL's flexibility.
PL/CUDAとライブラリ PL/CUDA & its library: PL/CUDAとは、SQLユーザ定義関数をGPU向け並列計算用プログラミング言語であるCUDA Cを用いて実装するための機能です。また、広く利用される"定番の"統計解析・機械学習アルゴリズムをライブラリ化（開発中）しており、データベースに格納したデータをこれらのPL/CUDA関数に渡すだけで、SQLで高度なデータ処理を実現できるようになります。 PL/CUDA is a feature to implement user defined function (UDF) in SQL, by CUDA C which is a programming language for GPU parallel computing. A library of statistical analytics & machine-learning algorithms frequently used is under development on top of PL/CUDA. It allows advanced analytics on SQL, using these PL/CUDA functions.

なぜ解析ワークロードをデータベース上で実行するのか？ Why we run analytic workloads in database?

SQLによる前処理/後処理 Pre-/Post-processing by SQL

数値データの正規化やサンプリング母集団の選択、入力する属性の選択など、統計解析・機械学習アルゴリズムを実行するには様々な前処理が必要となります。これらの計算量は決して大きくはないものの、一連の前処理をスクリプトで書こうとすると、デバッグや外れ値検査に相当な手間を取られる上に、選択すべきデータが変わったときのコード再利用性も不十分です。 Statistical analytics & machine-learning algorithms take various pre-processing like normalization, selection of population or attributes. Amount of calculation for them are not so big, however, it takes additional works for debug or outlier checks if we try to implement the pre-processing with script. Also, software reusability is not sufficient when we try on different data set.

SQLにはデータ解析を支援する様々なコマンド群が備わっており、例えばWHERE句に付加する条件一つでサンプリング母集団を切り替えたり、クエリ中に計算式を含める事でデータのスケールを変更する。あるいはCHECK()制約によって予め異常値を排除する事も可能です。これらの前処理をin-databaseで行った上で、計算負荷の高い部分だけをPL/CUDA関数で実行するという使い方ができます。 SQL has various commands that support data analytics. For example, we can easily switch sampling population with WHERE-clause, normalize numaric variables using expression formula in SQL, or eliminate outlier values with CHECK() constraint. We can leverage SQLs for the pre-processing in database, and kick PL/CUDA function to execute calculation intensive portion only. また、統計解析・機械学習アルゴリズムの処理結果を、例えば別のテーブルとJOINしたり、ORDER BY句でスコア順に並べ替えて必要なデータだけを取り出すといった柔軟性も、SQLを利用できるin-databaseのアプローチならではです。 Plus, results of the advanced algorithms can be joined to other tables, sorted according to the score to pick up required data only. These flexibility is a characteristic of SQL and in-database approach.

データを出さず、結果を返す Not to export data, return the results

現在のハードウェアでは数TBのローカルストレージも珍しい話ではありませんが、数GBを越えるデータをいったんデータベースの外部へエクスポートし、それを再びスクリプトで読み込んで処理するというのは、それなりに時間を要する作業です。サンプリング母集団や入力する属性を変えながらトライ&エラーを繰り返すのであればなおさらです。 Multi-terabytes class local storage is not rare for the modern hardware. On the other hands, it is a time consuming job if we try to export multi-gigabytes data then script imports and processes. Unignorable time will be needed, if user runs over try & error with different sampling population or chosen attributes.

データベースシステムの内部で統計解析・機械学習のアルゴリズムを呼び出す事で、テーブルから読み出したデータをオンメモリ状態に置いたまま、これをGPUの持つ数千コアで並列計算する事ができるようになります。これは単にデータ転送やローカルストレージへ書き込む際のI/Oを省略するだけでなく、データの入出力に伴うバイナリ⇔テキスト間のデータ形式変換に伴うCPU負荷の軽減にも繋がります。 By invocation of statistical analytics & machine-learning algorithms in database system, we can keep a data set read from the tables on memory, which can be processed by thousands cores of GPU in parallel. It is not only elimination of I/O for the data transfer over network or writing out to local storage, it also reduces CPU workloads for transformation between binary and text format due to data input and output.

前処理/アルゴリズム実行/後処理という一連のステップを全てデータベースシステム内で完結する事で、データを解析した結果である"ナレッジ"だけを出力するという事が可能になるのです。 Once a series of workloads, pre-processing/advanced algorithms/post-processing, gets completed in database system, it allows to output only "knowledge" which is results of data analytics.

データの蓄積、集計、解析に必要な全ての機能をこの一台に All the features needed for data collection, summarize and analytics in a box

HeteroServerを構成する中核技術 Core Technologies which construct HeteroServer

GPUによるSQLの超並列処理 Massive parallel SQL execution

ストレージの速度を最大化 Maximize Storage Throughput

In-database 機械学習 In-database Machine-Learning

利用シーンのご提案 Proposition of Use Scenario

ビジネスインテリジェンス & レポーティング Business Intelligence & Reporting

アノマリー検知 Anomary Detection

Specifications