[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata

1. PostgreSQL でスケールアウト構成を構築しよう db tech show tech 2013 2013/11/15 SRA OSS, Inc. 日本支社技術開発部　長田悠吾

2. 自己紹介 ● 長田悠吾（ながたゆうご） ● 所属 ● ● SRA OSS, Inc. 日本支社技術開発部業務 ● PostgreSQL 関連の技術調査 ● pgpool-II の開発・・・など ● SRA OSS, Inc. 日本支社 ● PostgreSQL を中心としたOSSのサポート/コンサルティング ● OSS 関連プロダクトの販売 ● 技術者トレーニングサービス Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 2

7. データベースのスケールアウト構成 ● 複数のデータベースサーバに処理を分散させる PostgreSQL PostgreSQL PostgreSQL ・・・サーバの数を増やすと性能がスケールするデータベースの複製（レプリケーション）参照クエリの負荷分散 pgpool-II 今回は PostgreSQL のレプリケーション機能と pgpool-II の負荷分散機能による　「参照性能のスケールアウト」の話 Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 7

8. pgpool-II とは？ ● アプリケーションと PostgreSQL の間に介在し、クラスタリング機能を提供するミドルウェア ● オープンソースソフトウェア（BSDライセンス） ● 多彩な機能 ● ● ● ● ● ● コネクションプーリング参照負荷分散オンメモリクエリキャッシュ自動フェールオーバーオンラインリカバリレプリケーション PostgreSQL クライアント Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. pgpool-II PostgreSQL 8

10. PostgreSQL のレプリケーション機能 ● ストリーミングレプリケーション（PostgreSQL 9.0 ～） ● ● マスタからスレーブにトランザクションログ（WAL）を転送することによりデータの複製を実現転送とリカバリの遅延のため、マスタとスレーブが常に同じ内容とは限らないスレーブは参照クエリを受け付けることができる（Hot Standby）マスタへは更新・参照の両方とも可能クライアント更新クエリ参照クエリ参照クエリリカバリし続ける WAL転送マスタ WAL 書き込み Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. スレーブ WAL 書き込み 10

11. PostgreSQL のレプリケーション機能 ● １つのマスタから複数のスレーブに複製可能 ● スレーブからさらに別のスレーブへのレプリケーションが可能 – ● カスケードレプリケーション（PostgreSQL 9.2 ～）スレーブは参照クエリを受け付けることができる – これを利用して参照性能のスケールアウト！参照スレーブクライアントスレーブスレーブスレーブ更新/参照マスタ複製複製スレーブ Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. スレーブ 11

12. （参考）pgpool-II によるレプリケーション ● ネイティブレプリケーションモード ● PostgreSQL のストリーミングレプリケーション機能を用いない pgpool-II 自身が持つレプリケーション機能 PostgreSQL 更新クエリ更新クエリ pgpool-II クライアント ● 更新クエリを全てのサーバに送信する – – ● 更新の遅延はない（同期レプリケーション）更新性能が 50% に落ちる更新の遅延が問題になる場合以外は、ストリーミングレプリケーションを用いるのがおすすめ Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 12

14. 負荷分散 PostgreSQL はクエリ振り分け機能を提供してくれない！更新/参照更新/参照 pgpool-II クライアント ● マスタ参照スレーブ参照クエリの自動振り分け ● 更新クエリはマスターサーバへ送信 ● ● PostgreSQL ストリーミングレプリケーション参照クエリはサーバ間に振り分ける負荷分散スレーブ・・・ ● ● ● 参照クエリを配分する負荷の重み付けが可能スレーブサーバを増やすことにより参照性能をスケールアウトすることが可能レプリケーション遅延の監視 ● 遅延が閾値を越えたら負荷分散の対象から外すことが可能 Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 14

15. 自動フェイルオーバ PostgreSQL は自動フェイルオーバ機能を提供してくれない！障害検出更新/参照更新/参照 pgpool-II クライアント PostgreSQL ストリーミングレプリケーションマスタ参照スレーブ参照スレーブ ● pgpool-II は PostgreSQL を定期的に監視 ● ダウンしたノードは自動的に切り離される ● ・・・ノードがダウンした場合の後処理はシェルスクリプトで記述する – マスタがダウンした場合には、１つのスレーブをマスターに昇格させ、他のスレーブの「複製元」を新しいマスタに変更する・・・など Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 15

16. 自動フェイルオーバ PostgreSQL PostgreSQL は自動フェイルオーバ機能を提供してくれない！ダウン更新/参照 pgpool-II 更新/参照クライアントストリーミングレプリケーションマスタ参照スレーブ ● pgpool-II は PostgreSQL を定期的に監視 ● ダウンしたノードは自動的に切り離される ● ・・・ノードがダウンした場合の後処理はシェルスクリプトで記述する – マスタがダウンした場合には、１つのスレーブをマスターに昇格させ、他のスレーブの「複製元」を新しいマスタに変更する・・・など Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 16

17. オンラインリカバリ PostgreSQL このノードを復帰させるダウン更新/参照 pgpool-II クライアントサービスの運用は止めない更新/参照ストリーミングレプリケーションマスタ参照スレーブ・・・ ● システムの運用を止めずにノードを復帰させる機能 ● マスタのベースバックアップを取得し、これを元にリカバリを行う Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 17

18. オンラインリカバリ参照更新/参照 pgpool-II クライアントサービスの運用は止まらない PostgreSQL ストリーミングレプリケーションスレーブリカバリ更新/参照マスタ参照スレーブ・・・ ● システムの運用を止めずにノードを復帰させる機能 ● マスタのベースバックアップを取得し、これを元にリカバリを行う Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 18

19. 新しいスレーブの追加参照更新/参照 pgpool-II スレーブ更新/参照マスタクライアント参照サーバの情報を登録参照このノードを追加 ● PostgreSQL ストリーミングレプリケーションスレーブリカバリスレーブ同じ方法で新しいスレーブサーバの追加が可能 ● pgpool-II に追加するサーバの情報（ホスト名、ポート番号など）を登録 ● その後に、オンラインリカバリを行う →　参照性能のスケールアウトが容易に！ Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 19

21. pgpool-II の active/standby 構成 ● Watchdog ● ● pgpool-II 組み込みの高可用性機能 pgpool-II を Active/Standby 構成にすることで SPoF（単一障害点）を回避 – クライアントは Active pgpool-II に仮想IP(VIP)でアクセスする – Active pgpool-II がダウンしたら、standby pgpoo-II が VIP を引き継ぐ Active (VIP を保持） PostgreSQL ストリーミングレプリケーションマスタ pgpool-II 相互監視スレーブクライアント pgpool-II Standby Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. スレーブ・・・ 21

22. マルチマスタ的構成 ● APサーバと pgpool-II を1台のサーバに同居させた構成 ● ● ● pgpoo-II が冗長化されている APサーバ/pgpool-II のペアを増やすことで、APサーバの性能をスケールアウト可能 PostgreSQL を増やすことでDB参照性能をスケールアウト可能 PostgreSQL AP サーバ AP サーバ pgpool-II AP サーバ負荷分散装置 pgpool-II pgpool-II マスタスレーブクライアント Copyright © 2013 SRA OSS, Inc. Japan All rights ・・・ reserved. スレーブ・・・ 22

24. スケールアウト性能 ● ● 参照性能は本当にスケールアウトするか？ pgpool-II(3.2.1) & PostgreSQL(9.2.1)で、ノード数を増やすと全体の処理能力が向上するかを確認 ● １～４台の PostgreSQL で検証 ● マルチマスタ的構成と似た構成 ● APサーバに相当する位置に、ベンチマークツール（pgbench）が配置されている。 ※PostgreSQL エンタープライズ・コンソーシアム　性能ワーキングループ（WG1） 2012 年度成果物より引用 Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 24

25. スケールアウト性能（結果） ※PostgreSQL エンタープライズ・コンソーシアム　性能ワーキングループ（WG1） 2012 年度成果物より引用全ノードのtps合計 tps: トランザクション/秒 1ノード毎のtps ノード数ノード数が増えるほど、合計の tps が増える（スケールメリットあり） Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 25

27. デモの内容 ● 運用中のシステムに新しいスレーブを追加 ● ● ベンチマーク処理を中断せずに新しいノードが追加可能負荷分散により、自動的に新しいスレーブに参照クエリが振り分けられるようになる参照更新/参照 pgpool-II PostgreSQL ストリーミングレプリケーションスレーブ更新/参照マスタクライアント参照サーバの情報を登録このノードを追加 Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 参照スレーブリカバリスレーブ 27

29. まとめ ● PostgreSQL 標準のレプリケーション機能 ● ● ストリーミングレプリケーション pgpool-II ● ● クエリの自動振り分け ● 自動フェイルオーバ ● オンラインリカバリ ● ● 負荷分散新規ノードの追加これらの組み合わせによる、PostgreSQL 参照性能スケールアウト構成の紹介 ● 参照性能のスケールアウト ● 新規ノード追加のデモ Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 29

30. 参考URL ● PostgreSQL ドキュメント ● ● http://www.postgresql.jp/document/9.3/html/ pgpool-II オフィシャルサイト ● http://www.pgpool.net/ PostgreSQL エンタープライズコンソーシアム ● 略称：PGECons ● 2012 年度実施報告書に PostgreSQL のスケールアウト検証の結果あり ● http://www.pgecons.org/ Let's Postgres ● PostgreSQL 情報のポータルサイト ● pgpool-II 関連の記事あり ● http://lets.postgresql.jp/ Copyright © 2013 SRA OSS, Inc. Japan All rights reserved. 30

[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata

Insight Technology, Inc.

[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata

A particular slide catching your eye?