AWS Black Belt Tech シリーズ 2015 - Amazon DynamoDB

Transcript of "AWS Black Belt Tech シリーズ 2015 - Amazon DynamoDB"

1. 1. Amazon DynamoDB 2015/08/05 AWS Black Belt Tech Webinar 2015 アマゾンデータサービスジャパン株式会社 ソリューションアーキテクト 森 祐孝
2. 2. Agenda • DynamoDBとは • テーブル設計とサンプル • DynamoDB Streams • AWS Mobile SDKと 2-Tier アーキテクチャ • 運用関連 • ツールとエコシステム • まとめ
3. 3. Agenda • DynamoDBとは • テーブル設計 • DynamoDB Streams • AWS Mobile SDKと 2-Tier アーキテクチャ • 運用関連 • ツールとエコシステム • まとめ
4. 4. Amazon DynamoDBの生い立ち • Amazon.comではかつて全てのアクセスパターンをRDBMSで 処理していた • RDBMSのスケールの限界を超えるため開発されたDynamoが 祖先 • 結果整合性モデル採用に よる可用性向上 • HWを追加する毎に性能 が向上するスケーラビリ ティ • シンプルなクエリモデル による予測可能な性能
5. 5. Amazon DynamoDBの特徴 • 完全マネージド型の NoSQL データベースサービス • ハイスケーラブル、低レイテンシー • 高可用性– 3x レプリケーション • シンプル且つパワフルAPI • ストレージの容量制限がない • 運用管理必要なし
6. 6. DynamoDBの特長 • 管理不要で信頼性が高い • プロビジョンドスループット • ストレージの容量制限がない
7. 7. 特長１：管理不要で信頼性が高い • SPOFの存在しない構成 • データは3箇所のAZに保存されるので信頼性が高い • ストレージは必要に応じて自動的にパーティショニング される クライアント
8. 8. 特長２：プロビジョンドスループット • テーブルごとにReadとWriteそれぞれに対し、必要な分 だけのスループットキャパシティを割り当てる（＝プロ ビジョンする）ことができる • 例えば下記のようにプロビジョンする – Read : 1,000 – Write : 100 • 書き込みワークロードが上がってきたら – Read : 500 – Write : 1,000 • この値はDB運用中にオンラインで変更可能 – ただし、スケールダウンに関しては日に４回までしかできないので注意
9. 9. 特長３：ストレージの容量制限がない • 使った分だけの従量課金制のストレージ • データ容量の増加に応じたディスクやノードの増設作業 は一切不要
10. 10. DynamoDBの整合性モデル • Write • 少なくとも２つのAZでの書き込み完了が確認とれた時点でAck • Read • デフォルト • 結果整合性のある読み込み • 最新の書き込み結果が反映されない可能性がある • Consistent Readオプションを付けたリクエスト • GetItem、Query、Scanでは強力な整合性のある読み込みオプ ションが指定可能 • Readリクエストを受け取る前までのWriteがすべて反映されたレス ポンスを保証 • Capacity Unitを２倍消費する
11. 11. DynamoDBの料金体系 • プロビジョンドスループットで決まる時間料金 – Read/Writeそれぞれプロビジョンしたスループットによって時 間あたりの料金がきまる – 大規模に利用するのであればリザーブドキャパシティによる割 引もあり • ストレージ利用量 – 保存したデータ容量によって決まる月額利用料金 – 計算はGBあたりの単価が適用される – 月当たり初めの25GB分は無料 – GBあたり$0.285(2015/08/05現在@東京リージョン) http://aws.amazon.com/jp/dynamodb/pricing/
12. 12. DynamoDBの料金体系 • プロビジョンドスループット – Read・Writeそれぞれ25キャパシティユニットまでは無料 – 書き込み • $0.00742 :10 ユニットの書き込み容量あたり/1 時間 – 読み込み • $0.00742 : 50 ユニットの読み込み容量あたり/1 時間 • キャパシティユニット 上記で「ユニット」と呼ばれている単位のこと – 書き込み • 1ユニット：最大1KBのデータを1秒に1回書き込み可能 – 読み込み • 1ユニット：最大4KBのデータを1秒に1回読み込み可能 （強い一貫性を持たない読み込みであれば、1秒辺り2回）
13. 13. DynamoDBが使われているユースケース • KVSとして – ユーザー情報の格納するデータベース • 広告やゲームなどのユーザー行動履歴DBとして – ユーザーIDごとに複数の行動履歴を管理するためのデータベース • モバイルアプリのバックエンドとして – モバイルアプリから直接参照できるデータベースとして • 他にも – バッチ処理のロック管理 – フラッシュマーケティング – ストレージのインデックス
14. 14. DynamoDBを使い始めるには 1. テーブルのKeyやIndexを決める 2. Read/Writeそれぞれのスループットを決める 3. DynamoDB Streamsの設定を決める
15. 15. DynamoDBの構成要素 API SDK オペレーションはHTTPベースのAPIで提供されている Database ClientSideServiceSide Client application
16. 16. • CreateTable • UpdateTable • DeleteTable • DescribeTable • ListTables • GetItem • PutItem • UpdateItem • DeleteItem • Query • Scan • BatchGetItem • BatchWriteItem • Liststreams • DescribeStream • GetShardIterator • GetRecords Table API Stream API DynamoDB 提供されているAPI
17. 17. テーブル操作について • GetItem • Hash keyを条件として指定し、 一件のアイテムを取得 • PutItem • 1件のアイテムを書き込む • Update • 1件のアイテムを更新 • Delete • 1件のアイテムを削除 • Query • Hash keyとRange keyの複合条件に マッチするアイテム群を取得 • BatchGet • 複数のプライマリキーを指定して マッチするアイテム群を取得 • Scan • テーブル総ナメする よく使われるオペレーションは以下のとおり ※Query または Scan オペレーションで、 最大 1 MB のデータを取得可能
18. 18. AWS SDKs and CLI • 各種言語むけのオフィシャルSDKやCLIを利用 Java Python PHP .NET Ruby nodeJS iOS Android Javascript in the Browser AWS CLI
19. 19. オフィシャルSDK以外にも • Perl – Net::Amazon::DynamoDB • Erlang – wagerlabs/ddb • https://github.com/wagerlabs/ddb • Go – goamz • https://github.com/crowdmob/goamz その他利用できる開発者用リソースはこちら http://aws.amazon.com/jp/dynamodb/developer-resources/
20. 20. Agenda • DynamoDBとは • テーブル設計 • 運用関連 • ツールとエコシステム • まとめ
21. 21. テーブル設計 基礎知識 table items attributes Hash Key Range Key 必須 キーバリュー型のアクセスパターン データ分散に利用される オプション 1:Nモデルのリレーションシップ 豊富なQueryをサポート ハッシュキー検索用 ==, <, >, >=, <= “begins with” “between” sorted results counts 先頭/末尾 N件 ページ単位出力 name/value 型、JSON 型等 アイテム間で不揃いであって も問題ない
22. 22. Attributesの型 – String – Number – Binary – Boolean – Null – 多値データ型 • Set of String • Set of Number • Set of Binary – ドキュメントデータ型 • List型は、順序付きの値のコレクションを含む • Map型は、順序なしの名前と値のペアのコレク ションを含む { Day: "Monday", UnreadEmails: 42, ItemsOnMyDesk: [ "Coffee Cup", "Telephone", { Pens: { Quantity : 3}, Pencils: { Quantity : 2}, Erasers: { Quantity : 1} } ] } ※ Hash Key ,Range Keyの型は、文字列、数値、または バイナリでなければならない
23. 23. DynamoDBのテーブルのプライマリキーの持ち方は２種類 • Hash key • Hash key & Range key
24. 24. 00 55 A954 AA FF Hash Table • Hash key は単体でプライマリキーとして利用 • 順序を指定しないハッシュインデックスを構築するためのキー • テーブルは、性能を確保するために分割(パーティショニング)される場合あり 00 FF Id = 1 Name = Jim Hash (1) = 7B Id = 2 Name = Andy Dept = Engg Hash (2) = 48 Id = 3 Name = Kim Dept = Ops Hash (3) = CD Key Space
25. 25. データは3箇所にレプリケーション Id = 2 Name = Andy Dept = Engg Id = 3 Name = Kim Dept = Ops Id = 1 Name = Jim Id = 2 Name = Andy Dept = Engg Id = 3 Name = Kim Dept = Ops Id = 1 Name = Jim Id = 2 Name = Andy Dept = Engg Id = 3 Name = Kim Dept = Ops Id = 1 Name = Jim AZ-1 AZ-2 AZ-3 Partition 1 Partition 2 Partition N
26. 26. Hash-Range Table • Hash + Rangeでプライマリキーとすることもできる • 同一のHash Keyでのデータの並びを保証するためにRange keyが使わ れる • Hash Keyの数に上限はない（Local Secondary Indexesを使用時は上 限あり） 00:0 FF:∞ Hash (2) = 48 Customer# = 2 Order# = 10 Item = Pen Customer# = 2 Order# = 11 Item = Shoes Customer# = 1 Order# = 10 Item = Toy Customer# = 1 Order# = 11 Item = Boots Hash (1) = 7B Customer# = 3 Order# = 10 Item = Book Customer# = 3 Order# = 11 Item = Paper Hash (3) = CD 55 A9:∞ 54:∞ AA Partition 1 Partition 2 Partition 3
27. 27. – Hash、Rangeに該当するAttributes以外は事前に定義する必要はない – レコード間でAttributesが不揃いであっても問題ない Attributesについて Hash-Range Table Item Attribute1 (Number) Hash key Item Attribute1 (Number) Attribute3 (Binary) Hash key Item Attribute1 (Number) Hash key Attribute2 (String) Attribute2 (String) Attribute2 (String) Range key Range key Range key Hash Table Item Attribute1 (Number) Hash key Item Attribute1 (Number) Attribute3 (Binary) Hash key Item Attribute1 (Number) Attribute2 (String) Hash key プライマリキー以外のAttributeは事 前定義の必要はなくput時に指定し たものを格納できる
28. 28. JSONサポート • JSON( JavaScript Object Notation)フォーマット のドキュメントをDynamoDBの1アイテムとして保 存可能 ※サイズ上限として400KB以内が条件 • DynamoDB 内部ではJsonデータをそのまま保持し ていないため独自に JSON 解析を実装するか、 AWS SDK などのライブラリを利用する { "current_city": { "S": "Tokyo" }, "first_name": { "S": "Jeff" }, "last_name": { "S": "Barr" }, "next_haircut": { "M": { "day": { "N": "30" }, "month": { "N": "10" }, "year": { "N": "2014" } } }, "person_id": { "N": "123" } ・・・・・・・・・・・・・・・・・・ DynamoDBの内部フォーマット { "person_id" : 123, "last_name" : "Barr", "first_name" : "Jeff", "current_city" : "Tokyo", "next_haircut" : { "year" : 2014, "month" : 10, "day" : 30 }, "children" : [ "SJB", "ASB", "CGB", "BGB", "GTB" ] }
29. 29. AWSマネージメントコンソールのJSON対応 • AWSマネージメントコンソールからJSONドキュメントの取 得、追加、編集が可能 Tree形式 テキスト形式
30. 30. JSON Document SDK • シンプルなプログラミングモデル • JSONから変換、JSONへの変換が可能 • Java, JavaScript, Ruby, .NET, PHP Javascript DynamoDB string S number N boolean BOOL null NULL array L object M https://aws.amazon.com/tools/
31. 31. Scaling • スループット – テーブル単位で、読み書きのスループットを指定 （プロビジョニングされたスループット） • サイズ – テーブルには任意の数のアイテムが追加可能 • 1 つのアイテムの合計サイズは 400 KB • local secondary index について、異なるハッシュキーの値ごと に最大 10GB のデータを格納
32. 32. スループット • テーブルレベルによってプロビジョニング – Read Capacity Units (RCU) • 1 秒あたりの読み込み項目数 x 項目のサイズ (4 KB ブロック) • 結果整合性のある読み込みをする場合はスループットが 2 倍 例1）アイテムサイズ：1.2KB(1.2/ 4≒0.3 ⇒ 1 繰り上げ) 読み込み項目数1000回/秒 1000 × 1 = 1000 RCU 例2）アイテムサイズ:4.5KB (4.5 / 4≒1.1 ⇒ 2 繰り上げ) 読み込み項目数1000回/秒 1000 × 2 = 2000 RCU ※結果整合性のある読み込みの場合 1000 × 2 × ½ = 1000 RCU
33. 33. スループット – Write Capacity Units (WCU) • 1 秒あたりの書き込み項目数 x 項目のサイズ (1 KB ブロック) • 1KBを下回る場合は繰り上げられて計算 例1）アイテムサイズ：512B(0.512/ 1≒ 0.5 ⇒ 1 繰り上げ) 書き込み項目数 1000項目/秒 1000 × 1 = 1000 WCU 例2）アイテムサイズ:2.5KB (2.5 / 1 = 2.5 ⇒ 3 繰り上げ) 書き込み項目数1000項目/秒 1000 × 3 = 3000 WCU • 読み込みと書き込みのキャパシティユニットは個別 に設定
34. 34. スループットの見積もり ①概算の見積もりから、実運用 開始時は、キャパシティを大き めに設定 ※あまり大きくし設定し過ぎると、パーテ ション分割時のキャパシティ分割に注意 ②実運用で様子を見て、キャパ シティを調整
35. 35. パーティション パーティションの数はDynamoDBがマネージ するので、ユーザーはパーティション数を気に することなく運用できるようになっている。逆 に言うと直接知る方法はない。しかし、パー ティション分割の特性を理解しておくことでよ り便利にDynamoDBを活用できるようになる。
36. 36. パーティショニング • DynamoDBはプロビジョンされたスループッ トを確保するためにテーブルを複数のパー ティションに分散して格納 partition 1..N partitions 1 .. N table • Hash Keyをパーティション間でのデータ分散に利用し、格納ス トレージサイズやプロビジョンされたスループットによって自動 的にパーティショニングを実施
37. 37. A,D B,E C,F 123456789 Parition1 Partition2 ParitionN パーティション内でのスループット スループットはパーティションに均等に付与さ れる • プロビジョンしたスループットは各パー ティションに均等に付与され、全体で合 計値の性能が出るように設計されている • アクセスされるキーに偏りが発生すると 思うように性能がでないという自体を招 くため、Hash keyの設計には注意が必要 プロビジョンドスループット: x x/N x/N x/N
38. 38. パーティショニング数の算出 # 𝑜𝑓 𝑃𝑎𝑟𝑡𝑖𝑡𝑖𝑜𝑛𝑠 (𝑓𝑜𝑟 𝑡ℎ𝑟𝑜𝑢𝑔ℎ𝑝𝑢𝑡) = 𝑅𝐶𝑈𝑓𝑜𝑟 𝑟𝑒𝑎𝑑𝑠 3000 𝑅𝐶𝑈 + 𝑊𝐶𝑈𝑓𝑜𝑟 𝑤𝑟𝑖𝑡𝑒𝑠 1000 𝑊𝐶𝑈 ①DynamoDB では、1 つのパーティションに対して、最大 3,000 個 の読み込みキャパシティーユニットまたは 1,000 個の書き込みキャパ シティーユニットを割り当てられる。 ②単一のパーティションには、約 10 GB のデータを保持される # 𝑜𝑓 𝑃𝑎𝑟𝑡𝑖𝑡𝑖𝑜𝑛𝑠 = 𝑇𝑎𝑏𝑙𝑒 𝑆𝑖𝑧𝑒 𝑖𝑛 𝐺𝐵 10 𝐺𝐵(𝑓𝑜𝑟 𝑠𝑖𝑧𝑒) パーティション数はストレージ容量とスループットで決まる
39. 39. パーティショニング数の算出 • 大きいほうを採用 (𝑓𝑜𝑟 𝑡ℎ𝑟𝑜𝑢𝑔ℎ𝑝𝑢𝑡)(𝑓𝑜𝑟 𝑠𝑖𝑧𝑒)(𝑡𝑜𝑡𝑎𝑙) partitions 1 .. N table
40. 40. パーティショニング数の算出例 # 𝑜𝑓 𝑃𝑎𝑟𝑡𝑖𝑡𝑖𝑜𝑛𝑠 = 8 𝐺𝐵 10 𝐺𝐵 = 0.8 = 1 (𝑓𝑜𝑟 𝑠𝑖𝑧𝑒) # 𝑜𝑓 𝑃𝑎𝑟𝑡𝑖𝑡𝑖𝑜𝑛𝑠 (𝑓𝑜𝑟 𝑡ℎ𝑟𝑜𝑢𝑔ℎ𝑝𝑢𝑡) = 5000 𝑅𝐶𝑈 3000 𝑅𝐶𝑈 + 500 𝑊𝐶𝑈 1000 𝑊𝐶𝑈 = 2.17 = 3 Table size = 8 GB, RCUs = 5000, WCUs = 500 (𝑡𝑜𝑡𝑎𝑙) RCUs per partition = 5000/3 = 1666.67 WCUs per partition = 500/3 = 166.67 Data/partition = 8/3 = 2.66 GB RCUとWCU の値は均一に各パー テションに割り当てられる • スループット • ストレージサイズ • 大きいほうを採用
41. 41. A,D B,E C,F 123456789 Parition1 Partition2 ParitionN 各パーティションには、 テーブルの総スルー プットをパーティショ ン数で割った分が均等 にわりあてられている。 Table プロビジョンドスループット: x x/N x/N x/N Capacity変更時の注意事項
42. 42. Parition1 Partition2 Table プロビジョンドスループット: 2x x/2 x/2 Parition1 Partition2 2x/4 2x/4 Parition3 Partition4 Table 2x/4 2x/4 プロビジョンドスループット: x キャパシティのプロビジョンを 増やすと、前述の計算式にした がってパーティション数も増え ていく 前述の計算式の値をMAXとし、各 パーティションにキャパシティが Allocateされていき、MAXを超えると パーティションが追加される Capacity変更時の注意事項
43. 43. プロビジョンドスループット: 2x Parition1 Partition2 2x/4 2x/4 Parition3 Partition4 Table 2x/4 2x/4 キャパシティを減らすときはパー ティション数は減らずに、各パー ティションのキャパシティが減る ので注意！ プロビジョンドスループット: x Parition1 Partition2 x/4 x/4 Parition3 Partition4 Table x/4 x/4 ひとつひとつのパーティションのキャ パシティが低い状態になる。結果とし てキャパシティエラーを起こしやすい 状態になる。 Capacity変更時の注意事項
44. 44. Burst Capacity 0 400 800 1200 1600 CapacityUnits Time Provisioned Consumed 使われなかったキャパシティ分を保持 保持していたキャパシティを使用 バーストキャパシティ: 300秒 (1200 × 300 = 3600 CU) DynamoDBはパーティションごとのキャパシティのうち、利用されな かった分を過去300秒分までリザーブ プロビジョン分を超えたバーストラフィックを処理するために利用する
45. 45. Burst Capacityでは不十分な場合もある 0 400 800 1200 1600 CapacityUnits Time Provisioned Consumed Attempted バーストキャパシティ: 300秒 (1200 × 300 = 3600 CU) 超過したリクエスト バーストキャパシティの機能に依存しないように。
46. 46. Local Secondary Index (LSI) • Range key以外に絞り込み検索を行うkeyを持つことができる • Hash keyが同一で、他のアイテムからの検索のために利用 • すべての要素（テーブルとインデックス）の合計サイズを、 各ハッシュキーごとに 10 GB に制限 A1 (hash) A3 (range) A2 (table key) A1 (hash) A2 (range) A3 A4 A5 LSIs A1 (hash) A4 (range) A2 (table key) A3 (projected) Table KEYS_ONLY INCLUDE A3 A1 (hash) A5 (range) A2 (table key) A3 (projected) A4 (projected) ALL
47. 47. Global Secondary Index (GSI) • Hash Key属性の代わりとなる • Hash Keyをまたいで検索を行うためのインデックス A1 (hash) A2 A3 A4 A5 GSIs A5 (hash) A4 (range) A1 (table key) A3 (projected) Table INCLUDE A3 A4 (hash) A5 (range) A1 (table key) A2 (projected) A3 (projected) ALL A2 (hash) A1 (table key) KEYS_ONLY
48. 48. GSIの更新フロー Table Primary table Primary table Primary table Primary table Global Secondary Index Client 2. 非同期Update (in progress) GSIにはテーブルとは独立したスループットをプロビジョンして利用するため 十分なスループットが必要
49. 49. LSI/GSIを使う際の注意点 • LSI/GSIは便利だが、スループットやストレージ容量を追加で必 要とする • 特にインデックスの数が増えれば増えるほど書き込みコストが上 がる • セカンダリインデックスに強く依存するようなテーブル設計にな るようであれば、一度RDBで要件を満たせないかを確認してみる のがベター
50. 50. 高度なテーブル操作についてのオペレーション • 強い一貫性を持ったReadオペレーション • GetItem、Query、ScanにはConsistent Readというオプションを指定することができ、 これを利用すると、Readリクエストを受け取るよりも前に成功しているすべてのWrite リクエストが反映された結果が返る。Read Capacity Unitを通常の2倍消費するので注意。 • Conditional Write • 「キーにマッチするレコードが存在したら/しなかったら」や「この値が○○以上/以下 だったら」という条件付き書き込み/更新ができる • Filter式による結果の絞込 – Query または Scanでは、必要に応じてフィルタ式を指定して、返された結果を絞り込む ことができる – Query、Scanの１MBの制限はフィルタ式の適用前に適用。また、消費されるキャパシ ティユニットもフィルタ式を指定しなくても同じ
51. 51. 高度なテーブル操作についてのオペレーション • UpdateItemにおけるAttributeへの操作 • Attributeに対して、UpdateItemでPut、Add、Deleteという3種類の操 作が可能 • Put：Attributeを指定した値で更新 • Add：AttributeがNumber型なら足し算/引き算、Set型ならそのセットに対 して値を追加する • Delete：当該Attributeを削除する • Atomic Counter • 上記のAddを利用することによって、Atomicなカウンターを実現するこ ともできる
52. 52. Agenda • DynamoDBとは • テーブル設計 • DynamoDB Streams • AWS Mobile SDKと 2-Tier アーキテクチャ • 運用関連 • ツールとエコシステム • まとめ
53. 53. DynamoDB Streams? DynamoDB StreamsDynamoDB
54. 54. What is DynamoDB Streams? • DynamoDBに行われた追加、更新、削除の変更 履歴を保持しとりだし可能 • 過去 24 時間以内にそのテーブルのデータに対 して行われた変更のストリームすべてにアクセ ス可能。24時間経過したストリームデータは、 その後、消去される • DynamoDB Streams の容量は自動的に管理
55. 55. DynamoDB Streamsの順番保証 • 操作が行われた順番に沿ってデータは、シリアライズされる。 • 特定のハッシュキーに対して行われた変更は、正しい順序で取得可能 • ハッシュキーが異なる場合は、受信した順序とは異なる順序で DynamoDB Streamsに格納されることがある 例）ゲームのハイスコア保存しているテーブル テーブルの各項目が個別のプレーヤーのポイントを下の順番に実行 ① プレーヤー 1 ：100 ポイントに変更 ② プレーヤー 2 ：50 ポイントに変更 ③ プレーヤー 1 ：125 ポイントに変更 ①と③は同じ項目（プレーヤー 1）に対する変更なので、①より後に③が表 示される。これにより、各プレーヤーの最新のハイスコアを取得できる。 3 つの更新すべてが正しい順序で表示されるとは限らないが（②が①より後 で ③より前に表示されるなど）、各個別プレーヤーのレコードに対する更 新は正しい順序になる。
56. 56. DynamoDB Streamsからの読み取り • DynamoDB SDK、CLIやKCL(Kinesis Client Library)を用いて読み取り可能 • DynamoDB テーブルのWriteプロビジョニングス ループットの最大 2 倍の速度で、DynamoDB Streams から更新を読み取ることが可能 例)1 秒間に 1,000 項目を更新するのに十分な能力を DynamoDB テーブルにプロビジョニングしている場合、1 秒間に最大 2,000 件の 更新を DynamoDB Streams から読み取ることができる。 • DynamoDBへの変更は1 秒未満で反映される
57. 57. DynamoDB Streamsの使いドコロ • クロスリージョンレプリケーション • ゲームやソーシャルサイト等のユーザの集計、 分析、解析のための非同期集計 • ユーザーが新しい写真をアップロードするとす ぐにサークル内のすべての友人のモバイルデバ イスに自動的に通知するモバイルアプリケー ションの構築等
58. 58. View Type Destination 古いイメージ – 更新前の情報 Name = John, Destination = Mars 新しいイメージ – 更新後の情報 Name = John, Destination = Pluto 新旧イメージ Name = John, Destination = Mars Name = John, Destination = Pluto キーのみ Name = John View types 更新情報（Name = John, Destination = Mars） ⇒(Name = John, Destination = Pluto)
59. 59. DynamoDB Streams API API名 ListStreams 現在のアカウントのエンドポイントのストリーム記述子（ストリー ムARN）のリストを返す。 DescribeStream 指定されたストリームの詳細情報を返す。 ストリームの現在の状態、そのアマゾンリソース名（ARN）、そ のシャードの構成、およびそれに対応するDynamoDBのテー ブルを含むストリームに関する情報を返す GetShardIterator シャードイテレータの位置を返す。シャードのどこからデータを 読み始めたいかを指定するために使用する。イテレータで最も 古いポイントや最新のポイント、またはストリーム内の特定のポ イントを指定する。 GetRecords 指定されたシャード内からのストリーム·レコードを返す。 GetShardIteratorから取得したシャードイテレータを指定する。 1回で最大１MBまたは1000件のストリームレコードを取得可能
60. 60. Streams Table Partition 1 Partition 2 Partition 3 Partition 4 Partition 5 テーブル Shard 1 Shard 2 Shard 3 Shard 4 KCL Worker KCL Worker KCL Worker KCL Worker Amazon Kinesis Client Library Application DynamoDB クライアント アプリケーション 更新 DynamoDB Streams and Amazon Kinesis Client Library
61. 61. KCL(Kinesis Client Library) • Kinesis API を使い慣れている開発者 は、DynamoDB Streams を簡単に利 用可能 • Amazon Kinesis インターフェイスを 実装する DynamoDB Streams Adapter を使用すると、アプリケー ションで Amazon Kinesis クライアン トライブラリ（KCL）を使用して DynamoDB Streams にアクセス可能
62. 62. DynamoDB Triggers DynamoDB + AWS Lambda= DynamoDB Triggers • AWS Lambda • OS、キャパシティ等インフラ の管理不要 • S3、Kinesis、SNS等でのイ ベント発生を元にユーザが用 意したコード（Node.js、 Java）を実行 • ユーザアプリからの同期/非 同期呼び出し
63. 63. DynamoDB Triggers ユースケース • DynamoDBへの書き込みに応じて値チェックをしつつ別テーブル の更新やプッシュ通知を実行 • DynamoDBの更新状況の監査ログをS3に保存 • ゲームデータなどのランキング集計を非同期に実施 AWS Lambda Amazon DynamoDB Table and Streams プッシュ通知 別テーブルを 更新 監査ログを 保存
64. 64. DynamoDB Streams 利用料金 • Streamsの機能を有効化するのは無料 • 毎月最初のReadリクエスト 250万件は無料 • その後は、0.20 USD/100万 DynamoDB StreamsDynamoDB
65. 65. DynamoDB Stream Cross-Region Replication Library Asia Pacific (Tokyo) EU (Ireland) ReplicaUS East (N. Virginia) DynamoDB Cross-region Replication
66. 66. DynamoDB Cross-region Replicationユースケース • DRとして利用：複数のリージョンへのテーブルを複製すること で、データセンターの障害が発生した場合に、他のリージョンへ 切り替えることが可能となる • 速いリード：複数のリージョンにサイトを運営している場合、最 も近いAWSのリージョンからDynamoDBのテーブルを読み取る ことで、より高速なデータを提供することが可能となる • RR：テーブル全体の読み取り作業負荷を分散するためにレプリカ を使用することにより、マスター表のリードキャパシティを節約 することができる • リージョンマイグレーション：新しいリージョンにリードレプリ カを作成し、マスターデータをレプリカにレプリケーションし、 簡単にそのリージョンにシステム移行を行う
67. 67. DynamoDB Cross-region Library https://github.com/awslabs/dynamodb-cross-region-library オープンソースとなっており、独自で組み込み可能
68. 68. DynamoDB Cross-region Replication DynamoDBのドキュメント http://docs.aws.amazon.com/amazondynamodb/latest/developerguide/Streams.CrossRegionRepl.Walkthrough.Step2.html DynamoDB Cross-region Libraryを用いて、CloudFormation化
69. 69. DynamoDB Cross-region Replication 1 事前設定済みのAWS CloudFormationスタックを起動 これが完了するのに約20分かかり、1回限りの操作 2 AWS CloudFormationスタックは、AWS Elastic Beanstalkを使用して Amazon EC2コンテナサービス（アマゾンECS）に レプリケーション·コーディネーターとDynamoDBのコネクタを起動 3 レプリケーショングループを作成するには、クロスリージョンレプリケー ションコンソールを利用 4 レプリケーション·コーディネーターは、メタデータ表、その他のリージョ ンでのレプリカテーブルを含む必要なすべてのリソースを割り当て この操作は、完了するまでに最大30分かかる 5 DynamoDBのコネクタは、DynamoDBの中でマスターテーブル上のスト リームからの更新データを読み取り、処理 6 DynamoDBのコネクタは、レプリカ表（複数可）を更新
70. 70. DynamoDB Cross-region Replication CloudFormationコンソール内か ら起動プロセスを開始 CloudFormationでは、スタックと コンテナを作成するために必要 な情報の入力 スタック（テンプレートによって起 動するAWSリソースセットの総 称）に名前を付けて、Nextをク リックして次へ
71. 71. DynamoDB Cross-region Replication 次に、パラメータに入力 使用するEC2のインスタンスタ イプ等を入力 （基本はそのままで大丈夫なは ず）
72. 72. DynamoDB Cross-region Replication レプリケーション·アプリを起動し た後、EC2上のオンラインの config設定ページ （CloudFormationテンプレートか らURLが生成される）にアクセス する事が出来る様になり、レプリ ケーショングループを作成（マス ターテーブル、レプリカテーブル 設定）し、実行
73. 73. Agenda • DynamoDBとは • テーブル設計 • DynamoDB Streams • AWS Mobile SDKと 2-Tier アーキテクチャ • 運用関連 • ツールとエコシステム • まとめ
74. 74. AWS Mobile SDK クロスプラットフォーム – Android, Fire OS, iOS, Unity をサポート 共通の認証 – Amazon Cognito により認証機構を迅速に導入可能 ネットワーク状態を自動でハンドリング – 例： ローカルキャッシュによりオフラインでも利用可能 メモリフットプリントの削減 – 導入するパッケージをサービス単位で選択可能
75. 75. 仮想サーバー(EC2)を利用せずに、クライアントから直接 AWS のサービスを利用する。 2-Tier アーキテクチャとは？ 従来 アーキテクチャ 2-Tier アーキテクチャ ・認証API ・データ保存API Amazon Cognito （認証） Amazon DynamoDB （データ保存） Web DB バッチ プッシュ通知 Amazon SNS Mpbile Push （プッシュ通知） プッシュ通知 AWS Lambda （ロジック） LB
76. 76. Amazon DynamoDB Connector Joe Anna Bob High Scores Joe 1500 Anna 800 Bob 750 Object Mapper • クライアント側のクラスが Amazon DynamoDB テーブルに マッピング • オブジェクトをテーブルに変換す ることも、その逆も必要ない
77. 77. モバイルアプリ Mobile SDK Amazon DynamoDB Streams 1. データ操作 AWS Lambda 2. Event Trigger 3. 何か処理 Amazon DynamoDB Streams AWS Lambda と連携したり、KCL ワーカーで処理するなど DynamoDBへの書き込みに応じて値チェックをし別テーブルの更新やプッシュ通知を実 行するなど、アイディアはさまざま。 別テーブル更新 Amazon SNS Mobile Push
78. 78. Agenda • DynamoDBとは • テーブル設計とサンプル • DynamoDB Streams • AWS Mobile SDKと 2-Tier アーキテクチャ • 運用関連 • ツールとエコシステム • まとめ
79. 79. 性能監視はCloudWatchで(1/2)
80. 80. 性能監視はCloudWatchで(2/2) – 読み込みキャパシティー • 消費されているRead Capacity Unit – スロットルされたReadリクエスト • Capacity Overでエラーを返した Readリクエスト数 – 書き込みキャパシティー • 消費されているWrite Capacity Unit – スロットルされたWriteリクエスト • Capacity Overでエラーを返した Writeリクエスト数 – Get のレイテンシー – Put のレイテンシー – Query のレイテンシー – Scan のレイテンシー – ユーザエラー – 条件チェックが失敗 • 条件書き込みの失敗数,クライアント側 ではConditionalCheckFailedException を受け取っている – GetRecord • DynamoDB StreamsでのGet Records のリクエスト数 • CloudWatchで監視できる項目
81. 81. データのバックアップ、レプリカ • DynamoDBの機能ではRDBのように静止点をとってバックアップ するという機能は提供されていないが、下記のいくつかの方法で データのバックアップ、レプリカを保持することができる 1. DynamoDB Streamsを用いたCross Region Replication • 前述したCross-region Repricationを用いて、レプリカを作成、一時的に レプリケーションをStopさせることでPITRバックアップを実現 2. AWS Data Pipelineを使ったデータバックアップ • 別のリージョン、同一リージョンのDynamoDBのテーブルに対してコピー、 選択したAttributeのみのコピー、選択したAttributeのみのIncrementalコ ピーのジョブを実行することが可能 3. Amazon Elastic MapReduceを使ったコピー • S3や別のDynamoDBに対してAmazon Elastic MapReduceのhiveを使っ てデータをコピーすることができる
82. 82. Agenda • DynamoDBとは • テーブル設計 • DynamoDB Streams • AWS Mobile SDKと 2-Tier アーキテクチャ • 運用関連 • ツールとエコシステム • まとめ
83. 83. データ操作はマネージメントコンソールで • テーブルに対してSCANやQUERY、PutItemをマネージ メントコンソールから実行することができる
84. 84. DynamoDB Local • 開発/テスト用のツール – 今までは開発やテストをするために実際のDynamoDBのテーブルを作る必要があっ た。これには”費用が発生する”、”静的なテスト環境を作れない”、”オフラインで開 発できない”などの問題があった。 – このツールを利用することにより、開発やCIをより便利に行うことができる • JARファイルで提供され、ローカルにインストールして動かすこ とができる(要Java7以上) • DynamoDB Streamsも利用可能 • ウェブベース(DynamoDB JavaScript Shell)のUIも利用可能 • あくまでAPIの機能的を再現しているテストツールなので本番で は利用しない • プロビジョンスループットは再現されていないので注意 • 詳細は http://bit.ly/1d9fN5c を参照
85. 85. Transaction Library for DynamoDB • AWS SDK for Javaのひとつの機能としての実装 – このSDKを使うことでDynamoDB上でTransactionを利用できる – ライブラリ側でTransaction管理テーブルを作成することにより Transactionを実現している • 使い方は次のページのサンプルコードを参照 • 詳細は http://bit.ly/16KbppP
86. 86. DynamoDB Session Handler • スケーラブルセッションの処理 – AWS SDK for PHPに含まれる – パフォーマンスの高い方法で、セッショントークンを PHPで扱う – セッションIDをプライマリキーとしたKVS的なテーブル – 新規セッションごとにItemを払いだしてExpire管理を行う SessionId (Hash) Expiry _a12fh 2014-02-01 00:00:00 _ee12a 2014-02-02 00:00:00 Sessions Table http://docs.aws.amazon.com/aws-sdk-php/guide/latest/feature-dynamodb-session-handler.html
87. 87. Agenda • DynamoDBとは • テーブル設計 • DynamoDB Streams • 運用関連 • ツールとエコシステム • まとめ
88. 88. まとめ • NoSQLはRDBとは全く特性が異なるので、それらを理解した 上で適所でうまく活用する！ • 運用はゼロではないが、拡張性の面や性能面ではとても楽が できるのがNoSQLの中でのDynamoDBの特徴 • Mobile SDK やDynamoDB Streamsを利用してより高度で、 柔軟なアプリケーションの開発を！ 構築・運用にかかる時間を、本来のビジネス価値を高めること に投資できる！
89. 89. Q&A 次回Webinarのお申し込み http://aws.amazon.com/jp/event_schedule/
90. 90. Webinar資料の配置場所 • AWS クラウドサービス活用資料集 – http://aws.amazon.com/jp/aws-jp-introduction/
91. 91. 公式Twitter/Facebook AWSの最新情報をお届けします @awscloud_jp 検索 最新技術情報、イベント情報、お役立ち情報、お得なキャンペーン情報などを 日々更新しています！ もしくは http://on.fb.me/1vR8yWm
92. 92. AWS運用コミュニティ ～クラウドによる、クラウドのための、クラウド運用管理～ AWS上に構築されたシステムの 運用管理のベストプラクティスを集約！ http://aws.typepad.com/aws_partner_sa/2015/ 06/aws-ops.html@opsjaws
93. 93. ご参加ありがとうございました。