高速な広告配信サーバの作り方 のコツ GUNOSY inc. 印南 聡志
自己紹介 • 印南聡志（いんなみ さとし） • Gunosyのアドエンジニア (3年目) – Gunosyのアド配信サーバ周り全般担当 • 言語 – Go – Python • マイブーム – AJINOMOTOの冷凍餃子 – 大食い(視るだけ...
広告配信サーバって？
配信サーバ (API) バッチサーバ広告情報 （キャッシュ） とても簡単な仕組み 広告情報 （元データ） ELB 広告 リクエスト
広告配信による収益の最大化 目的
収益 広告選択 応答性能 可用性
高速な広告配信サーバって？
50ms or die 某社
リプレース時の要求性能 １リクエストの応答時間： 50ms 以内 リクエスト数： 10,000req/sec
リプレース後のサーバ性能は？
5ms
１リクエストの応答時間： 5ms リクエスト数： 10,000req/sec 以上
（あたり前だけど忘れがちな） 広告配信サーバを高速化するコツ
1. ボトルネックをつくらない
配信サーバ Redis これまでの問題 リクエスト増
中央の共有DBを作らない
配信サーバ LevelDB S3 バッチサーバ ダウンロード アップロード
共有DBが必要な場合は Writeを集約
配信サーバ Redis Master Redis Slave Redis Slave READ WRITE Sync バッチサーバ (ログ集約)
プロセスキャッシュを導入
配信サーバ Redis Master Redis Slave Redis Slave READ WRITE Sync 取得したデータを 一定期間保持
2. APIサーバは薄く
これまでの問題 • APIサーバ側で複雑な入札ロジックを実装 – 複数の入札ロジック – 逐次スコアを計算 – 複雑なバリデーション • Python (tornado) 製
対応 • API側 – Golangで実装 – やることを極限まで削減 • 広告候補の取得 • 簡単なバリデーション • バッチ側で複雑な処理を一括で計算 – Python
3. 応答性能を常時計測
問題 • 様々な性能劣化の原因 – 機能追加/改修 – データの増加 – アクセス傾向の変化
負荷試験をかけて性能劣化を防止
LOCUST • Python製の分散負荷計測ツール – テストのシナリオをPythonで記述 – Web UI の管理画面 – 管理が容易
LOCUST 構成 ・・・ Locust slave Locust master 広告配信 サーバ ・・・ シナリオに応じてリクエストを 生成 Slaveを管理
4. コードのチューニング
問題 実際に実行すると処理速度が遅い…
pprof • Goのプロファイラ – 関数ごとのCPU処理時間を計測 – グラフ描画 • 重い処理を視覚的に発見しやすい
見つかった問題 • 様々な原因 – ライブラリ内の実装 – 入札時の広告の探索範囲が広い – バリデーションのコスト – データキャストのコスト – オブジェクト生成のコスト – DB接続時のコスト – ログ出力コスト
対策を全部うってもダメな場合…
5. 金で解決
金で解決の例 • Redis をやめる – DynamoDB – AeroSpike • スケールアップで対応 – 4xlargeインスタンス…
まとめ • 広告配信サーバの高速化のコツ 1. ボトルネックをつくらない 2. APIサーバを薄く 3. 応答性能を計測 4. コードのチューニング 5. 金で解決
高速な広告配信サーバの作り方のコツ
Upcoming SlideShare
Loading in …5
×

高速な広告配信サーバの作り方のコツ

1,011 views
 17 views

Published on

広告配信を高速化する際に気をつけるべきポイントを書いています。

Published in: Engineering
0 Comments
4 Likes
Statistics
Notes
no profile picture user

  • Be the first to comment

No Downloads
Views
Total views
1,011
On SlideShare
0
From Embeds
0
Number of Embeds
36
Actions
Shares
0
Downloads
1
Comments
0
Likes
6
Embeds 0
No embeds

No notes for slide

高速な広告配信サーバの作り方のコツ

  1. 1. 高速な広告配信サーバの作り方 のコツ GUNOSY inc. 印南 聡志
  2. 2. 自己紹介 • 印南聡志（いんなみ さとし） • Gunosyのアドエンジニア (3年目) – Gunosyのアド配信サーバ周り全般担当 • 言語 – Go – Python • マイブーム – AJINOMOTOの冷凍餃子 – 大食い(視るだけ) • 参照 – Blog：NO AD NO LIFE(http://inchom.hatenadiary.jp/) – Github：https://github.com/satoshi03
  3. 3. 広告配信サーバって？
  4. 4. 配信サーバ (API) バッチサーバ広告情報 （キャッシュ） とても簡単な仕組み 広告情報 （元データ） ELB 広告 リクエスト
  5. 5. 広告配信による収益の最大化 目的
  6. 6. 収益 広告選択 応答性能 可用性
  7. 7. 高速な広告配信サーバって？
  8. 8. 50ms or die 某社
  9. 9. リプレース時の要求性能 １リクエストの応答時間： 50ms 以内 リクエスト数： 10,000req/sec
  10. 10. リプレース後のサーバ性能は？
  11. 11. 5ms
  12. 12. １リクエストの応答時間： 5ms リクエスト数： 10,000req/sec 以上
  13. 13. （あたり前だけど忘れがちな） 広告配信サーバを高速化するコツ
  14. 14. 1. ボトルネックをつくらない
  15. 15. 配信サーバ Redis これまでの問題 リクエスト増
  16. 16. 中央の共有DBを作らない
  17. 17. 配信サーバ LevelDB S3 バッチサーバ ダウンロード アップロード
  18. 18. 共有DBが必要な場合は Writeを集約
  19. 19. 配信サーバ Redis Master Redis Slave Redis Slave READ WRITE Sync バッチサーバ (ログ集約)
  20. 20. プロセスキャッシュを導入
  21. 21. 配信サーバ Redis Master Redis Slave Redis Slave READ WRITE Sync 取得したデータを 一定期間保持
  22. 22. 2. APIサーバは薄く
  23. 23. これまでの問題 • APIサーバ側で複雑な入札ロジックを実装 – 複数の入札ロジック – 逐次スコアを計算 – 複雑なバリデーション • Python (tornado) 製
  24. 24. 対応 • API側 – Golangで実装 – やることを極限まで削減 • 広告候補の取得 • 簡単なバリデーション • バッチ側で複雑な処理を一括で計算 – Python
  25. 25. 3. 応答性能を常時計測
  26. 26. 問題 • 様々な性能劣化の原因 – 機能追加/改修 – データの増加 – アクセス傾向の変化
  27. 27. 負荷試験をかけて性能劣化を防止
  28. 28. LOCUST • Python製の分散負荷計測ツール – テストのシナリオをPythonで記述 – Web UI の管理画面 – 管理が容易
  29. 29. LOCUST 構成 ・・・ Locust slave Locust master 広告配信 サーバ ・・・ シナリオに応じてリクエストを 生成 Slaveを管理
  30. 30. 4. コードのチューニング
  31. 31. 問題 実際に実行すると処理速度が遅い…
  32. 32. pprof • Goのプロファイラ – 関数ごとのCPU処理時間を計測 – グラフ描画 • 重い処理を視覚的に発見しやすい
  33. 33. 見つかった問題 • 様々な原因 – ライブラリ内の実装 – 入札時の広告の探索範囲が広い – バリデーションのコスト – データキャストのコスト – オブジェクト生成のコスト – DB接続時のコスト – ログ出力コスト
  34. 34. 対策を全部うってもダメな場合…
  35. 35. 5. 金で解決
  36. 36. 金で解決の例 • Redis をやめる – DynamoDB – AeroSpike • スケールアップで対応 – 4xlargeインスタンス…
  37. 37. まとめ • 広告配信サーバの高速化のコツ 1. ボトルネックをつくらない 2. APIサーバを薄く 3. 応答性能を計測 4. コードのチューニング 5. 金で解決

×