Google Cloud Platform Japan Blog
最新情報や使い方、チュートリアル、国内外の事例やイベントについてお伝えします。
SRE の教訓 : App Engine で 1 日 1,000 億件以上のリクエストに対応する方法
2016年4月11日月曜日
* この投稿は米国時間 4 月 6 日、Google Cloud Platform の Managing Editor である Jo Maitland によって投稿されたもの(
投稿はこちら
)の抄訳です。
今回は、3 年半にわたって Google App Engine のサイト信頼性エンジニアを務め、Google でのサイト信頼性エンジニア経験が 9 年近くに及ぶ Chris Jones に、Google の本番システムの運用についてインタビューした内容を紹介します。
Chris は、O'Reilly から最近発売されたばかりの書籍『
Site Reliability Engineering : How Google Runs Production Systems
』の著者の 1 人でもあります。
Google App Engine
は 1 日あたり 1,000 億件以上のリクエストに対応しています。そしてそれがサイト信頼性エンジニアのおかげであることを、すでに皆さんはご存じかもしれません。
ちょっと驚異的にも思えますが、こうした稼働規模にはコンピュータ科学および工学の原理を応用したコンピューティング システムの設計と開発が大きくかかわっています。それらは通常、非常に大規模で分散されたシステムであることから、運用が重要な意味を持っています。
サイト信頼性エンジニアリング(SRE : Site Reliability Engineering)は、私たち誰もが本番システムを適切に運用することを可能にする一連の工学的な技術アプローチです。広範な IT コミュニティに普及している DevOps の考え方にも影響を与えました。
SRE の興味深いところは、地球規模のシステムのパフォーマンスと信頼性を向上させる比較的シンプルな方法でありながら、どのような企業でも、たとえば Windows デスクトップを展開する場合などにも同様に役立つことです。SRE のテクニックを適切に使用すれば、あらゆるコンピューティング サービスの運用効果を高めることができます。
Q :
App Engine は、何人のサイト信頼性エンジニアがどのような規模で運用しているのですか?
Chris Jones(以下、CJ):
App Engine では数百万のアプリケーションが使用されていて、1 日に 1,000 億件以上のリクエストに対応しています。そしてそれを数十人のサイト信頼性エンジニアでサポートしています。
Q :
そんなに少ない人数で、どうやってこなしているのですか?
CJ :
SRE は、大規模分散コンピューティング サービスを運用するための工学的アプローチです。そこで重要なのは、システムを高度に標準化することです。つまり、すべてのシステムがどれも同じように動作するようにします。そうすれば、運用に必要な人数は少なくなります。理解し、対処すべき複雑さが軽減されるからです。
自動化も重要です。App Engine では、キャパシティの追加やロード バランシングのためのリソース拡張プロセスが自動化されています。多くの人によってではなく、コンピュータによってこのプロセスをうまくスケーリングできるようにするためです。退屈な反復的プロセスを人手で行うと、徐々にエラーが増えてしまいます。
また、コンピュータは障害が発生したときも、人間よりずっと迅速に対処します。私たちがエラーに気づくまでの間に、コンピュータはもうトラフィックを別のデータセンターに移動して、サービスの稼働を維持します。人間は人間が得意なことを、コンピュータはコンピュータが得意なことを担当するようにするのが望ましいのです。
Q :
SRE モデルのアプローチには、他にどのようなものがありますか?
CJ :
Google の各サービスの SRE チームは、他の多くのサービスの SRE チームと協力し合っています。そのため、私たちはプロダクトの垣根を越えて標準化の原理を適用していくことができます。
たとえば、もともと Gmail の新バージョンをデプロイするためにサイト信頼性エンジニアが作成したツールが、もっと多くの状況をカバーするように汎用化されるかもしれません。そうなれば、各チームは更新プログラムをデプロイする手段を自前で用意せずに済みます。すべてのプロダクトが、そのツールに加えられた改良の恩恵を受けることができ、全社レベルでツール環境が向上することになります。
さらに、SRE においてソフトウェア エンジニアリングとシステム エンジニアリングの知識を融合することで、両者のいいとこ取りのソリューションが生まれることがよくあります。Google のソフトウェア ネットワーク ロード バランサである
Maglev
はその一例です。これは
Google Cloud Load Balancer
を支えている技術です。
Q :
そうしたアプローチは App Engine と、App Engine を使用するお客様にどのように影響しますか?
CJ :
それがよくわかる事例があります。私たちは 2013 年夏に、App Engine の US リージョンで使用されていたアプリケーションとデータ全体を、米国内を横断するような形で移動させました。その際、ダウンタイムは発生しませんでした。
Q :
どのように行ったのですか?
CJ :
私たちはまず、ある App Engine クラスタをシャットダウンしました。設計どおり、その上で稼働していたアプリケーションは、残っていたクラスタに自動的に移動しました。
さらに、US リージョンの
High Replication Datastore
のコピーを移動先データセンターに作成しました。これらのアプリケーションのデータ(ペタバイト規模の量でした)をあらかじめ用意しておくためです。それ以降に Datastore に加えられた変更は、自動的にほぼリアルタイムで複製され、この移動先データセンターのデータは最新に保たれました。
App Engine を新しい場所で立ち上げる段になると、そのクラスタに割り当てられているアプリケーションがバックアップ クラスタから自動的に移行してきて、すでに用意されていたデータがすべて利用可能になりました。私たちは残りのクラスタについて、移動が完了するまでこのプロセスを繰り返しました。
入念に準備し、幅広いテストを行うとともに、緊急時対応計画も策定しておくことで、
少し問題が生じたとき
でも、私たちは対応できる態勢が整っていて、お客様への影響を最小限に抑えることができました。
そしてもちろん、私たちはチーム内で事後検証を行いました(これも SRE の重要な要素です)。犯人探しをするのではなく、問題の原因を究明し、将来のために、それを修正する方法を見いだすためです。
Q :
素晴らしいですね。SRE についてもっと知るためには、どうすればよいですか?
CJ :
SRE が Google でどのように実践されているか、その過程で私たちがどのような教訓を学んだかについて詳しく知りたい方は、こちらの
ウェブ サイト
や
新刊書
をチェックしてみてください。また、私たちは先ごろ(4 月 7 ~ 8 日)、
SREcon
において、このトピックに関していろいろと話をしたところです。
- Posted by Jo Maitland, Managing Editor, Google Cloud Platform
3 件のコメント :
Unknown
2018年5月15日 17:32
このコメントはブログの管理者によって削除されました。
返信
削除
返信
返信
latesttechnologyblogs
2018年9月10日 21:42
このコメントはブログの管理者によって削除されました。
返信
削除
返信
返信
Online Training
2019年6月11日 14:18
このコメントは投稿者によって削除されました。
返信
削除
返信
返信
コメントを追加
もっと読み込む...
12 か月間のトライアル
300 ドル相当が無料になるトライアルで、あらゆる GCP プロダクトをお試しいただけます。
Labels
.NET
.NET Core
.NET Core ランタイム
.NET Foundation
#gc_inside
#gc-inside
#GoogleCloudSummit
#GoogleNext18
#GoogleNext19
#inevitableja
Access Management
Access Transparency
Advanced Solutions Lab
AI
AI Hub
AlphaGo
Ansible
Anthos
Anvato
Apache Beam
Apache Maven
Apache Spark
API
Apigee
APIs Explore
App Engine
App Engine Flex
App Engine flexible
AppArmor
AppEngine
AppScale
AprilFool
AR
Artifactory
ASL
ASP.NET
ASP.NET Core
Attunity
AutoML Vision
AWS
Big Data
Big Data NoSQL
BigQuery
BigQuery Data Transfer Service
BigQuery GIS
Billing Alerts
Bime by Zendesk
Bitbucket
Borg
BOSH Google CPI
Bower
bq_sushi
BreezoMeter
BYOSL
Capacitor
Chromium OS
Client Libraries
Cloud API
Cloud Armor
Cloud Audit Logging
Cloud AutoML
Cloud Bigtable
Cloud Billing Catalog API
Cloud Billing reports
Cloud CDN
Cloud Client Libraries
Cloud Console
Cloud Consoleアプリ
Cloud Container Builder
Cloud Dataflow
Cloud Dataflow SDK
Cloud Datalab
Cloud Dataprep
Cloud Dataproc
Cloud Datastore
Cloud Debugger
Cloud Deployment Manager
Cloud Endpoints
Cloud Firestore
Cloud Foundry
Cloud Foundry Foundation
Cloud Functions
Cloud Healthcare API
Cloud HSM
Cloud IAM
Cloud IAP
Cloud Identity
Cloud IoT Core
Cloud Jobs API
Cloud KMS
Cloud Launcher
Cloud Load Balancing
Cloud Machine Learning
Cloud Memorystore
Cloud Memorystore for Redis
Cloud monitoring
Cloud NAT
Cloud Natural Language API
Cloud Networking
Cloud OnAir
Cloud OnBoard
cloud Pub/Sub
Cloud Resource Manager
Cloud Resource Manager API
Cloud SCC
Cloud SDK
Cloud SDK for Windows
Cloud Security Command Center
Cloud Services Platform
Cloud Source Repositories
Cloud Spanner
Cloud Speech API
Cloud Speech-to-Text
Cloud SQL
Cloud Storage
Cloud Storage FUSE
Cloud Tools for PowerShell
Cloud Tools PowerShell
Cloud TPU
Cloud Translation
Cloud Translation API
Cloud Virtual Network
Cloud Vision
Cloud VPC
CloudBerry Backup
CloudBerry Lab
CloudConnect
CloudEndure
Cloudflare
Cloudian
CloudML
Cluster Federation
Codefresh
Codelabs
Cohesity
Coldline
Colossus
Compute Engine
Compute user Accounts
Container Engine
Container Registry
Container-Optimized OS
Container-VM Image
Couchbase
Coursera
CRE
CSEK
Customer Reliability Engineering
Data Studio
Databases
Dbvisit
DDoS
Debugger
Dedicated Interconnect
deep learning
Deployment Manager
Developer Console
Developers
DevOps
Dialogflow
Disney
DLP API
Docker
Dockerfile
Drain
Dreamel
Eclipse
Eclipse Orion
Education Grants
Elasticsearch
Elastifile
Energy Sciences Network
Error Reporting
ESNet
Evernote
FASTER
Fastly
Firebase
Firebase Analytics
Firebase Authentication
Flexible Environment
Forseti Security
G Suite
Gartner
gcloud
GCP
GCP Census
GCP 移行ガイド
GCP 認定資格チャレンジ
GCPUG
GCP導入事例
gcsfuse
GEO
GitHub
GitLab
GKE
Go
Go 言語
Google App Engine
Google Apps
Google Certified Professional - Data Engineer
Google Cloud
Google Cloud Certification Program
Google Cloud Client Libraries
Google Cloud Console
Google Cloud Dataflow
Google Cloud Datalab
Google Cloud Datastore
Google Cloud Endpoints
Google Cloud Explorer
Google Cloud Identity and Access Management
Google Cloud INSIDE
Google Cloud INSIDE Digital
Google Cloud INSIDE FinTech
Google Cloud Interconnect
Google Cloud Launcher
Google Cloud Logging
Google Cloud Next '18 in Tokyo
Google Cloud Next '19 in Tokyo
Google Cloud Platform
Google Cloud Resource Manager
Google Cloud Security Scanner
Google Cloud Shell
Google Cloud SQL
Google Cloud Storage
Google Cloud Storage Nearline
Google Cloud Summit '18
Google Cloud Summit ’18
Google Cloud Tools for IntelliJ
Google Code
Google Compute Engine
Google Container Engine
Google Data Analytics
Google Data Studio
Google Date Studio
Google Deployment Manager
Google Drive
Google Earth Engine
Google Genomics
Google Kubernetes Engine
Google maps
google maps api
Google Maps APIs
Google Maps Platform
Google SafeSearch
Google Service Control
Google Sheets
Google Slides
Google Translate
Google Trust Services
Google VPC
Google マップ
Google 公認プロフェッショナル
GoogleNext18
GPU
Gradle
Grafeas
GroupBy
gRPC
HA / DR
Haskell
HEPCloud
HIPAA
Horizon
HTCondor
IaaS
IAM
IBM
IBM POWER9
icon
IERS
Improbable
INEVITABLE ja night
inevitableja
InShorts
Intel
IntelliJ
Internal Load Balancing
Internet2
IoT
Issue Tracker
Java
Jenkins
JFrog
JFrog Artifactory SaaS
Jupiter
Jupyter
Kaggle
Kayenta
Khan Academy
Knative
Komprise
kubefed
Kubeflow Pipelines
Kubernetes
KVM
Landsat
load shedding
Local SSD
Logging
Looker
Machine Learning
Magenta
Managed Instance Group
Managed Instance Group Updater
Maps API
Maps-sensei
Mapsコーナー
Maven
Maxon Cinema 4D
MightyTV
Mission Control
MongoDB
MQTT
Multiplay
MySQL
Nearline
Network Time Protocol
Networking
neural networks
Next
Node
NoSQL
NTP
NuGet パッケージ
OCP
OLDISM
Open Compute Project
OpenCAPI
OpenCAPI Consortium
OpenShift Dedicated
Orbitera
Organization
Orion
Osaka
Paas
Panda
Particle
Partner Interconnect
Percona
Pete's Dragon
Pivotal
Pivotal Cloud Foundry
PLCN
Podcast
Pokemon GO
Pokémon GO
Poseidon
Postgre
PowerPoint
PowerShell
Professional Cloud Network Engineer
Protocol Buffers
Puppet
Pythian
Python
Qwiklabs
Rails
Raspberry Pi
Red Hat
Redis
Regional Managed Instance Groups
Ruby
Rust
SAP
SAP Cloud Platform
SC16
ScaleArc
Secure LDAP
Security & Identity
Sentinel-2
Service Broker
Serving Websites
Shared VPC
SideFX Houdini
SIGOPS Hall of Fame Award
Sinatra
Site Reliability Engineering
Skaffold
SLA
Slack
SLI
SLO
Slurm
Snap
Spaceknow
SpatialOS
Spinnaker
Spring
SQL Server
SRE
SSL policies
Stack Overflow
Stackdriver
Stackdriver Agent
Stackdriver APM
Stackdriver Debugger
Stackdriver Diagnostics
Stackdriver Error Reporting
Stackdriver Logging
Stackdriver Monitoring
Stackdriver Trace
Stanford
Startups
StatefulSets
Storage & Databases
StorReduce
Streak
Sureline
Sysbench
Tableau
Talend
Tensor Flow
Tensor Processing Unit
TensorFlow
Terraform
The Carousel
TPU
Trace
Transfer Appliance
Transfer Service
Translate API
Uber
Velostrata
Veritas
Video Intelligence API
Vision API
Visual Studio
Visualization
Vitess
VM
VM Image
VPC Flow Logs
VR
VSS
Waze
Weave Cloud
Web Risk AP
Webyog
Wide and Deep
Windows Server
Windows ワークロード
Wix
Worlds Adrift
Xplenty
Yellowfin
YouTube
Zaius
Zaius P9 Server
Zipkin
ZYNC Render
アーキテクチャ図
イベント
エラーバジェット
エンティティ
オンライン教育
クラウド アーキテクト
クラウド移行
グローバル ネットワーク
ゲーム
コードラボ
コミュニティ
コンテスト
コンピューティング
サーバーレス
サービス アカウント
サポート
ジッター
ショート動画シリーズ
スタートガイド
ストレージ
セキュリティ
セミナー
ソリューション ガイド
ソリューション: メディア
データ エンジニア
データセンター
デベロッパー
パートナーシップ
ビッグデータ
ファジング
プリエンプティブル GPU
プリエンプティブル VM
フルマネージド
ヘルスケア
ホワイトペーパー
マイクロサービス
まっぷす先生
マルチクラウド
リージョン
ロード シェディング
運用管理
可用性
海底ケーブル
機械学習
金融
継続的デリバリ
月刊ニュース
資格、認定
新機能、アップデート
深層学習
深層強化学習
人気記事ランキング
内部負荷分散
認定試験
認定資格
料金
Archive
2019
8月
7月
6月
5月
4月
3月
2月
1月
2018
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2017
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2016
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2015
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2014
12月
11月
10月
9月
8月
6月
5月
4月
3月
2月
Feed
月刊ニュースレターに
登録
新着ポストをメールで受け取る
Follow @GoogleCloud_jp
このコメントはブログの管理者によって削除されました。
返信削除このコメントはブログの管理者によって削除されました。
返信削除このコメントは投稿者によって削除されました。
返信削除