Google Cloud Platform Japan Blog
最新情報や使い方、チュートリアル、国内外の事例やイベントについてお伝えします。
リソース ベースの料金体系を Compute Engine に導入
2018年8月7日火曜日
クラウドは常に、柔軟性、低コスト、従量制料金を約束しメリットをもたらしてきました。Google Compute Engine を使用すれば、カスタム マシンタイプによってあらゆるサイズや形態の VM インスタンスを作成でき、コスト低減に効果的な確約利用割引や継続利用割引も自動的に適用されます。そしてこのたび、私たちは Compute Engine での従量制料金の考え方をさらに推し進め、リソース ベースの料金体系を導入することにしました。
リソース ベースの料金体系の導入に合わせて、仕組みの面でさまざまな変更を行っています。こうした変更は、カスタム マシンタイプや事前定義されたマシンタイプの使用量の測定方法に加え、
継続利用割引
の適用方法に関するものです。簡単に言えば、自動的に割引が大きくなり、月間料金がわかりやすくなるように変更を加えており、お客様に喜んでいただけると確信しています。
リソース ベースの料金では使用量をきめ細かく捉えます。どのマシンタイプを使っているかに基づいて使用量を評価するのではなく、リソースを特定の期間にどれだけ消費するかを評価するのです。これは、1 コアは 1 コア、1 GB RAM は 1 GB RAM ということです。事前定義されたマシンタイプをどのような組み合わせで実行しているかは重要ではありません。リソース レベルで使用量を測定し、集計するのです。これはお客様にとってお得でもあります。継続利用割引がゾーン内だけでなく、リージョン単位で計算されるからです。つまり、継続利用割引がより早いタイミングで適用され、より大きな節約が自動的に可能になるのです。
こうした変更をより良く理解し、どれだけ節約できるかがわかるように、これまで継続利用割引がどのように行われてきたか、そして今後はどのように行われるかを見てみましょう。
これまでは、4 個の vCPU を搭載する特定のマシンタイプ(n1-standard-4 など)の使用時間が 1 か月の 50 % に達すると、適用される実質的な割引率は 10 % でした。使用時間が 1 か月の 75 % になると実質的な割引率は 20 % となり、使用時間が 1 か月の 100 % であれば実質的な割引率は 30 % になりました。
では、異なるマシンタイプを使用する場合はどうでしょうか。
たとえばウェブ ベースのサービスを実行しているとしましょう。月初の 1 週目は、vCPU を 4 個搭載する n1-standard-4 を実行しました。2 週目はユーザーのサービス需要が増加し、キャパシティをスケールアップして、vCPU を 8 個搭載する n1-standard-8 の実行を開始しました。ところが需要が増加の一途をたどり、再びスケールアップが必要になったため、3 週目は vCPU を 16 個搭載した n1-standard-16 の実行を開始しました。サービスの成功に伴い、4 週目にもスケールアップを迫られ、vCPU を 32 個搭載する n1-standard-32 を実行し、月末を迎えました。このシナリオでは、従来は割引をまったく受けられなかったでしょう。どのマシンタイプも、実行時間が 1 か月の 50 % に達していないからです。
リソース ベースの料金の場合、もはやマシンタイプは考慮せず、その代わりに、お客様がすべてのマシンで使用するすべてのリソースを一括して集計し、割引を適用します。お客様が行うべきことは何もありません。お客様は自動的に料金を節約できます。
もう一度、スケーリングの例を見てみましょう。今度はリソース ベースの料金を適用してみます。
月初の 1 週目は vCPU を 4 個使用し、2~4 週目は vCPU 数を順に、8 個、16 個、32 個に増やしました。そうすると、4 個の vCPU を 1 か月にわたって実行したことになるので、使用時間は 1 か月の 100 % となり、これらの vCPU については 30 % の割引が受けられます。別の 4 個の vCPU は使用時間が 1 か月の 75 % なので、これらの vCPU には 20 % の割引が適用されます。別の 8 個の vCPU は使用時間が 1 か月の 50 % であり、これらには 10 % の割引が適用されます。別の 16 個の vCPU は使用時間が 1 週間(1 か月の 25 %)なので、割引が適用されません。理解が深まるように、この料金計算の仕組みを図示しました。
リソース ベースの料金はリージョンのレベルで適用されるため、どのマシンタイプを使っているかや、運用しているリージョン内のゾーン数にかかわらず、お客様は継続利用割引の恩恵を受けやすくなります。リソース ベースの料金は数か月後から適用が開始されます。詳細は
こちらのページ
をご覧ください。
*この投稿は米国時間 7 月 25 日、Google Compute Engine の Group Product Manager である Paul Nash によって投稿されたもの(投稿は
こちら
)の抄訳です。
- By Paul Nash, Group Product Manager, Google Compute Engine
Google Stackdriver の料金を発表
2016年7月1日金曜日
* この投稿は米国時間 6 月 23 日、Product Manager である Dan Belcher によって投稿されたもの(
投稿はこちら
)の抄訳です。
Google は先ごろ、
Google Stackdriver
のベータ版を発表しました。Stackdriver は、
Google Cloud Platform
と Amazon Web Services
*1
で実行されるアプリケーションを対象に、モニタリング、ロギング、および診断の各機能を提供するスイートです。
おかげさまで、Google Stackdriver にはお客様から熱狂的な支持を頂いています。ベータ公開はあと 2 か月ほど続きますが、ここでは Stackdriver の予定される料金についてお話ししたいと思います。
Google Stackdriver はモニタリング、ロギング、診断を統合することで、アプリケーションの健全性やパフォーマンス、可用性の状況を把握しやすくし、ハイブリッド クラウドの運用にかかる負荷を軽減します。そしてこれらのサービスを 1 つのパッケージにまとめることにより、お手頃な料金で使いやすく柔軟なサービスを提供します。
予定されている Google Stackdriver の大まかな料金体系は次のとおりです。
Google Stackdriver には無料ティアとプレミアム ティアがあります。
無料ティアは、Cloud Platform サービスが生成した主要なメトリクス、トレース、エラー レポート、ログ(10 GB / 月まで)へのアクセスを提供します。
プレミアム ティアは無料ティアの内容に加えて、Amazon Web Services 統合、モニタリング / ロギング エージェントのサポート、アラート通知(Slack、HipChat、PagerDuty、SMS などとの統合)、カスタム メトリクス、カスタム ログ、30 日のログ保持などを提供します。
プレミアム ティアの料金は、モニタリング対象リソースごとに月額 8.00 ドルの固定価格です(時間数で按分)。モニタリング対象リソースごとに 500 種の時系列のカスタム メトリクス、アカウント全体のクォータに月 10 GB のログ データ ストレージが追加されます。さらに、個々のプロジェクトに 250 のカスタム メトリクス デスクリプタが与えられます。
ここ
に記されているように、請求対象のリソースは仮想マシン インスタンスまたはそれと同等のものに相当します。
無料およびプレミアム ティアの詳細については Google Stackdriver 料金
FAQ
をご覧ください。これからの数か月間は、このブログに掲載される Stackdriver の注目すべきニュースをお見逃しなく!
*1 "Amazon Web Services" and "AWS" are trademarks of Amazon.com, Inc. or its affiliates in the United States and/or other countries.
- Posted by Dan Belcher, Product Manager
クラウドの価格体系 Part 6 - ビッグデータプロセシングエンジン
2016年3月30日水曜日
* この投稿は米国時間 3 月 17 日、Google Cloud Platform Solutions の Architects である Karan Bhatia と Peter-Mark Verwoerd によって投稿されたもの(
投稿はこちら
)の抄訳です。
このシリーズの目的は、私たちのお客様向けのクラウドでの処理価格がどのように決まっているかを明確にし、理解していただくことです。
私たちは、これまでクラウドの料金体系について説明してきました。これまでの記事は下記を参照ください。
第 1 部 - 仮想コンピュータ編
第 2 部 - ローカル SSD 編
第 3 部 - データ ウェアハウス編
第 3.2 部 - データ ウェアハウスに関する追加情報編
第 4 部 - 真のクラウド エコノミクス編
第 5 部 - NoSQL データベース編
第 5.2 部 - NoSQL 続データベース編
そして今回は、ビッグデータプロセッシングエンジン、特にクラウドインフラで稼働している Hadoop のマネージドデプロイの価格に関して検討した結果をご説明いたします。
ビッグデータ成長の一つの要因は、 2000 年に 1 GB あたり $10 だったストレージの価格が 2010 年には $0.1 以下になり、現在では 1 GB あたり
$0.01
と急速に下がっていることです。
同時にコンピュート コストも指数関数的に下がっており、膨大なデータを蓄積、処理し、
財務ポートフォリオのモンテカルロ分析
から、
個別化医療
や
プレディクティブ・アナリティクス
などのインサイトを構築する、新しいアプリケーションも実行が可能になっています。
Google は、一般的に入手できる汎用的なコンピューティングとストレージのシステムを活用し、何千ものノードを扱う様に拡張可能な新しい並列プログラミングのパラダイムを開発することで、これらのアプリケーションの実行を可能にする新世代のソフトウェアツール開発を、他社に先駆けて進めてまいりました。
例えば Google の
GFS
(2003) では、データインテンシブで大きな分散アプリケーションに対応した、スケーラブルな分散ファイルシステムを提供。Google の
BigTable
(2006) では何千ものコモディティサーバーに保存された、ペタバイトに上るデータにも対応できるように設計された分散ストレージシステムを提供。また、 Google の
MapReduce
(2004) では GFS や BigTable に保存されたデータセットを処理する、並列プログラミングのフレームワークを提供してきました。
オープンソースコミュニティは、概ね Google の内部システムに関する公表資料に基づき、Hadoop プロセシングエンジンと、関連したビッグデータソフトウェアスタックを開発しました。
Hadoop の最初のパブリックバージョンは 2007 年に発表され、それ以来ビッグデータエコシステムの中心的存在となっています。今日、 Hadoop ソフトウェアは公式の Apache オープンソースプロジェクトとなり、フリーウェア、サポート付のバージョンともに、オンプレミス用および、クラウド用として入手可能です。
ビッグデータソフトウェアスタックは NoSQL データベースやワークフローモニター、カラムナーストレージ、バッチおよびストリーミングサポート等々、種々のものがあり、現在でも急速に進化しています。
この様に、急速に進化しつつある未成熟な状況のため、 Hadoop クラスターを構築して実際の現場で信頼性を確保しつつ効率的に運用することは簡単ではありません。
この 10 年間で、クラウドコンピューティングはビッグデータ処理のデファクトスタンダードとなりました。Google Cloud Platform の
Cloud Dataproc
や Amazon Web Services の
Elastic MapReduce
、および Microsoft Azure
HDInsight
から提供されているマネージド Hadoop は、いずれも迅速なデプロイやクラウドストレージとのディープなインテグレーションを特徴とし、使用量に応じた課金モデルとなっています。
本ポストではこれらのマネージド Hadoop サービスの機能や価格体系について検討していきます。
マネージド Hadoop が提供するサービスの概要
Google Cloud Platform の
Cloud Dataproc
や、 Amazon Web Services の
Elastic MapReduce
、および Microsoft Azure の
HDInsight
はいずれも、それぞれマネージドの Hadoop 環境で、オートマチックのプロビジョニングや設定、簡単なジョブマネジメント、高度なモニタリング、及びフレキシブルな価格設定を実現しています。下の表 1 は 2016 年 3 月時点での、それぞれの主要な機能をまとめたものです。
表 1 Hadoop Processing Engines の概要
FEATURE
CLOUD DATAPROC
2
ELASTIC MAPREDUCE
3
HDINSIGHT
4
Hadoop distribution
From Apache Source
From Apache Source
Hortonworks
Hadoop version (current)
Hadoop 2.7.2
Hadoop 2.7.1
Hadoop 2.7.1
Apache Pig
0.15.0
0.14.0
0.14.0
Apache Hive
1.2.1
1.0
0.14.0
Apache Spark
1.6.0
1.6.0
1.3.1
Apache Storm
-na-
-na-
0.9.3
Apache HBase
-na-
5
0.94.18
6
0.98.4
# of supported instances types
thousands
7
37
17
Live resizeable
yes
yes
scale up only
Fault tolerant
no
no
yes
8
Automatic configuration
yes
yes
yes
User Customizable
Initialization actions
Bootstrap actions
Script actions
Preemptible Discounts
yes
yes
no
Long-term Discounts
Sustained use Discounts (no commitment required)
Reserved Pricing (requires commitment)
no
Pipeline execution
Apache Oozie
DataPipeline
Apache Oozie
プラットフォーム
これら 3 つのシステムは、いずれも同じオープンソースの Hadoop ソフトウェアのデプロイを提供します。
EMR と Dataproc は Apache レポジトリからのディストリビューションで始まり、それぞれのクラウドプラットフォーム上で特有のプロビジョニングをサポートするための変更や追加を行います。
HDInsight は Hortonworks Data Platform (HDP) を、ベースとなるディストリビューションとして使用していますが、このディストリビューション自身は Apache バージョンがベースになっていて、更なるパッケージングやサポートのオプションが用意されています。これら 3 つのシステムのプログラム上及び実行時の違いは、主にソースパッケージのバージョンの違いによるものです。
例えば HDInsight は、古いバージョンの Spark を使っており、より最近のバージョン用に書かれた Spark アプリケーションと互換性の問題を起こす可能性があります。
それぞれのシステムは、基になっているクラウドコンピューティングプラットフォームを、システムのプロビジョニングとマネジメントに活用しています。HDInsight は、コアやRAM、ディスクのテクノロジーなど、様々な価格やシステム特性をもった 17 種類 の異なるコンピュートインスタンスタイプでのデプロイをサポートしています。
同様に EMR も、基になっているインスタンスタイプを 37 種類サポートしています。Google Cloud Dataproc では 19 種類のプリデファインドインスタンスタイプに加えて、カスタムインスタンスタイプのサポートにより、ほとんど無制限といえる種々のインスタンスタイプをご用意しています。カスタムインスタンスタイプにより、性能や価格を最適化して、アプリケーションの要求に合わせたクラスター特性を定義することが可能になります。
これら 3 つのシステムは全てクラスター構築後のダイナミックスケーリングをサポートしています。スケーリングにより、必要に応じてシステムからノードの削除や追加ができます。例えば、定常状態にあるクラスターは、多数のジョブがクラスターにサブミットされた場合には一時的にスケールアップが必要になるかもしれません。
バックログ(未処理分)が無くなった時に、クラスターは定常のサイズにスケールダウンが可能です。Google Cloud Dataproc と EMR は必要に応じて、クラスターのスケールアップもスケールダウンもサポートしています。 HDInsight はスケールアップはサポートしていますが、スケールダウンにはリスタートが必要となります。
Cluster の価格体系
Google Cloud Dataproc と EMR は、その基になっているコンピューティング サービスのコストに追加する形で価格が決まっています。EMR の価格は[8]インスタンスタイプによりますが、 EC2 インスタンスの時間課金の概ね 25% となっています。
Cloud Dataproc アドオンの価格は、基になっているインスタンスに加えて $0.01/vcore となります[9]。HDInsight の価格[10]には基になっているインスタンスを含んでおり、これは使用するインスタンスによって異なります。
EMR と HDInsight は使用時間当たりの課金で、時間の端数は切り上げとなります。Google Cloud Dataproc は最低を 10 分として、分当たりで課金します。
したがって、2 時間の作業量だったとしても、ジョブの実行時間が仮に 1 分でも超過すれば、 EMR と HDInsight では 3 時間分の課金となり、実質的に 50% 余分なコストが上乗せされます。
Cloud Dataproc は課金を分単位で計算するため、他のシステムと比較して全体のコストの削減になるばかりではなく、お客様のアプリケーションのライフサイクル管理が大変簡単になります。
Google Cloud Dataproc と EMR は両方とも、プリエンプティブルディスカウント( EMR では「スポットプライシング (spot pricing) 」と呼ぶ)や長期使用ディスカウトなどの追加のオプションがあります。
EMR のスポットプライシングでは、ユーザーは基になるインスタンスに「入札」を行い、 AWS はリソースに対して定期的なアクションを起こします。スポットフリートと世界中の入札の容量に応じて、オークションに勝ったユーザーがコンピュートインスタンスにアクセスできるようになります。
もし、ユーザーがオークションに負けた場合、リソースは予告なく回収されます。オークションと入札による価格管理が複雑になるものの、コンピュートインスタンスのコストをオンデマンドの価格に比べて最大で 50% から 70%節約することができます。
AWS のスポットプライシング同様、 Google Cloud Platform のプリエンプティブル VM は告知なくインスタンスをプリエンプト(回収)される可能性と引き換えに、大幅なディスカウント価格でリソースを提供します。スポットと異なるのは、オークションの管理が必要なく、ディスカウントは 70% 固定となっていることです。
クラスター実行モデル
3 つのシステム全てで transient と persistent のクラスターモデルをサポートしています。Persistent クラスターは、その名前が示す通り一年中 24 時間休みなく連続して長期間稼働します。この場合、ジョブはユーザーからの要求か、あるいは連続的なデータの受け入れにより常にシステムにサブミットされます。
これに対し transient クラスターは、特定のタスクを走らせるために構築されるもので、その後このクラスターは破壊されます。これが使用される典型的なケースは、データをバッチモードで処理する ETL ジョブです。例えば、ログデータはオブジェクトストレージシステムに集められ、毎晩、処理されてデータマートかデータウェアハウスに加えられます。
このモデルをサポートするために、データを信頼できるストレージからクラスターにストリーミングする必要があります。Google Cloud Dataproc は Google Cloud Storage (GCS) コネクターを使ってクラスターとデータをストリーミングにより出し入れします。同様に EMR は AWS S3 からのストリーミングを、 HDInsights は Azure Blob Storage をサポートします。
標準的な作業量での価格の比較
価格体系を比較する為に、 transient クラスターモデルを仮定しました。このクラスターは、関連したオブジェクトストレージシステムに元々存在していた、ある大きさのデータを処理する為に作られたものとします。クラスターがこのデータを処理した後、結果はオブジェクトストレージにプッシュバックされ、クラスターは終了します。
考慮するトータルコストは、主に処理とストレージのコストになります(ここで比較している 3 つのシステムでは、このような作業量では、帯域、 API などには課金が発生しないため考慮しません。)。また、通常の価格体系とプリエンプティブルのディスカウントの価格体系の両方を比較します。なお、長期契約のディスカウントは考慮しません。
これは、このモデルでは一日のうちの僅かな時間しかアプリケーションが稼働しないため、 GCP の長期契約ディスカウントに該当しないこと、 EMR のリザーブプライシングモデルによるコストの削減も無いこと、が理由です。
平均の入力データの大きさを 50TB と仮定します。これはエンタープライズでのログ処理の典型的な大きさです。クラスターに関しては、それぞれ 4 つのコアと 15 GB の RAM を持つ 20 のワーカノードからなるクラスターの比較とします。
Google Cloud Dataproc では、ノードあたりバーチャルコア 4 個と 15 GB の RAM、 80 GB の SSD ディスクをもつ n1-standard-4 インスタンスタイプの 21-node クラスター (1 つのマスターと 20 のワーカノード)でこの要求を満足します。
EMR クラスターは 4 コア、 15GB の RAM、 40 GB のローカル接続 SSD ストレージ 2 台を持つ m3.xlarge インスタンスタイプの 21-node EMR クラスター(1 つのヘッドノードと 20のワーカノード)を比較対象とし、 HDInsight クラスターでは、 4 コア、 14 GB の RAM と 200 GB のディスクを持った D3v2 インスタンス 20-node HDInsight クラスター(20 のワーカノード、 2 つのヘッドノードと 3 つのズーキーパーノード)を比較の対象とします。
クラスターの実行時間は 5 時間で毎日稼働するとします。この時、クラスターは毎日 50 TB のデータを処理する為に作成され、 5 時間後に終了します。このモデルは transient クラスターでは極めて一般的です。コスト比較は計算コストとストレージコストの月額とします。
表 2 は私たちのアプリケーションを 3 つのプロセシングエンジンを使用して実行した場合のトータルの月額で、標準価格とプリエンプティブルディスカウントの両方を示します。標準コストは対応するオンラインのプライスカルキュレーターで計算しており、ショートタームのディスカウントは下に示す方法で見積もっています。なお、 HDInsight ではショートタームのディスカウントはありません。
表 2 :50 TB のデータを 5 時間で処理した場合のコスト(2016 年 2 月時点)
PRICING MODEL
DATAPROC
EMR
HDINSIGHT
Standard Pricing
$2,154.40
$2,613.27
$3,261.33
Short term discount
$1934.43
$1,936.17
14
-na-
標準価格体系
標準価格の結果を見ると、 Dataproc では $2,154、 EMR はこれの 35% 増し、 HDInsight はさらにその 13% 割高となりました。価格の中ではストレージコストが占める割合が高く、 Google Cloud では $1,331 (トータルコストの61%)、 AWS では $1,510 (同 52%)、 HDInsight では $1,208,73 (同 37%)です。
実際の利用環境では Google Cloud Dataproc はトータルプライスに示すよりも更にコスト効率が良いと考えられます。これは、 Dataproc は 1 分当たりで課金するのに対して、 EMR や HDInsight では 1 時間当たりの切り上げ計算となるためです。
ここでは、アプリケーションが 1 日当たり 5 時間ちょうど稼働するという前提で計算していますが、実際には厳密な稼働時間を見積もるのは簡単ではありません。稼働時間が 1 分でも、このシナリオを上回ると、時間当たりで計算した場合には 1 時間分のコストが余計にかかり、結果として 20% コストが高くなることになります。
プリエンプティブルディスカウント
Google Cloud プラットフォームのプリエンプティブル VM でも AWS のスポットモデルでも、予告なしでのノードの回収を許容する条件で、大幅な価格の削減を提供しています。ただし、そのようなことが起きた場合、クラスターは終了し、それまでに行われていた作業は失われることになります。可能性は低いながらプリエンプションが起きることがありますが、その場合でも新しいクラスターをスタートすることができ、データセットの処理は可能で、データが失われることはありません。しかしながら、時間が重要な場合や非常に長時間にわたって稼働するクラスターではこれは良いことではありません。
HDInsight はプリエンプティブルディスカウントを提供していません。Google Cloud プラットフォームでは標準価格に対して 70 %固定の割引を用意しています。また、 AWS オークションは未使用のインスタンスをオークションに掛けて、ユーザーの応札により誰がそのリソースを得るかを決めます。
スポットインスタンスの需要と供給は変動するため、スポット価格も大きく変動します。この比較では、過去 7 日間の us-east-1 地域の m3.xlarge インスタンスタイプの平均価格をトータルコスト計算の基礎としています。この平均価格は 1 時間当たり $0.04 でしたが、一時的に時間当たり $2.8 まで上昇したこともあります。
なお、 m3.xlarge のオンデマンド価格は $0.266 です。クラスターのコストは基になる EC2 インスタンスのスポット価格と、スポットマーケットとは関係なく固定の EMR アップリフトの合計です。
EMR クラスターのスポット価格を安めに見積もったとしても、 Google Cloud Dataproc は EMR より 5% 割安です。しかも、 Cloud Dataproc のユーザーはオークションを管理する必要がありません。オークションを管理するためには、これまでの価格の推移を元に、ある統計処理によって応札価格を計算し、各スポットリソースに応じて積極的に割当額を管理しなくてはなりません。これに対して、 Cloud Dataproc では同じ様なことをより少ないステップで提供しているのです。
まとめ
Cloud プラットフォームでは、現在の Hadoop のコミュニティで認められたベストプラクティスに基づいた Hadoop クラスターを、簡便でコスト効率良く構築しデプロイする手法を提供しています。クラウドでデプロイすることで、大きなオブジェクトストレージシステムやデータウェアハウスシステム、ワークフローマネジメントツールとのインテグレーションも提供します。
ここで取り上げた 3 つのシステムは全て、オープンソースの Hadoop に基づき、本質的に同じ Hadoop の機能を提供していますが、その価格や使用に際しての複雑さはそれぞれ大きく異なっています。
Google Cloud Dataproc は他の二つのシステムと比較して、最大 25% という大きなコスト削減を実現し、他には無いフレキシビリティやパフォーマンスを提供します。
もし、コメントやアイデア、ご質問は
こちら
までお送りください。是非、お話を伺いたいと思います!
関連コンテンツ
Google Cloud Dataproc managed Spark and Hadoop service now GA
, Feb 22 2016
Comparing the Dataflow/Beam and Spark Programming Models
, Feb 3 2016
Announcing Google Cloud Bigtable: The same database that powers Google Search, Gmail and Analytics is now available on Google Cloud Platform
, May 6 2015
Google BigQuery Benchmark
, June 9 2015
[1]
http://archive.wired.com/magazine/wired-20th-anniversary/
[2] As provided by Cloud Dataproc version 1.0.0 released 2/22/2016,
https://cloud.google.com/dataproc/dataproc-versions
[3] AWS Elastic MapReduce AMI 4.3 released 1/27/2016,
http://aws.amazon.com/documentation/elastic-mapreduce/
[4] Microsoft Azure HDInsight v3.2 using Hortonworks Data Platform (HDP) 2.2 released 12/03/2015,
https://azure.microsoft.com/en-us/documentation/articles/hdinsight-release-notes/
[5] HBase support through the Google Bigtable service
[6] As of AMI 3.1.0 and later of Elastic MapReduce
[7] Cloud Dataproc supports 19 pre-defined instances types and new custom instance types that match your workloads,
https://cloud.google.com/dataproc/concepts/custom-machine-types
[8] Dual head node and 3 zookeeper nodes provide failover
[9]
https://azure.microsoft.com/en-us/documentation/articles/hdinsight-hadoop-linux-information/#scaling
[10]
https://aws.amazon.com/elasticmapreduce/pricing/
[11]
https://cloud.google.com/dataproc/pricing
[12]
https://azure.microsoft.com/en-us/pricing/details/hdinsight/
[13]
http://ec2price.com/
[14] Using average spot market price in us-east-1 for m3.xlarge instance type from Jan 1, 2016 to Jan 7 2016.Data obtained using the AWS spot pricing API. The average spot price during that time was $.065. Total cost = (Spot Price + EMR Uplift) * number of nodes * number of hours used + AWS S3 storage costs, or ($.065 + $.07) * 21 nodes * 150 hours + $1510.92. 2016
-Posted by Karan Bhatia & Peter-Mark Verwoerd, Google Cloud Platform Solutions Architects
Google BigQuery - コスト計算と最適化
2015年12月22日火曜日
Posted by 八木橋 徹平 (Google Cloud Platform シニア ソリューション アーキテクト)
Google BigQuery
を利用するにあたり、想定外の利用料金が発生する可能性がある点に、懸念を持たれる声をいただくことがあります。
このブログでは、まず BigQuery のコストの算出方法を明確にし、その上でコストの最適化方法をご紹介します。
Google Cloud Platform としてお客様には、常に最適な環境と必要最小限のコストで BigQuery をご利用いただくことを目指しています。
Google BigQuery 課金体系
BigQuery の料金は、3 つの要素から構成されます。
ストレージ
:GB あたり月 $0.020
ストリーミング・インサート
:200MB あたり $0.01(各行は最低 1KB として算出)
クエリー
:TB あたり $5
計算例:
①月毎のテーブルに 100GB を格納(常に 1 年分を保持)
②毎月 100GB のテーブルを追加し、一番古い月のテーブルを削除
③最新月のテーブルへ 100 回クエリー、その他のテーブルへ 10 回
月額料金
= (1,200GB * $0.020) + (102,400MB / 200MB * $0.01) + ($0.097TB * 110 * $5)
= $24 + $5.12 + $53.71
= $82.83
上記の条件の場合、毎月 1 万円弱($1 = ¥120 換算)で 1TB 以上のデータを蓄積し、集計処理などに利用することができます。①のストレージとしてのコストだけを見ると、毎月 ¥2,880 程度の料金となり、単純なログ・データの保管場所としての利用も考えられます。
コスト試算する上で、最大の懸念事項として上がるのが③の総クエリー数になります。エンド・ユーザが実際にどのくらいクエリーを発行するのかを事前に把握することが困難な点です。
コスト制御
想定外のコストの発生を防ぐために、課金に関連したアラートの設定や BigQuery の利用に幾つかの制限を設けることが可能になりました。
Billing Alert 機能
Google Cloud Platform のプロジェクト単位で、予め設定した課金の閾値を超えた場合、管理者にアラートとしてメールを送信することが可能です。管理者は閾値の 50% 、90% 、100% に達した際にそれぞれアラートを受け取ることができ、早い段階で原因を調査することができます。
BigQuery カスタム・クォータの設定
多数のユーザが複数のプロジェクトを跨って、BigQuery を大規模に利用する場合、カスタム・クォータは、より細かなクエリー・コストの制御を実現します。下記のクォータ設定をこちらの
フォーム
から申請できます。
プロジェクト
:特定プロジェクト内で実行されるクエリーによって、1 日あたりに処理可能なデータ量
ユーザ
:特定プロジェクト内で各ユーザが発行するクエリーによって、1 日あたりに処理可能なデータ量
* 各クォータは、10TB 単位で指定します。
設定例:
プロジェクト 50TB
ユーザ 10TB
10 ユーザがそれぞれ 4TB をクエリーで消費した場合、各ユーザは最大で残り 6TB が利用可能で、ユーザ間でプロジェクトの残り 10TB をシェアすることになります。その後、10TB が消化された時点で、対象プロジェクトでは BigQuery を一時的に利用できなくなります。クォータは日次で補充され、利用の再開が可能となります。
Table Decorator の活用
BigQuery にクエリーを発行した場合、通常はカラムのフルスキャンが実行されます。Table decorator を利用することにより、効率的にデータのサブセットに対して実行することが可能です。Table decorator は、テーブルのコピーやエクスポートなどデータの読込みが発生するあらゆる局面で利用することができます。
Table decorator は、相対的あるいは絶対的な「時間」の指定をサポートします。過去 7 日間以内で、それぞれ相対的な時間はミリ秒単位の負数、絶対的な時間は1970/1/1からミリ秒単位の正数を指定します。
Snapshot decorator
過去 7 日間以内のデータのスナップショットを参照することができます。
相対値の例:
1 時間前のスナップショットを参照
SELECT COUNT(*) FROM [mydataset.sample@-3600000]
絶対値の例:
特定の時間のスナップショットを参照
SELECT COUNT(*) FROM [mydataset.sample@1450310638759]
Range decorator
過去 7 日間で、指定した期間内に追加されたデータのみを参照することができます。
相対値の例:
1 時間前から 30 分以内に追加されたレコードのみを参照
SELECT COUNT(*) FROM [mydataset.sample@-3600000--1800000]
絶対値の例:
特定期間内に追加されたレコードのみを参照
SELECT COUNT(*) FROM [mydataset.sample@1450310638759-1450314836556]
まとめ
BigQuery の課金体系は、「ストレージ」・「ストリーミング・インサート」・「クエリー」から構成される。
Billing Alert 機能やカスタム・クォータを設定することにより、想定外の料金が発生する前に検知や未然に抑制することができる。
Table decorator の活用により、読込むデータ量を抑えることができる。
クラウドの料金体系を理解する:第 5 部 - NoSQL データベース編
2015年9月9日水曜日
* この投稿は、米国時間 8 月 31 日、Solutions Architects である Sandeep Parikh と Peter-Mark Verwoerd によって投稿されたもの(
投稿はこちら
)の抄訳です。
クラウドの料金体系をテーマにした以下の投稿にたくさんの反響やご意見をいただき、ありがとうございます(まだまだお待ちしています)。
第 1 部 - 仮想コンピュータ編
第 2 部 - ローカル SSD 編
第 3 部 - データ ウェアハウス編
第 3.2 部 - 追加情報編
第 4 部 - 真のクラウド エコノミクス編
今回は、クラウドで NoSQL データベースを実行する場合の料金です。
Google Cloud Platform
で NoSQL ワークロードを実行するときのコストを見積もるために必要な知識を紹介します。
NoSQL データベース
NoSQL データベース市場は
ここ数年爆発的な成長を遂げており
、NoSQL データベースは分散データとスケーリングにまつわるさまざまな課題を解決するうえで、きわめて重要な存在になっています。NoSQL は、新しいイノベーティブなアプリケーションやソリューションを生み出すためのドアを開いたのです。NoSQL は、Not Only SQL(SQL だけじゃない)という概念に当てはまるデータ ストアの総称で、多くの製品はリレーショナル データベースの標準概念である原子性、一貫性、独立性、永続性(詳しくは
ACID
を参照)と、分散システムの一貫性、可用性、分断耐性(詳しくは
CAP 定理
を参照)を高度に操作できます。そして、すべての NoSQL データベースは、データのモデリング、格納の方法という面ではそれぞれに異なる特徴を持っています。たとえば、JSON ドキュメント、キーバリュー、ワイドカラム、ブロブ ストレージなどです。
当然ながら、
MongoDB
、
Apache Cassandra
、
Riak
、
Apache CouchDB
、
Couchbase
などをはじめとする多数の異なる自己管理オプションがありますが、ここでは MongoDB を実行する場合の料金の見積もり方法を見ていきます。MongoDB はドキュメント ベースで、スケーラビリティのきわめて高い NoSQL データベースであり、ダイナミックな JSON スキーマと強力なクエリ言語を提供します。MongoDB には、顧客の 360 度ビュー、リアルタイム アナリティクス、IoT アプリケーション、コンテンツ管理などのユースケースがあります(列挙したものは、ごく一部です)。
しかし、MongoDB の料金データを見ていて、われわれは面白いことに気づきました。もともとは、Google Cloud Platform 上で Cassandra を使った場合の料金については別に記事を用意するつもりだったのですが、ハードウェア(仮想であれリアルであれ)の要件はほぼ同じで、どちらも購入すべきライセンスがないので、料金はほとんど同じなのです。データベースの名前が違うだけなのに別の投稿を用意するというのは無意味なので、ここでは Cassandra も含めて話を進めます。
Cassandra は MongoDB とは異なり、キーバリュー ストアです。Cassandra は、
Google の Bigtable ホワイトペーパー
の影響を受けたデータ モデルと、
Amazon の Dynamo
ホワイトペーパーの影響を受けた可用性デザインを使って Facebook が開発したデータベースです。Cassandra は、可用性とパフォーマンスを高くして、一貫性をチューニングできるように作られています。またリーダー ノードやマスター ノードはなく、クラスタ内のすべてのノードがリング状になっており、データは設定された回数だけレプリケートされます。マスターのないクラスタにデータを格納するところから可用性を高め、クエリに応答するためにクラスタにどれだけの労力をかけさせるかを操作できるようにして、一貫性の度合いを変えられるようにしています。Cassandra と MongoDB は、Google のお客様の間で特によく使われている NoSQL データベースです。
出発点
では、ユースケースがさまざまで、クエリやトラフィック パターンもさまざまな形があり得るなかで、料金をどのように推計すればよいのでしょうか。MongoDB の場合は、範囲を少し狭め、既存のベンチマークで使われているリソースのコストを推計してみることにします。MongoDB のパフォーマンスのベンチマークで公表されたものは複数ありますが、ここでは、
MongoDB が公開したもの
と、
United Software Associates のもの
を取り上げることにします。どちらのベンチマークもスループットとレイテンシーについての結論はほぼ同じだったので、モデルとしては妥当でしょう。
United Software Associates のベンチマークが 1 つの MongoDB ノードを使っているのに対し、MongoDB のベンチマークは 3 ノードの
レプリカ セット
を使っています。レプリカ セットとは、冗長性を持たせて可用性を高めるための MongoDB のデプロイ形態であり、本番ワークロード(最小限)ではこれを使うことが強く推奨されています。作れる最小のレプリカ セットは 3 ノードで、各ノードは同等のスペックで構成されます。以下の料金推計では、この構成も対象とすることにします。ベンチマークで使われたオンプレミスのハードウェア構成は次のとおりです(ほとんどのデータベースがそうですが、MongoDB は可能なら RAM が多く、ストレージの IOPS が高い構成が適しています)。
Benchmark
MongoDB
United Software Associates
CPU
Dual 10-core Xeon 3.0 GHz
Dual 6-core Xeon 3.06 GHz
RAM
128 GB
96 GB
Storage
2 x 960 GB SSD
2 x 960 GB SSD
Monthly Price (single node)
$1,525.00* (
estimate
)
Unavailable**
Monthly Price (3-node replica set)
$4,575.00* (
estimate
)
Unavailable**
それでは、Google Compute Engine インスタンスとストレージで、これに匹敵する構成を組み立てて料金を見てみましょう。
RAM
104 GB
120 GB
Storage
4 x 375 GB Local SSD
4 x 375 GB Local SSD
Monthly Price (single node)
$843.60
$1,146.10
Monthly Price (3-node replica set)
$2,530.76
(
estimate
)
$3,438.30
(
estimate
)
Monthly Price Difference
44%
24%
Annual Savings vs. On-Premise
$24,530.88
$13,640.40
上の表は、シングル ノードと 3 ノード レプリカ セット(先ほども触れたように、MongoDB の本番環境での一般的な構成です)の料金を示しています。ストレージ レイヤでローカル SSD を選択したのは、ベンチマークで得られたスループットの数値を達成するために必要な IOPS をサポートするためです。
このディスク タイプの比較
が示すように、ローカル SSD はインスタンス当たり 280,000 書き込み IOPS までをサポートします。ローカル SSD が一時的なストレージであり、マウントされている仮想マシンにライフ サイクルが左右されることは承知していますが、だからこそ、可用性の高い MongoDB 3 ノード レプリカ セット オプションの料金を推計に含めているわけです。なお、上記の料金は、月額が約 30% 割引になる Google Cloud Platform
継続使用割引
を加味したものになっています。
Cassandra を使ったときの推定料金も MongoDB とほぼ同じです。どちらも、ローカル SSD によってパフォーマンスが高くなっています。そして、メモリを増やすか(n1-highmem-16)、CPU を強くするか(n1-standard-32)は、DBA が Cassandra クラスタを設計するときに直面する典型的なトレードオフです。もちろん、これは料金推計を始めるためのガイダンスにすぎません。実際にテストを実行してみなければ、目の前のアプリケーションにとって何が最良の選択かはわからないものです。
独自テストの実行
ベンチマークの常として、実際のワークロードをテストしてみると、何が得なのかはまちまちになります。ベンチマークのような隔離されたテストは、必ずしも現実のパフォーマンスと一致しません。ですから、独自テストを実行して、お客様の利用形態にごく近いワークロードで読み書きパフォーマンスを評価することが大切です。
PerfKit
を使って、ワークロードやワーカー数の調整も含めて、お客様独自のデプロイ案のプロファイリングを行ってみてください。
NoSQL ワークロードの料金は途方もなく高くなってしまう場合がありますが、コストを見積もるための出発点はおわかりいただけたのではないでしょうか。Google Cloud Platform の計算、記憶能力についてもっと知りたい方は、
Google Compute Engine
ページや
ドキュメント
を参照ください。ご意見や疑問点があったら、ぜひともお知らせください。
* 価格は
Softlayer
の CTO (受注仕様生産) ベアメタル サーバーの料金より
** この構成では月額の推計が不可能
- Posted by Sandeep Parikh and Peter-Mark Verwoerd, Solutions Architects
クラウドの料金体系を理解する: 第 4 部 – 真のクラウド エコノミクス編
2015年7月30日木曜日
* この投稿は、米国時間 7 月 27 日、Google Cloud Platform, Global Head of Solutions の
Miles Ward によって投稿されたもの
の抄訳です。
今夏の NEXT イベント
(東京では6月18日開催)では、世界中の開発者の方々と現在抱えている問題について話し合う機会がありましたが、その中で常に皆さまの念頭にあったものの 1 つが、クラウドを検討する際のコストの問題です。
さらにはお客様が本当に理解したいと考えているのは、単なる価格表でも割引でもなく、長期的な視点から見た真のクラウド エコノミクスであり、現在ある数え切れないほどのシステムの構築方法に伴う経済性です。
長年の経験を持つ実績のあるベテランの専門家にとっても、クラウド サービスの柔軟性/パフォーマンスと価格との対比を、熟知しているオンプレミスでの対比と比較することは非常に困難です。
よく知られた一般的な方法(キャパシティ プランニング、サプライチェーン マネジメント、不動産/施設運用、デコミッショニングなど)が多数あるものの、これらは単純にクラウド環境に対して適切であるとは言い難く、またこれらの手法を切り捨ててしまうことでどの程度状況が変わるのかは判断しにくいところです。
クラウドのコストについてお客様に理解を深めていただくために、私のチームはいくつかのアプローチを採用しています。粒度が細かくオンデマンドでかつ従量課金制でロックインのない
Google Cloud Platform
を用いることによって、分散ソフトウェアと機械学習、超高速ツールの機能を最大限に活用でき、極めて低い TCO(総所有コスト)で目覚ましいパフォーマンスを実現できます。しかしこれらの仕様は時に複雑さをもたらすので私達は、機能の背景・文脈を提供し、わかりやすくすることに焦点をおいています。
まず私達は
コンピューティング
と
ストレージ
の両方を対象に Google Cloud Platform の月額料金を見積もるための使いやすい
料金計算ツール
と TCO ツールを構築しました。また過去のブログの投稿では、少し実装変えるだけで TCO にどれほどの違いがもたらされるかを比較対照する具体例も紹介しています。
過去の料金ポスト
クラウドの料金体系を理解する: 第 1 部 ― 仮想コンピュータ編
クラウドの料金体系を理解する: 第 2 部 ― ローカル SSD 編
クラウドの料金体系を理解する: 第 3 部 ― データ ウェアハウス編
クラウドの料金体系を理解する: 第 3.2 部 ― データ ウェアハウスに関する追加情報編
今後も料金ページのアップデートのほか、コスト効率の観点からシステムの最適化を支援ツールの構築も継続していきます。ぜひ今後もフィードバックをお寄せください。
こうした価格/パフォーマンスに対するアプローチは、ただ単に
競争力のある料金体系
を決定づけているだけではありません。Google は自動的な継続使用割引のほか、前払いによるロックインを防ぎ、分単位で課金することでユーザーが余計にお金を払う必要をなくすなどといった革新的な方法を提供しながら、クラウド エコノミクスにおけるリーダーシップを発揮することに焦点を置いています。
私はチューバを演奏しますので、
私の写真
をみて大ぼらを吹いていると思われても仕方ないかもしれません。冗談はさておき、私達はこれらの事実が第三者の検証によって得られることは、ビジネスとテクニカルサイド双方の賢明な意思決定者にとっても極めて重要なことは当然理解しています。トヨタ自動車のエンジニアがあなたの自動車についてアドバイスをするからといってもすべてを聞いてすべて言うとおりにすることはないですよね。
Google が構築したツールと
Google Cloud Platform
の総コストに関するステートメントは、技術システムの価格/パフォーマンスの評価で長年の経験を持つ、独立した分析会社の
Enterprise Strategy Group
(以下 ESG ) によって詳細に検証されています。
こうした評価の実行は容易ではありませんが、
ESG
は入念かつ系統的な徹底したアプローチをもって Google のサービスを理解した上で、独自のモデリングと設定した前提(TCO の評価にあたって理にかなう前提を設定することは、まさに数学にほかなりません)に従って、
Google Cloud Platform
の TCO に関する分析値を弾き出しました。
(詳細はこちらを参照:
ESG Lab White Paper "Price Comparison: Google Cloud Platform vs. Amazon Web Service
)
この分析では、私達がずっと主張し続けてきた TCO における優位性のほか、
ESG
が新たに着眼した複数の点でその正当性が実証されました。
正直なところ検証結果を見てひと安心しました。 聡明で探求心のある人に成果物をチェックしてもらい、太鼓判を押してもらうのはいつだってうれしいことです。
ESG の調査資料
は明確でわかりやすい上に情報がたくさん詰まっています。クラウドの複雑な TCO の理解に苦労している方はお読みいただくことをお勧めします。皆さまのご意見のほか、他にどんな比較や評価が意思決定のプロセスに役立っているか、体験談もぜひお知らせください!
-Miles Ward, Global Head of Solutions, Google Cloud Platform
クラウドの料金体系を理解する: 第 3.2 部 ― データ ウェアハウスに関する追加情報編
2015年7月16日木曜日
* この投稿は、米国時間 7 月 6 日、Solutions Architect の
Peter-Mark Verwoerd によって投稿されたもの
の抄訳です。
データ ウェアハウスの料金体系関する投稿
では大きな反響をいただきました。皆さまからのご意見やフィードバックに心から感謝しています。「もっと知りたい」というメッセージがたくさん寄せられましたので、本日はさらにデータ ウェアハウスの比較を行いながら、リクエストにお応えしたいと思います。
はじめに思い出していただきたいのは、データ ウェアハウスは大量なデータの保存、データの分析、レポートの作成ができる手段だということです。
前回の料金体系に関する投稿
では
Google BigQuery
と一般的な商用データ ウェアハウスの比較を行いましたが、どちらのデータ ウェアハウスも、パブリック クラウドでの実行、大量のデータの保存、レポートの作成、分析の実施に対応するものでした。データ ウェアハウスの定義やクラウドで利用されるシステムの違いについては、
前回の投稿
の最初のセクションでご確認いただけます。本日は「もっと具体的な例を挙げてほしい」とのご意見にお応えしていきます。
第 1 部の投稿と同じく、
Google BigQuery
がクラウドでのデータ ウェアハウスの運用に最適な選択肢である理由をご理解いただけることを願っています。
クラスタの例
前回の例では、1 PB (ペタバイト)のデータが保存できるデータ ウェアハウスについて検討しました。一貫性を持たせるため、今回も同じ容量で比較を行っていきます。
対象とするのは、
Google BigQuery
、
Amazon Redshift
、
Apache Hadoop
でクエリを実行するオープンソースのエンジンです。Hadoop で実行される HDFS は大量のデータを保存できるほか、データの分析が可能なツールもいくつかあるため、Hadoop も比較の対象としました。これについては後ほど解説することにします。
検討の対象は他にもあるものの、ここではさまざまなお客様に利用され、一般的に「データ ウェアハウス」と分類される製品の代表となるものを検討します。アマゾン ウェブ サービスでしか利用できないAmazon Redshift 以外のデータ ウェアハウスについては、Google Cloud Platform で運用した際にかかる料金を見ていきます(これが役立つ理由については、
料金体系に関する投稿
をご覧ください)。上記の 3 つのシステムは、
前回の投稿
でご紹介した大量のデータの保存、データの分析、分析レポートの作成、パブリック クラウドでの完全なバージョンの実行といった基本的な要件に対応しています。
それでは、これらのデータ ウェアハウスに設定されている料金体系を見ていきましょう。
すでにご紹介したように、BigQuery では消費に基づくモデル(従量課金制)が採用されており、使ったストレージとコンピューティングに応じて
料金
が請求されます。現時点でのストレージの月額は $0.02/GB、データ分析は $5/TB です。
Amazon Redshift
では、保存するデータの容量、ノードの数、特定のストレージ容量を持つノード タイプに基づいて料金が決定されます。もう少し複雑なクラスタの料金体系については、のちほどもう少し詳しくご紹介します。
Hadoop はオープンソースのソフトウェアのため、ソフトウェアのライセンス費用はかかりません(
Cloudera
や
Hortonworks
など、プロバイダーによって管理される Hadoop を使っていない場合(これらについては本日は検討しません))。ただし、Hadoop のクラスタを実行するにはインフラストラクチャにコストがかかります。これについてはのちほど検討します。Hadoop クラスタ上でクエリを実行するエンジンもオープンソースとします。料金には影響がないため利用できるエンジンについては解説しませんが、
Apache Hive
、
Cloudera Impala
、
Apache Spark SQL (旧Shark)
、
Presto
など、選択肢はたくさんあります。
クラスタのサイジング
BigQuery での料金の算出については、
前回の投稿
と同じく 1 日のユーザーを 100 人、クエリを 40 個、平均クエリサイズを 100 GB とします。つまり、1 日あたりのクエリは 4,000 個、 1 か月(30 日)あたりの分析データは 12,000 TB となります。
Redshift での料金を正確に算出するためには、いくつかの要素を考慮に入れる必要があります。まず、Redshift には現在、回転ディスク ストレージの ds2.xlarge(2 TB)と ds2.8xlarge(16 TB)、SSD ストレージの dc1.large(0.16 TB)と dc1.8xlarge(2.56 TB) の 4 つのノード タイプがありますが、クラスタを作成するのは 1 つです。次に、dc1.large と ds2.xlargeではそれぞれ最大 32 個、ds2.8xlarge と dc1.8xlarge ではそれぞれ最大 128 個のクラスタを作成できます。
さらに、これらのノードでは「オンデマンド料金」または「リザーブド インスタンス料金」を選択できます(リザーブド インスタンスの料金体系に関する詳しい解説については、
料金体系に関するブログポスト第 1 部
をご覧ください)。
リザーブド インスタンスは長期契約(1 年または 3 年)に設定される料金体系で、料金の一部前払いと全前払いの選択肢が設定されています。リザーブド インスタンスを購入すると全期間にかかる料金を支払う必要があるものの、「時間単位」のコストは安くなります。
本日は ds2.8xlarge(回転ディスク)の 1 年/3 年契約のリザーブド インスタンスとオンデマンドの料金を比較します。参考までに
Redshift のよくある質問
によると、ds2.8xlarge では 36 個の仮想コアと RAM 260 GB を備えています。つまり、1 PB のストレージを確保するためには、ds2.8xlarge のクラスタで 63 個(1 PB 強のストレージ)のインスタンスが必要になります。
dc1.8xlarge(SSD)については、実際に料金を確認しましたが以下の 3 つの理由から本日は検討しません。
SSD のクラスタの最大容量が328 TB であり、対象としている 1 PB を大きく下回るため。
通常、SSD ベースのデータ ウェアハウスは小さなデータ セットを伴う特殊なユースケースで使用されていると考えられるため。
本投稿の目的は、クラウドでのデータ ウェアハウスの料金について明確にすることであるため。Redshift ではすべてのノード タイプで同じ料金体系が設定されており、1 つのノード タイプしか検討する必要がない。
Hadoop については、インスタンスの種類を問わずどんなサイズのクラスタも作成できます。ただし、Redshift との比較と整合させるため、n1-highmem-32 のインスタンスを使用することにします。一般的なデータ ウェアハウスや Redshift と同じ理由で、比較の対象とするのは SSD ではなく回転ディスクのクラスタです。
料金体系
下記にはUS時間で 2015 年 6 月 22 日に実施した料金計算の結果が掲載されています。この投稿の公開後に料金体系や計算方法が変更された場合は、数値に差異が生じる可能性があります。
Amazon は最近、Redshift の料金体系を変更していますが、本投稿の作成時点ではすべての変更が反映されるよう料金計算ツールが更新されていませんでした。そのため、計算ツールが適用できないものについては手動で料金を算出しています。
BigQuery での
見積もり
:月額:$79,999.50
内訳はストレージ コスト $20,000、クエリのコスト $59,999.50
Redshift (オンデマンド)での
見積もり
:月額:$315,588.80
オンデマンドの料金については、Redshift よりも BigQuery のほうがはるかに安いことがはっきりとわかります。AWS で長期的な契約をしない場合、
料金は 4 倍近く
になります。
補足ですが、見積もりは前世代のノード タイプ(dw1.8xlarge)で行われているものの、オンデマンド料金については ds2.8xlarge でも同じ料金体系が設定されています。
想定上、Hadoop のクラスタの見積もりは、ライセンス費用がかからないことを除いて一般的なデータ ウェアハウスとまったく同じであるため、料金の算出はそれほど複雑ではありません。
Hadoop での
見積もり
:月額:$143,017.60
Hadoop のほうが Redshift のオンデマンド料金よりも低額です。この理由のひとつは、Google Compute Engine では Sustained Usage Discount という継続使用割引を利用できるからです。この割引は仮想マシンの実行に自動で適用されます。割引料金が適用される上にライセンス費用も不要ですが、Hadoopでは運用コストを考慮にいれる必要があります。マネージド ソリューションとは異なり、実務に携わる運用チームが必要になるからです。
では、Redshift でリザーブド インスタンスを購入する場合の料金についてはどうでしょう。Amazon の料金設定から見積もった金額は下記の通りです。
1 年契約の場合
Redshift のリザーブド インスタンスでの見積もり(1 年契約、前払いなし)
前払い:$0.00
月額:$248,346.00(3,942 x 63)
実質月額: $248,346.00
Redshift のリザーブド インスタンスでの見積もり(1 年契約、一部前払い)
前払い:$1,260,000.00(20,000 x 63)
月額:$79,128.00(1,256 x 63)
実質月額:$184,128.00(1,260,000÷12) + 79,128)
Redshift のリザーブド インスタンスでの見積もり(1 年契約、全前払い)
前払い:$2,164,680.00(34,360 x 63)
月額:$0.00
実質月額:$180,390.00(2,164,680÷12)
上記のすべての選択肢で月額が下がりました。一部前払いと全払いではオンデマンドの場合よりも大幅に料金が安くなり、特に全払いではオンデマンドの実質月額の半額をやや上回る程度まで下がります。AWS の料金計算ツールは上記の支払いオプションに対応していないため私達が料金を算出しましたが、200 万ドルを上回る料金を前払いしても BigQuery のコストの 2 倍以上になることがわかりました。
3 年契約の場合
Redshift のリザーブド インスタンスでの見積もり(3 年契約、一部前払い)
前払い:$1,512,000.00(24000 x 63)
月額:$41,958.00(666 x 63)
実質月額:$83,958.00((1,512,000÷36) + 41,958)
Redshift のリザーブド インスタンスでの見積もり(3 年契約、全前払い)
前払い:$2,824,920.00(44,840 x 63)
月額:$0.00
実質月額:$78,470.00(2,824,920÷36)
3 年契約のリザーブド インスタンスではかなり料金が下がり、1年契約で全額を前払いした場合の半額を下回ります。ここでも、AWS の料金計算ツールが上記の支払いオプションに対応していないため料金を算出しましたが、3 年契約のリザーブド インスタンスで全額を前払いすると、月額は BigQuery よりもおよそ 1,500 ドル安くなります。
リザーブド インスタンスでは料金がかなり下がるものの、依然として BigQuery よりも高額です。さらに、下記のようなたくさんのデメリットがあります。
最もコストが低くなる選択肢(3年契約、全前払い)でさえ、300 万ドルちかい前払い金を支払う必要があります。第 1 部でご紹介したように資本コストは高額です。支払う余裕があったとしても、ほとんどの企業では毎年最大 7% の資本コストがかかります。これを踏まえると、全額前払い、3 年契約のリザーブド インスタンスでは $197,744 を計算に入れなくてはなりません。これを月額に換算するとほぼ $84,000 ((2,824,920 x 1.07)÷36 = $83,962.90)となり、結局は BigQueryよりも高額になります。
Redshift は開始から 3 年目のサービスであるものの、すでに 2 つのインスタンス タイプ(dc1 と ds2)を新たにリリースし、現在では 3 つのインスタンス ファミリーに対応しています。しかし、Redshift のリザーブド インスタンスでは現在の料金体系、技術、インスタンス タイプに縛られることになり、将来の値下げのほか、新しいインスタンス タイプや技術を活用することはできません。このデメリットを緩和するために 1 年契約のリザーブド インスタンスを選択すると、3 年契約のリザーブド インスタンスの 2 倍以上、BigQuery のほぼ 4 倍の料金を支払わなければなりません。
リザーブド インスタンスは手動で購入しなければなりません。つまり、料金的なメリットを維持するためには、担当者が自ら適切なタイミングを判断し、購入を更新する必要があります。これ以外の選択肢は、1 年契約のリザーブド インスタンスのほぼ 2 倍、3 年契約のほぼ 4 倍の料金になる高額なオンデマンド料金です。リザーブド インスタンスの購入と維持には手動のステップが必要なため、完全な自動化と管理を利用したければ高額なオンデマンド料金を支払うしかありません。つまり、料金的なメリットを維持したい場合、Redshift は選択の候補にはならないということです。自動化の拡大と完全なマネージド サービスを同時に実現することは、クラウドに移行する企業にとって最も魅力的なメリットのひとつでしょう。
3 年契約のリザーブド インスタンスでも、資本コストを考慮すると依然として BigQuery よりも5% 高額です。
しかも、この選択肢では 2,800,000 ドルを上回る前払い金が必要です。さらに、BigQuery と比較した場合、1 年間では 47,000 ドル、3 年間では 142,000 ドルを上回る余分なコストがかかります。BigQuery ではパフォーマンスが拡張されるため、低いパフォーマンス層に縛られることにはなりません。
まとめ
クラウドでのデータ ウェアハウスの少々複雑な料金体系について、ほんの一部ではありますが今回ご紹介いたしました。
前回の投稿
で解説した通り、2 つのデータ ウェアハウスを比較するだけで、BigQuery でどれほどのコストが節約できるかがわかります。しかも、ニーズに合わせてサービスを拡張することも可能です。
BigQuery
についてもっと詳しくお知りになりたい場合は、
デモ
をご覧の上、
詳細なドキュメンテーション
や佐藤一憲が作成した
ホワイトペーパー
をお読みください。
Google では、クラウドにかかるコストを大幅に削減する最良のサービスをお客様に活用していただけると確信しています。最近では
仮想マシンの利用料金値下げ
のほか、
定期的なワークロードでの利用で最大 70% のコストダウンを実現する新しい仮想マシンのPreemptible VM
も発表しています。
今回は、
第1部: 仮想コンピュータ
、
第2部: ローカルSSD
、
第3部: データ ウェアハウス
の料金体系に関する追加情報をご紹介しました。本件やその他のクラウドの料金体系についてご質問やご意見がある場合は、ぜひ
お問い合わせ
ください。
- Posted by Peter-Mark Verwoerd, Solutions Architect
クラウドの料金体系を理解する: 第 3 部 – データ ウェアハウス編
2015年7月1日水曜日
* この投稿は、米国時間 6 月 19 日、Solutions Architect の
Peter-Mark Verwoerd によって投稿
されたものの抄訳です。
これまで「クラウドの料金体系を理解する」と題して、
ローカル SSD
と
仮想マシン
について書いてきました。本日は、データ ウェアハウスの料金のほか、運用にあたって必要な情報について検討したいと思います。
ここ数年間でアプリケーションのデータ ボリュームが著しく増加するに従い、ストレージのコストが大幅に削減されました。とはいえ、データの保存だけではあまりメリットがありません。活用するためには、データ クエリの実行、共有可能なレポートの作成、データの分析を可能にする手段が必要です。このような場合にはデータ ウェアハウスが役立ちます。
この投稿における「データ ウェアハウス」とはアプリケーションのトランザクショナル ストレージではなく、レポート機能や分析に使用されるデータ ストレージ システムで、別の言い方をすれば
OLTP
ではなく
OLAP
に焦点を置きます。ということで、本日検討するのは(1)レポート機能と分析、(2)大容量のデータ セットの保存を可能にするシステムです。
では、クラウドでのデータ ウェアハウジングはどのように異なるのでしょうか。これは実行されるシステムの種類に関係がありますが、クラウドには 2 つのデータ ウェアハウスがあります。
従来のデータ センターやクラウド ネイティブのシステムで実行可能なクラウド内のシステム。クラウドを必要とするストレージ、ネットワーク、コンピューティングの適合性ゆえに、クラウドネイティブのデータ ウェアハウスは、従来のデータ センターには存在できません。
Google BigQuery
がこのシステムの一例で、ノードの追加やストレージのプロビジョニングは必要で なく、シームレスなスケールが可能です。
従来のデータ センターで実行可能、または実行されるクラウド内のシステム。このシステムではデプロイメントに従来のアプローチが使用され、ノードを追加することで処理能力とストレージが拡大されます。こうしたデータ ウェアハウスの例として、HP Vertica、SAP HANA、EMC Greenplum、Amazon Redshift などが挙げられます。Redshift はプライベート データ センターに対応しないものの、機能的には他のウェアハウスと極めて類似しています。
コスト効率とパフォーマンスのスケーリングの両面で、Google BigQuery はクラウドでのデータ ウェアハウスの運用において、最適の選択肢となります。
クラスタの例
実際の応用として、1 PB (ペタバイト)のデータ ウェアハウスについて考えてみましょう。OLAP データ ウェアハウスについては「ペタバイト規模」という言葉が頻繁に使われるため、ここでは実際にペタバイトのデータを保存するシステムについて検討します。このシナリオではカラムナ ストレージで運用される一般的な商用データ ウェアハウスと Google BigQuery を比較します。大半のカラム指向のデータベースは市販の製品か、営利主体による有料の保守やパッチ適用などのサポートが提供されているかのどちらかです。
HP Vertica
や
SAP HANA
など、
数多く
のデータ ウェアハウスがありますが、ここでは Google Cloud Platformで一般的なウェアハウスを運用する場合の料金を見ていきます。これらのシステムは大量のデータの保存、データの分析やレポート作成、パブリック クラウドでの完全なバージョンの実行といった Google の基本的な要件に対応するものです。
これらのデータ ウェアハウスにおける料金の決定方法についても検討する必要があるでしょう。BigQuery は消費に基づくモデルが採用されており、利用したストレージとコンピューティングに応じて
料金
が請求されます。現時点でのストレージの月額は $0.02/GB、データ分析は $5/TB です。
大半の商用データ ウェアハウスは料金体系を公表していませんが、保存されているデータ量に基づく料金設定が一般的です。そのため、一般的な商用データ ウェアハウスのライセンスについては、年間 $1,000/TB と想定することにしますが、これはベンダー、お客様、保存されるデータ量によって大きく異なる可能性があります。すべての料金を提示している Google の料金体系では、お客様のご利用に応じて料金を決定します。つまり、Google Compute Engine でのクラスタの実行にかかるコストとライセンス費用の総額の合計が、総コストなのです。
クラスタのサイジング
BigQuery の料金を適切に算出するために、
実際のお客様
の平均値を利用し、実行されるクエリ数を見積もります。ここではユーザーの 90 パーセンタイルに近い使用パターンである 100 GB の平均クエリで、1 日のユーザーを 100 人、クエリを 40 個とします。つまり、1 日あたりのクエリは 4,000 個、 1 か月(30 日)あたりの分析データは 12,000 TB となります。
一般的なシステムを使う場合の料金の算出するにあたっては、広範囲に適用できるガイドラインを使用します。データ ウェアハウスが想定通りに機能するためのノードの最小サイズは最低 16 コア、RAM は最低 60 GB とすべきでしょう。料金の比較が少なくとも最低値に対応するよう、Google Compute Engine の n1-highmem-16 のインスタンス(コア:16、RAM:104 GB)を使用して見積もります。また、データ ウェアハウスではどのタイプのディスクでも同様に料金が算出されるため、見積もりの対象となるのは SSD ではなく回転ディスクのみです。Google Compute Engine では 1 PB の SSD ベースのクラスタを実行できるものの、SSD ベースのデータ ウェアハウスは機能的に小さめのデータ セットにより特化するため、大幅に高額となる傾向があります。
一般的なデータ ウェアハウスの見積もりには、ライセンス費用、インスタンスのコスト、
永続ディスク
のコストの 3 つの要素が含まれます。インスタンスに接続できる永続ディスクの上限は 10 TB で、1 PB では 100 個のインスタンスが使用されることになります。
料金体系
下記には 2015 年 5 月 13 日に実施した料金の計算結果が掲載されています。この投稿の公開後に料金体系や計算方法が変更された場合は、数値に差異が生じる可能性があります。
BigQuery での
見積もり
:月額 $79,999.50
内訳はストレージ コスト $20,000、クエリのコスト $59,999.50
一般的なデータ ウェアハウスでの
見積もり
:月額 $100,502.40
想定されるライセンス月額の見積もりは年間 $1,000/TB(月額 $83,333.33(1,000÷12))
合計月額:$183,835.73
一般的なデータ ウェアハウスのほうが BigQuery よりも大幅にコストがかかることは一目瞭然です。ただし、Google Compute Engine でクラスタを実行する場合、コストをオンデマンド料金よりも自動的かつ大幅に削減できる、Sustained Usage Discountという継続使用割引を利用できます。これにより、大規模な永続クラスタ実行のコスト効果が確実に高まります。一方、データ ウェアハウスのライセンス費用によって、Google Compute Engine での実行にかかる運用コストが大幅に増大する可能性があります。
スケーリング
どのシステムを使用するかを検討する際には、料金体系だけでなく、スケーリングについても理解しておくことが重要です。
データ ウェアハウスのスケーリングについては、ストレージの容量とストレージへのアクセス速度という 2 つの重要な要素があります。カラム指向のデータ ウェアハウスではノードの追加によってストレージが拡大されるため、プロビジョニングできるノード数が制限されます。これまで 1 PB のストレージに 100 個のノードが使用されていましたが、 Google Compute Engine ではそれをはるかに上回ることができます。ただし、ストレージとパフォーマンスはひとくくりになっているため、コンピューティングのニーズと切り離してストレージだけを追加することはできません。同様に、コンピューティングのキャパシティだけを追加したい場合も、ノードを追加する以外の方法はありません。
BigQuery ではスケーリングとパフォーマンスを別々に考えることができます。つまり、ストレージとコンピューティングのニーズを分離できる料金体系が設定されています。データの保存量を増やす必要があるものの、作業量は変わらない場合(通常の使用パターンでは、データの追加によってレポートも増加)、BigQuery では不要なコンピューティングの追加に料金を支払うことなく、より多くのデータを保存できます。同様に、データ セットの容量はそのままで作業量を増やす必要がある場合(レポートやアドホック クエリの増加)も、不要なストレージの追加に料金を支払うことなく、作業量を増やすことができます。
では、こうした増加分に対して料金がどう変化するのかを把握するために、コンピューティングとストレージのいずれかを大幅に拡大させる必要が発生した場合について考えてみましょう。すべての想定はこれまでと同様として、ストレージが 1 PB から 10 PB に拡大すると、月額は下記のようになります。
BigQuery での
見積もり
:$259,999.50
内訳はストレージが $200,000、クエリが $59,999.50です。クエリについては 1 PB の場合とまったく同じ料金ですが、これは料金のメトリクスが完全に独立しているためです。10 倍のデータ保存が可能になったために、ストレージにかかるコストは 10 倍になりますが、データ分析にかかるコストは変わりません。
では 5倍のデータの分析が必要になった場合を見てみましょう。
BigQuery での
見積もり
:$499,999.50
ストレージとクエリの料金のメトリクスが完全に独立しているため、クエリの挙動と領域が変更しない場合、料金は 1 PB のときと変わらず $59,999.50 になります。実際には 10 PB の場合のデータのフットプリントが拡大される可能性があるため、1 PB と比較して 5 倍のデータが分析されると想定しています。
一般的なデータ ウェアハウスでの
見積もり
:$1,005,024
想定されるライセンスの月額は $833,333.33(10,000÷12)
コンピューティングとストレージが追加されるため、実質的に 1 PB の場合の 10倍のコストがかかることになります。
「誰が現実に 10 PB を使用するのか」と思われるかもしれませんが、実際に Google BigQuery で10 PB 以上を使用されているお客様も存在するのです。
また、これは最低要件が設定された一般的なシステムと大規模なワークロード処理が可能な BigQueryでの比較です。BigQuery での高額なシステムでさえ、Google Compute Engine で実行される必要最低限の一般的なシステムよりも料金は安くなります。
TCO に関する検討事項
クラウドでは、時間単位(または月単位、年単位など)の料金体系以外にも、さまざまな要素を比較できますが、BigQuery には他にはない、いくつかの特徴があります。
最も検討すべきことは、BigQueryでは管理が不要だということでしょう。つまり、基盤となる仮想(または物理)マシンの管理、キャパシティや料金の計画、クラスタのサイズ変更は一切必要ありません。そのため、スタッフは時間とコストを節約しながら、本当に重要な作業に取り組めるようになります。料金設定を含む上記のすべての例では BigQuery 以外のすべてのクラスタのサイズを見積もる必要がありましたが、実施するには時間と労力がかかり、専門知識が必要です。
管理が不要であるということは、クラスタのスキーマ、キー、インデックスなどを管理するデータベース管理者も必要ありません。これらはすべて Google によって管理されるため、熟達したデータベース管理者はデータ ウェアハウスの保守ではなく、他の仕事にもっと集中できるでしょう。
また、料金は使った分だけが請求されるため、ピーク時のキャパシティを考慮する必要もありません。BigQuery では必要なキャパシティにいつでもスケーリングが可能です。ここでも運用コストを節約できるほか、従業員はデータ ウェアハウスのスケーリングについて検討する必要もありません。
BigQuery ではクラスタにかかるコストをストレージとコンピューティングで分離できることについてご紹介しましたが、実際はそれだけではありません。ストレージ、インジェスト、バッチ クエリ、ストリーミング クエリにかかるコストも分離できます。そのため、不要なリソースに料金を支払うことなく、必要なものだけに専念することができます。
最後に
クラウドでのデータ ウェアハウスの料金を検討することは厄介に思えるかもしれませんが、この投稿でご理解を深めていただけることを願っています。今回は BigQuery でコストと時間を節約しながら、必要なサイズに拡張できることをご紹介しました。
BigQuery
を試してみたい場合、
ドキュメンテーション
や Google の佐藤一憲が作成した
ホワイトペーパー
も参考にしてみてください。本件やクラウドの他の料金体系についてご不明な点やご意見がある場合は、お気軽にメール(
petermark@google.com
)をお送りください。
-Posted by Peter-Mark Verwoerd, Solutions Architect
12 か月間のトライアル
300 ドル相当が無料になるトライアルで、あらゆる GCP プロダクトをお試しいただけます。
Labels
.NET
.NET Core
.NET Core ランタイム
.NET Foundation
#gc_inside
#gc-inside
#GoogleCloudSummit
#GoogleNext18
#GoogleNext19
#inevitableja
Access Management
Access Transparency
Advanced Solutions Lab
AI
AI Hub
AlphaGo
Ansible
Anthos
Anvato
Apache Beam
Apache Maven
Apache Spark
API
Apigee
APIs Explore
App Engine
App Engine Flex
App Engine flexible
AppArmor
AppEngine
AppScale
AprilFool
AR
Artifactory
ASL
ASP.NET
ASP.NET Core
Attunity
AutoML Vision
AWS
Big Data
Big Data NoSQL
BigQuery
BigQuery Data Transfer Service
BigQuery GIS
Billing Alerts
Bime by Zendesk
Bitbucket
Borg
BOSH Google CPI
Bower
bq_sushi
BreezoMeter
BYOSL
Capacitor
Chromium OS
Client Libraries
Cloud API
Cloud Armor
Cloud Audit Logging
Cloud AutoML
Cloud Bigtable
Cloud Billing Catalog API
Cloud Billing reports
Cloud CDN
Cloud Client Libraries
Cloud Console
Cloud Consoleアプリ
Cloud Container Builder
Cloud Dataflow
Cloud Dataflow SDK
Cloud Datalab
Cloud Dataprep
Cloud Dataproc
Cloud Datastore
Cloud Debugger
Cloud Deployment Manager
Cloud Endpoints
Cloud Firestore
Cloud Foundry
Cloud Foundry Foundation
Cloud Functions
Cloud Healthcare API
Cloud HSM
Cloud IAM
Cloud IAP
Cloud Identity
Cloud IoT Core
Cloud Jobs API
Cloud KMS
Cloud Launcher
Cloud Load Balancing
Cloud Machine Learning
Cloud Memorystore
Cloud Memorystore for Redis
Cloud monitoring
Cloud NAT
Cloud Natural Language API
Cloud Networking
Cloud OnAir
Cloud OnBoard
cloud Pub/Sub
Cloud Resource Manager
Cloud Resource Manager API
Cloud SCC
Cloud SDK
Cloud SDK for Windows
Cloud Security Command Center
Cloud Services Platform
Cloud Source Repositories
Cloud Spanner
Cloud Speech API
Cloud Speech-to-Text
Cloud SQL
Cloud Storage
Cloud Storage FUSE
Cloud Tools for PowerShell
Cloud Tools PowerShell
Cloud TPU
Cloud Translation
Cloud Translation API
Cloud Virtual Network
Cloud Vision
Cloud VPC
CloudBerry Backup
CloudBerry Lab
CloudConnect
CloudEndure
Cloudflare
Cloudian
CloudML
Cluster Federation
Codefresh
Codelabs
Cohesity
Coldline
Colossus
Compute Engine
Compute user Accounts
Container Engine
Container Registry
Container-Optimized OS
Container-VM Image
Couchbase
Coursera
CRE
CSEK
Customer Reliability Engineering
Data Studio
Databases
Dbvisit
DDoS
Debugger
Dedicated Interconnect
deep learning
Deployment Manager
Developer Console
Developers
DevOps
Dialogflow
Disney
DLP API
Docker
Dockerfile
Drain
Dreamel
Eclipse
Eclipse Orion
Education Grants
Elasticsearch
Elastifile
Energy Sciences Network
Error Reporting
ESNet
Evernote
FASTER
Fastly
Firebase
Firebase Analytics
Firebase Authentication
Flexible Environment
Forseti Security
G Suite
Gartner
gcloud
GCP
GCP Census
GCP 移行ガイド
GCP 認定資格チャレンジ
GCPUG
GCP導入事例
gcsfuse
GEO
GitHub
GitLab
GKE
Go
Go 言語
Google App Engine
Google Apps
Google Certified Professional - Data Engineer
Google Cloud
Google Cloud Certification Program
Google Cloud Client Libraries
Google Cloud Console
Google Cloud Dataflow
Google Cloud Datalab
Google Cloud Datastore
Google Cloud Endpoints
Google Cloud Explorer
Google Cloud Identity and Access Management
Google Cloud INSIDE
Google Cloud INSIDE Digital
Google Cloud INSIDE FinTech
Google Cloud Interconnect
Google Cloud Launcher
Google Cloud Logging
Google Cloud Next '18 in Tokyo
Google Cloud Next '19 in Tokyo
Google Cloud Platform
Google Cloud Resource Manager
Google Cloud Security Scanner
Google Cloud Shell
Google Cloud SQL
Google Cloud Storage
Google Cloud Storage Nearline
Google Cloud Summit '18
Google Cloud Summit ’18
Google Cloud Tools for IntelliJ
Google Code
Google Compute Engine
Google Container Engine
Google Data Analytics
Google Data Studio
Google Date Studio
Google Deployment Manager
Google Drive
Google Earth Engine
Google Genomics
Google Kubernetes Engine
Google maps
google maps api
Google Maps APIs
Google Maps Platform
Google SafeSearch
Google Service Control
Google Sheets
Google Slides
Google Translate
Google Trust Services
Google VPC
Google マップ
Google 公認プロフェッショナル
GoogleNext18
GPU
Gradle
Grafeas
GroupBy
gRPC
HA / DR
Haskell
HEPCloud
HIPAA
Horizon
HTCondor
IaaS
IAM
IBM
IBM POWER9
icon
IERS
Improbable
INEVITABLE ja night
inevitableja
InShorts
Intel
IntelliJ
Internal Load Balancing
Internet2
IoT
Issue Tracker
Java
Jenkins
JFrog
JFrog Artifactory SaaS
Jupiter
Jupyter
Kaggle
Kayenta
Khan Academy
Knative
Komprise
kubefed
Kubeflow Pipelines
Kubernetes
KVM
Landsat
load shedding
Local SSD
Logging
Looker
Machine Learning
Magenta
Managed Instance Group
Managed Instance Group Updater
Maps API
Maps-sensei
Mapsコーナー
Maven
Maxon Cinema 4D
MightyTV
Mission Control
MongoDB
MQTT
Multiplay
MySQL
Nearline
Network Time Protocol
Networking
neural networks
Next
Node
NoSQL
NTP
NuGet パッケージ
OCP
OLDISM
Open Compute Project
OpenCAPI
OpenCAPI Consortium
OpenShift Dedicated
Orbitera
Organization
Orion
Osaka
Paas
Panda
Particle
Partner Interconnect
Percona
Pete's Dragon
Pivotal
Pivotal Cloud Foundry
PLCN
Podcast
Pokemon GO
Pokémon GO
Poseidon
Postgre
PowerPoint
PowerShell
Professional Cloud Network Engineer
Protocol Buffers
Puppet
Pythian
Python
Qwiklabs
Rails
Raspberry Pi
Red Hat
Redis
Regional Managed Instance Groups
Ruby
Rust
SAP
SAP Cloud Platform
SC16
ScaleArc
Secure LDAP
Security & Identity
Sentinel-2
Service Broker
Serving Websites
Shared VPC
SideFX Houdini
SIGOPS Hall of Fame Award
Sinatra
Site Reliability Engineering
Skaffold
SLA
Slack
SLI
SLO
Slurm
Snap
Spaceknow
SpatialOS
Spinnaker
Spring
SQL Server
SRE
SSL policies
Stack Overflow
Stackdriver
Stackdriver Agent
Stackdriver APM
Stackdriver Debugger
Stackdriver Diagnostics
Stackdriver Error Reporting
Stackdriver Logging
Stackdriver Monitoring
Stackdriver Trace
Stanford
Startups
StatefulSets
Storage & Databases
StorReduce
Streak
Sureline
Sysbench
Tableau
Talend
Tensor Flow
Tensor Processing Unit
TensorFlow
Terraform
The Carousel
TPU
Trace
Transfer Appliance
Transfer Service
Translate API
Uber
Velostrata
Veritas
Video Intelligence API
Vision API
Visual Studio
Visualization
Vitess
VM
VM Image
VPC Flow Logs
VR
VSS
Waze
Weave Cloud
Web Risk AP
Webyog
Wide and Deep
Windows Server
Windows ワークロード
Wix
Worlds Adrift
Xplenty
Yellowfin
YouTube
Zaius
Zaius P9 Server
Zipkin
ZYNC Render
アーキテクチャ図
イベント
エラーバジェット
エンティティ
オンライン教育
クラウド アーキテクト
クラウド移行
グローバル ネットワーク
ゲーム
コードラボ
コミュニティ
コンテスト
コンピューティング
サーバーレス
サービス アカウント
サポート
ジッター
ショート動画シリーズ
スタートガイド
ストレージ
セキュリティ
セミナー
ソリューション ガイド
ソリューション: メディア
データ エンジニア
データセンター
デベロッパー
パートナーシップ
ビッグデータ
ファジング
プリエンプティブル GPU
プリエンプティブル VM
フルマネージド
ヘルスケア
ホワイトペーパー
マイクロサービス
まっぷす先生
マルチクラウド
リージョン
ロード シェディング
運用管理
可用性
海底ケーブル
機械学習
金融
継続的デリバリ
月刊ニュース
資格、認定
新機能、アップデート
深層学習
深層強化学習
人気記事ランキング
内部負荷分散
認定試験
認定資格
料金
Archive
2019
8月
7月
6月
5月
4月
3月
2月
1月
2018
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2017
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2016
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2015
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2014
12月
11月
10月
9月
8月
6月
5月
4月
3月
2月
Feed
月刊ニュースレターに
登録
新着ポストをメールで受け取る
Follow @GoogleCloud_jp