Google Cloud Platform Japan Blog
最新情報や使い方、チュートリアル、国内外の事例やイベントについてお伝えします。
Google Compute Engine でさらなる高可用性を実現
2016年3月29日火曜日
* この投稿は米国時間 3 月 16 日、Google Cloud Platform のProduct Manager である Jerzy Foryciarz によって投稿されたもの(投稿はこちら)の抄訳です。
このたび私たちは、コンピュートリソースをスケールする際、特定のリージョン別の管理を可能にする
Google Compute Engine
の
Autoscaler
と
Managed Instance Groups
の機能をご紹介します。これは、高い可用性を必要とするお客様にとって重要になります。
Regional Instance Groups と呼ばれるこの新機能は、自動的に仮想マシン (VM) インスタンスを特定のリージョンの 3 つのゾーンに分散し、グループサイズの変化に合わせて分散を等しく保つインフラストラクチャのセットアップを可能にします。
Autoscaler は 3 つのゾーン全てにまたがってリージョンで動き、インスタンスの追加と削除を行うため、分散が等しく保たれるのです。
昨年の 9 月、私たちは、Google Compute Engine Autoscaler と Managed Instance Groups の
一般提供
を発表しました。それから利用率は驚くほど伸びており、たくさんのフィードバックをいただきいています。
中でもリクエストが多かったのは、コンフィギュレーションを簡素化し、さらに高い可用性を実現することでした。
現在では、リージョン別の管理によって、まれに起こる悪い構築、ネットワーク問題、またはゾーン障害の際に、サービスを保護することができます。
VM インスタンスは、等しく 3 つのゾーンに分散しているので、 3 分の 2 には影響がないでしょう。さらに、Autoscaler を利用する場合、他のゾーンでのトラフィックの増加を感知して数値を調整することができます。
不具合のあったゾーンが正常に戻ると、 再び 3 つのゾーンにバランス良く負荷分散されはじめます。
セットアップは簡単です。もしあなたがリージョン単位でのコンフィギュレーション利用を選択するなら、Managed Instance Group 作成時に Multi-Zone グループを選んでください。
この時点で、あなたのロケーション選択はリージョンとなり、 Managed Instance Group と Autoscaler のスコープはリージョナルになります。
Alpha での Regional Instance Groups の使用方法とサービスセットアップについての詳細は
こちら
です。
- Posted by Jerzy Foryciarz, Product Manager, Google Cloud Platform
Google Cloud Pub/Sub が gRPC のサポートで大幅に高速化
2016年3月28日月曜日
* この投稿は米国時間 3 月 22 日、Tech Lead for Google Cloud Pub/Sub である Emilio Schapira と Technical Program Manager for gRPC である Kailash Sethuraman によって投稿されたもの(
投稿はこちら
)の抄訳です。
RPCプロトコルは、XML stanzas から HTTP/JSON に至るまで非直接的なコミュニケーション方法も用いてきたために今や非効率なものとなってしまいました。今回のブログでは、有用な代替手段として gRPC をご紹介します。
gRPC
はオープンソースの現代的な RPC フレームワークで、その設計原理は、Google が 10 年以上にわたって社内で “Stubby” と呼ばれるフレームワーク構築を通じて学んできた成果に基づいています。
gRPC
は JSON/HTTP APIs と比較してみても大幅に効率が良いだけでなく、ハイパフォーマンスなクライアントやサーバーを構築するのに理想とされる大抵の主要な言語をサポートしています。
私たちはこのテクノロジーを
Google Cloud Platform
の利用者のみまさまにも提供したいとずっと思ってきましたが、ようやくこの度皆さんにご紹介することができました。
ご期待に答えて、
JSON/HTTP クライアント ライブラリ
との比較を、Java クライアントを使って行ったベンチマーク結果の例を以下に示します。
このベンチマークは、Google Compute Engine(GCE)の 1 つの仮想マシン インスタンス(マシンタイプ:n1-highcpu-16)から 9 つの
gRPC
チャンネルを使って、50Kb のメッセージを最大スループットでパブリッシュするというものです。
上記のスループットが約 4 倍に増加することよりも印象的なのは、CPU リソースの使用率がたった 4 分の 1 にとどまった点です。(下記グラフ参照)
この約11倍の違いが生まれた結果をふまえると、現在の利用料金の下で考えると、月に 334 ドルを支払って n1-highcpu-16 の GCE インスタンスを JSON クライアントとして利用する代わりに、月額 83.50 ドルで n1-highcpu-4 の GCE インスタンスを gRPC クライアントとして利用すればすればスループットを約 4 倍にできる計算になります。
この改善の裏側では何が起こっているのか気になる方も多いかもしれません。改善の背後には、データのエンコーディングの効率化と HTTP/2 という、2 つの大きな要因があります。
gRPC
は
HTTP/2
と
プロトコル バッファ
の上に構築することで、データをクライアントメモリと通信回線の両方にバイナリーデータとして保持することができます。これによりプロセッシングと base64 や JSON のようなエンコーディングスキームに必要とされる容量を省略することができます。
さらに、HTTP/2 そのものが、シングルコネクションとヘッダーコンプレッション を用いた多重リクエストの高速処理を可能にします。
Pub/Sub の
gRPC
サポートを利用するうえで皆さんのお役に立てるように、
ドキュメント
も更新しました。ドキュメントは Java と Phython を利用した事例をご紹介しています。また、Pub/Sub の
Google Groups
で意見をシェアしてみてください。
- Posted by Emilio Schapira, Tech Lead for Google Cloud Pub/Sub and Kailash Sethuraman, Technical Program Manager for gRPC
クラウド イノベーションに対する Google の取り組み
2016年3月28日月曜日
* この投稿は米国時間 3 月 23 日、Google Cloud Platform の Product Management 担当 VP である Brian Stevens によって投稿されたもの(
投稿はこちら
)の抄訳です。
GCP NEXT 2016
は、
Google Cloud Platform
(GCP)にとって大きな意味があるイベントです。私たち Google は、年に一度のクラウド コンピューティング カンファレンスのために、今回も世界中から数千の開発者と IT プロフェッショナルをサンフランシスコにお招きしました。
カンファレンスの期間中、Google はプラットフォームの大きな拡張に関する発表を行いました。また、Google のインフラストラクチャをお客様のビジネスで活用するうえで、この 1 年にどのような重要な進展があったのかをシェアしました。
昨年の 1 年間で、クラウドは信頼の置けないオプションという従来からの評価を拭い去り、多くの企業にとってセキュアな選択肢だと認められるところまで評価を高めました。
パブリック クラウド サービスの利用を検討している企業の市場参入を促すためには、コンプライアンス、サポート、既存の IT 投資とのインテグレーションが必要不可欠だということを、私たち Google はよく理解しています。
では、Google は具体的に何に取り組んでいるのでしょうか。
Google の取り組み
Google は 15 年以上にわたって、Google のサービスの原動力となってきた分散コンピューティング、データ管理、機械学習の分野における最先端の応用コンピュータ サイエンスと、クラウドをビジネスで安全に運用するうえで必要な諸機能を結合するための努力を続けています。
たとえば、
機械学習やビッグデータ アナリティクス
などのイノベーションを広く公開し、お客様が新しいトレンドや市場をすばやく見つけられるように支援しています。
GCP のユーザーになれば、1 兆行ものデータを数秒で処理する
Google BigQuery
のパワーが自分のものとなります。また、
Google Cloud Dataflow
でストリーミング データのパイプラインを構築でき、
Google Data Studio 360
によるビジュアライゼーションと報告書作成も手に入ります。
これは、
グローバルなデプロイと IT オペレーションの自動化によって組織的な弊害を取り除く
ということにほかなりません。私たち Google は、お客様とそのシステム、情報、従業員、顧客のセキュリティを保護しながら、これらすべてを進めています。
ますます増える顧客企業
多くの企業が、Google の継続的なイノベーションを利用するために GCP を選んでいます。そうしたお客様を、私たち Google は誇りに思わずにはいられません。
Best Buy
、Disney Consumer Products & Interactive Media、
Domino's Pizza
、FIS Global、
Spotif
y、Macy's、
Pocket Gems
、
Wix
、
Atomic Fiction
、JDA、Heineken など非常に多くの優良企業が GCP を利用しています。先頭を走り続けるための鍵はイノベーティブにあると、彼らは考えているのです。
Google の顧客企業にとって、クラウドの利用はデータセンターやサーバー、ストレージ、ネットワークといったものについて考える必要がなくなることを意味します。換言すれば、Google がインフラストラクチャをしっかりと押さえ、ビジネスをサポートしてくれるという安心感のもとに、アプリケーションや製品、サービスを作ることに全力を注げるということなのです。
データセンターの拡張
私たちの顧客企業は GCP 上のアプリケーションを急速にスケールアップしていますが、それを可能にしているのは Google のグローバル ネットワークです。
Google は、顧客ベースの拡大および多様化や、クラウドでワークロードを処理することにユーザーが慣れていくのに従い、現在のネットワークに加えて多くの地域拠点を追加していきます。
Google は先ごろ、
米国西海岸(オレゴン)と東アジア(東京)のリージョン追加を発表
しました。どちらのリージョンも年内に運用を開始します。2017 年までに Google ネットワークに GCP のリージョンを 10 か所追加していく予定ですが、これらはその最初の 2 か所に相当します。
クラウドのハイブリッド管理と運用の効率性
Google のクラウド上でアプリケーションを実行するお客様の支援戦略に不可欠なのがパートナー企業です。
昨年、新しいパートナー プログラムを打ち出したことで、Google のエコシステムは規模にして倍以上に拡がりました。パートナー企業が Google プラットフォーム上でソリューションを構築して顧客企業のクラウド採用を促すというイノベーティブな形を作り出しました。
先ごろ開催された、年に一度のグローバル パートナー カンファレンスである TeamWork 2016 にも、300 社を超える GCP エコシステム パートナーが参加しました。この場で Google は複数の新しいパートナー プログラムとインセンティブを打ち出しましたが、その目的は、パートナー企業の成功を促し、Google プラットフォーム上でのパートナー企業のイノベーションを活発化させることにあります。
TeamWork 2016 が発したエネルギーは壮観であり、Google が行うあらゆる取り組みにはパートナー企業が深くかかわっています。Google は、戦略の中心にパートナーを据えるだけでなく、パートナー エコノミーと言うべき仕組みを構築することを目標としているのです。
BMC
、
Pivotal
、
Red Hat
、
SAP
、
Splunk
、
Tenable Network Security
、
Veritas
をはじめとする多くのエンタープライズ ISV が、それぞれのソフトウェアを GCP とインテグレートすることに力を注いでいます。彼らが GCP 上の資産を管理、監視するために使っているスキルとソフトウェアを、Google の顧客企業も利用できることを発表できたのは、私たちにとって嬉しい限りです。
同様に、システム インテグレーターとの協業も Google のパートナー戦略の重要な側面の 1 つです。
Accenture
、
CI&T
、
Cloud Technology Partners
、
PA Consulting
、および
PwC
の各社は、エンタープライズ環境から Google クラウドへの移行を促す私たちの重要なパートナーです。
エンタープライズ機能の拡張
それでは、お待ちかねの機能の話に移りましょう。監査とコンプライアンスは、エンタープライズ クラウドの導入を検討している企業にとって大きな関心事です。そしてその先には、ポリシーを設定して環境を監視、コントロールするシステム管理があります。
監査ログ
Google は今年 5 月末をめどに、GCP 上で誰がいつ何をしたかという問いに確実に答えられるようにするための監査ログ機能をリリースする予定です。
このリリースでは、
Google App Engine
や
BigQuery
、
Dataflow
、IAM for
Projects
、
Service Accounts
、
API Credentials
を含む複数の初期サービス インテグレーションと共に、改変不能な監査ログを提供するため、個別の Google Cloud サービスに必要なコア インフラストラクチャを提供します。
監査ログは、Cloud Console Activity Stream だけでなく
Stackdriver Logging
にも送られるため、そこから簡単に
Google Cloud Storage
にアーカイブし、分析のために
BigQuery
にストリーミングすることができます。あるいは追加調査のために、
Google Cloud Pub/Sub
を介して Splunk などのパートナーにエクスポートすることも可能です。
今回のリリースは、監査ログをその他の GCP サービスに拡げていくための継続的なプロセスの先陣を切るものです。
IAM ロール
顧客企業にとって、Google Cloud リソースへのアクセスに対するセキュリティ コントロールは重要です。
従来のオーナー / 編集者 / 閲覧者というロールだけでは、リソース管理のあらゆるニーズに応えられるだけの細やかさに欠けることを、私たち Google は認識しています。現在ベータ段階にある新しい IAM (Identity and Access Management) ロールを作ったのも、それが理由です。
新しい IAM では、パーミッションのコレクションとして定義された
IAM ロール
を介して、Google Cloud リソースに対するパーミッションを与えます。オーナー / 編集者 / 閲覧者方式の場合はプロジェクト内のすべてのリソースに対するパーミッションを与えていましたが、新しいロールではプロジェクト内の特定のタイプのリソースに対してきめ細かくパーミッションを与えることが可能です。
上記は、GCP の IAM 機能を拡張するために Google が計画している多くのリリースの第 1 弾となります。これから数か月をかけて、ロールを増やし、カスタム ロールを定義できるようにする予定です。
自己管理の暗号化キー
独自の暗号化キーをコントロールして管理する機能も、お客様からの要望が多い機能の 1 つです。
Google は昨年 7 月に
Compute Engine 向けの自己管理の暗号化キーに関するベータ リリース
を発表しましたが、これがまもなく一般公開される予定です。また、
Cloud Storage
がサポートする
独自暗号化キー
も現時点でベータ段階にあります。
ネットワーキング
Google は、クラウド ネットワーキングの最前線で、
クロスクラウド インターコネクト
と、イントラクラウドのネットワーク セグメンテーションの両面で柔軟性を高めることに成功しました。その結果、ネットワーク トランスポートと最適化サービスを 1 つにまとめることに加え、ハイブリッド クラウド環境におけるワークロードのポータビリティも実現しました。
GCP が提供する
Subnetworks
や
Cloud Router
、
Cloud VPN
、IAM ネットワーク ロールでは、こうした柔軟性を活用しています。プログラム制御とリアルタイム アプリケーション / ユーザー コンテキスト管理のもとで動的なネットワークおよびセキュリティ ポリシーをシステムに浸透させ、インテリジェント オートメーションを通じて低水準の構成の複雑さを取り除きます。
Google のソフトウェア定義による
Cloud Load Balancer
は、クラス最高の自動スケーリングとスピードを提供しつつ(詳細は
こちら
)、単一の仮想 IP (VIP)でグローバルなクラウド サービスの提供を単純化します。
この弾力性の高い BGP 対応のエニーキャスト ネットワーク インフラストラクチャにより、
Cloud CDN
のようなサービスを提供する道も開けました。
Cloud CDN
は、Google の分散エッジ キャッシュ インフラストラクチャを活用して、リッチ メディア アプリケーションのユーザー エクスペリエンスを最適化します。
技術のオープン化と大規模なコンテナ実行
Google と
Google Cloud Platform
は、オープンな形でコンピュータ サイエンスのイノベーションを続けています。
Google は、自分たちが学んだことをコミュニティにお返しすることに本気で取り組んでいます。たとえば革命的な意義を持ち、注目に値するもとのとして
Hadoop MapReduce
や
Spanner
、
Software-Defined Networking
、
Kubernetes
、
Dataflow
、機械学習のための
TensorFlow
などがあり、それらは全部で数百にも上ります。
最近では、IT インフラストラクチャの標準化に向け、
Open Compute Project
に参加しましたし、
OpenStack Foundation
と
Cloud Native Computing Foundation
の支援も行っています。オープンな技術を重視するお客様は、ソフトウェア コミュニティに貢献し続けてきた Google の長期的な取り組みにぜひ注目していただきたいと思います。
クラウド分野のオープンソースに対する Google の貢献で中心的と言える存在が、コンテナ化されたアプリケーションの自動デプロイ、スケーリング、運用のためのオープンソース システムである
Kubernetes
です。
Google が最近発表した
Kubernetes 1.2
には、コンテナ環境に取り組むエンタープライズ向けの重要なアップデートが 2 つ含まれています。
具体的には、クラスタ サイズが 400 % 拡大され、クラスタあたり 1,000 ノード、30,000 コンテナになったことです。また、セキュアな通信のための TLS と HTTP ベースのトラフィック ルーティングの L7 のサポートを追加して、カスタム ネットワーキング環境へのインテグレーションの道筋を作りました。
Google のフルマネージド コンテナ サービスである
Google Container Engine
は、
Kubernetes
を基礎として作られています。そのため、このサービスをご利用のお客様は、自動的にすべての最新機能を手に入れることができます。
クラウドの未来は始まったばかり
機械学習やコンテナの開発からクラウド ワークロードの監視、管理、安全確保に至るまで、ビジネス コンピューティング環境の一新に向けた Google の取り組みは前進を続けています。
しかし、これはクラウド イノベーションを後押しする次の波のほんの始まりにすぎません。既存の IT 投資を保護、活用しながら、イノベーションの連続を通じて過去の惰性に挑戦するまったく新しいクラウドの長所については、多くの開発者やスタートアップ、大小の企業が認めるところです。
私たちは、
GCP NEXT
に参加された皆さんからのフィードバックを楽しみにしています。私たちとともに、このすばらしい未来を築くための旅に出かけましょう!
- Posted by Brian Stevens, VP, Product Management, Google Cloud Platform
Splunk、BMC とパートナーを組みハイブリッドクラウドの運用をより簡単に
2016年3月28日月曜日
* この投稿は米国時間 3 月 23 日、Google Cloud Platform のProduct Manager である Deepak Tiwari and Joe Corkery によって投稿されたもの(
投稿はこちら
)の抄訳です。
クラウドのモニタリングサービスとロギングサービスを統合した
Google Stackdriver
は、
Google Cloud Platform
(GCP) と Amazon Web Services (AWS) における IT 運用を格段に容易にします。
さらに一歩進めて、
Splunk
、
BMC
、
Tenable
と統合することによって、 IT 運用、セキュリティ、そしてコンプライアンスといった GCP ユーザーが利用できる機能を大幅に拡大することができます。
サードパーティのリッチな運用ソリューションとの統合は、ユーザーにとって重要であり、すでに多くの皆さんがプライベートクラウドでもパブリッククラウドでも、こうしたツールを使ってハイブリッドな運用を管理していることでしょう。これを踏まえて、このパートナーシップでは以下を提供することに重点を置いています。
Google Cloud Platform
とパートナーとの統合の簡略化すること
Security Information and Event Management (SIEM) やコンプライアンスレポート関連に新しい機能を追加すること
Google Cloud Platform と Splunk
Google Cloud Platform
と Splunk Enterprise との統合では、 Security Information and Event Management (SIEM) において Splunk のユニークな機能を運用、活用するためのインサイトを提供します。
例えば、ログデータのリアルタイムストリーミングを
Cloud Pub/Sub
経由で設定することで統合を始めることができます。 Cloud Pub/Sub API は、アプリケーション間で大規模にデータをルーティングするためのパワフルで信頼性のあるメッセージングサービスです。
統合されてしまえば、あらゆるログデータを Splunk アカウントにストリームすることができ、 Splunk Enterprise の機能のすべてが利用可能となります。
例えば、ネットワーク管理者が機密性の高いコンフィギュレーションの変更を監視したいと考えている場合を想像してみてください。
従業員の誰かがファイアウォールのルールを変更すると、どのサーバーであってもコンピュートサービスによってアクティビティのログが記録されます。Splunk Enterprise と Stackdriver Logging の統合によって、そうしたアクティビティを監視、リアルタイムでアラートを受け取ることもできます。
Splunk は、システムのアクティビティデータ上における着目すべき傾向や異常を自動的に察知します。アラートを受けると、グラフを確認して、実際のログエントリへと掘り下げて、システムを危険にさらす可能性のある望ましくない変更を行わずに、安全性を担保することができます。
Google Cloud Platform と BMC
企業ユーザーはますますハイブリッド、そしてマルチクラウドの環境を構築、運用するようになっています。
Google Cloud Platform
に既存のサービスを移行したり、新しいサービスを立ち上げたりする場合、 BMC が提供するような確立されたソリューションに、ユーザーが確実にアクセスできるようにしたいと考えています。このソリューションは、デプロイメント環境のアプリケーションを管理、モニターするひとつのペインを提供し、コンプライアンス、セキュリティ、ガバナンスを手助けするものです。
この戦略的なパートナーシップを始めるにあたり、 BMC は
GCP NEXT
において、 Cloud Platform で実行するワークロードを管理、修復する Cloud Lifecycle Management 製品のアドバンスバージョンのデモンストレーションを行いました。また、 オンプレミスでBMC TrueSight を使いながら、Cloud Platform アプリケーションを同時にモニターする方法も披露しました。
BMCのソリューションスイートに関する詳細は
こちら
をご覧下さい。
Google Cloud Platform と Tenable
セキュリティを確保するためには、どのようなアプリケーションやワークロードを実行し、誰があるいはどんなデバイスがそこにアクセスしているかをあなたが知っていなければならないと私たちは考えています。 Tenable は、 SecurityCenter Continuous View (SecurityCenter CV) により、Google Cloud Platform のセキュリティ向上に役立ちます。
このソリューションは、オンプレミスと Google Cloud Platform のようなクラウドデプロイメントの両方をサポートしています。結果として、組織がこのツールに精通すれば、ひとつのテクノロジーを採用するだけでハイブリッド環境がモニターできるため、複数のツールを購入、デプロイ、管理する必要性がなくなります。
開始するには、SecurityCenter CV をインストールして、Cloud Platform 内にサービスアカウントを作成し、Pub/Sub トピック向けに使用する予定の Tenable のサービスアカウントに承認を与える必要があります。そして、Tenable アカウントがサブスクライブする適切なトピックにログを発行すると、SecurityCenter CV でログやイベントデータを見ることができます。
開始するための詳細なステップはこちらをご覧下さい。
すぐにお試しください
Google Cloud Platform における私たちのビジョンは、パートナー達の力強いエコシステムを作り上げ、ユーザーにフレキシブルでリッチなツールを提供し、選択肢を与えて、制約を取り除くことです。現在、パートナーが運用領域にも広がりました。
是非、
Google Stackdriver Partner Page
を訪問して、既存、新規の運用パートナーの詳細と、それを利用して今、何が始められるかをご覧下さい。
また、
stackdriver-feedback@google.com
までフィードバックをお送りください。
-Posted by Deepak Tiwari (PM, Google Cloud Platform) and Joe Corkery (PM, Google Cloud Platform)
Google の Data Center で 360度ツアー
2016年3月28日月曜日
* この投稿は米国時間 3 月 23 日、Google Cloud Platform の Head of Developer Advocacy である Greg Wilson によって投稿されたもの(
投稿はこちら
)の抄訳です。
私たちは今回、とある Google のデータセンターの内部を 360度ツアーできることにわくわくしています。360度ツアーとは、YouTube 360 度ビデオを用いた前代未聞の没入型オンラインツアーのことです。
このビデオをご覧いただくには方法は下記のとおりです。
デスクトップで Google Chrome を使用:
ビデオ再生中に、マウスかトラックパッドでビューを変更してください。
モバイルで YouTube アプリを使用:
ビデオ再生中に、すべてのアングルで見えるように、デバイスを動かしてください。
最も夢中になりやすい視聴方法:
Google Cardboard を使用 (現在 Android の YouTube アプリのみサポート。 iOS サポートはもうすぐです ! ) YouTube アプリにビデオをロードして、ビデオが再生され始めたら Cardboard アイコンをタップします。あなたの携帯を Cardboard に挿入し、周りを見渡してみてください。
少しだけ背景をお話しすると・・・
数ヶ月前、
Google Cloud Developer Advocacy Team
の私たちは、オレゴン州ダレスで Google データセンター内をツアーする千載一遇のチャンスに恵まれました。私たちも他のデータセンターを目にしたことはありますが、その体験は想像以上のものでした。
規模の大きさ、セキュリティとプライバシーに対するとてつもなく高い意識、そして極めて効率的で環境に配慮されたデータセンターを構築するための偉大な努力には圧倒されました。
さらには、このデーターセンターを設計、建設、そして維持している素晴らしい方々に出会えた事を誇りに思っています。
もしあなたが
Google Cloud Platform
をご利用なら、このデータセンターは私たちのものであると同時に、あなたのデータセンターでもあります。私たちの素敵な経験をあなたにも是非体験していただきたいと思っています。
どうぞ楽しんでください!
- Posted by Greg Wilson, Head of Developer Advocacy, Google Cloud Platform
Google Cloud Dataflow で Python のサポートを発表
2016年3月24日木曜日
* この投稿は米国時間 3 月 22 日、Software Engineer の Silviu Calinoiu によって投稿されたもの(
投稿はこちら
)の抄訳です。
本日、私たちは
Cloud Dataflow SDK
で
Python
向けバッチ処理の実行をサポートの開始を発表いたします。
この SDK は Python のみを用いて実行できる
Apache Beam
コンピューテーションモデル(旧 Dataflow モデル)で、Google のインキュベータプロジェクトの一環で Apache Software Foundation に貢献したものになります。
本リリースは、新しい分野のユーザー、特に Python デベロッパーや科学界にとって有益で、Apache Beam モデルで大容量の分散型データ処理が実行可能になります。
例えば、よく使われている
NumPy
、
SciPy
、および
pandas
パッケージのユーザー達にとっては、これからは大規模計算に
Apache Beam
を利用できるようになります。
次のコードサンプルは、Apache Beam Python モデルがたった数行のコードで、 大量のデータを処理してパイプライン処理を完結することができる様子を示しています。
# ... other imports ...
import
google.cloud.dataflow
as
df
@df.typehints.with_output_types(df.typehints.Tuple[int, float])
def
parse_sales_record(line):
# Lines look like this:
# {"Timestamp": 1234.56, "Price": 10, "ProductName": "Name", "ProductID": 4}
record = json.loads(line)
return
int(record[
'ProductID'
]), float(record[
'Price'
])
p = df.Pipeline(...options...)
(p
| df.io.Read(df.io.TextFileSource(
'gs://SOMEBUCKET/PATH/*.json'
))
| df.Map(parse_sales_record)
| df.CombinePerKey(sum)
| df.Map(
lambda
(product, value): {
'ProductID'
: product,
'Value'
: value})
| df.io.Write(df.io.BigQuerySink(
'SOMEDATASET.SOMETABLE'
schema=
'ProductID:INTEGER, Value:FLOAT'
,
create_disposition=df.io.BigQueryDisposition.CREATE_IF_NEEDED,
write_disposition=df.io.BigQueryDisposition.WRITE_TRUNCATE)))
p.run()
売上記録のパイプライン処理は、改行区切りの JSON ファイルに保存され、
BigQuery
テーブルに総計売上結果を書き込みます。
これと同じパイプラインは、ファイルの大小に関わらず、
Google Cloud Dataflow
マネージドサービスをフル活用して、実質上あらゆるサイズのデータセットで実行が可能です。
Dataflow の機能である、自動的なワークフローの最適化と統合、自動並列化、自動スケジューリング、そして失敗後の自動リトライが、Python デベロッパー に利用可能となりました。
Dataflow が一般的に利用可能となった今、Java デベロッパーに提供中の分散型データ処理機能を Python デベロッパーの皆様にもご提供できることを楽しみに考えています。
さらに詳しくは
オープンソースの
Python SDK
を目を通しローカルランナーであなたのプログラムを実行してオープンソースプログラムに貢献してみてください。
Cloud のバッチ処理実行への
アクセスの申請
をしてください。
- posted by Silviu Calinoiu, Software Engineer
Google Stackdriver のご紹介:GCP と AWS 向け統合モニタリングとロギング
2016年3月24日木曜日
* この投稿は米国時間 3 月 23 日、Product Manager である Dan Belcher によって投稿されたもの(
投稿はこちら
)の抄訳です。
このたび、
Google Stackdriver
をご紹介できることを嬉しく思っていますす。
Google Stackdriver
は、運用をよりいっそうに簡略化する、統合されたモニタリング、ロギングおよび診断のサービスです。
アプリケーションを Google Cloud Platform (GCP) 上で実行している場合や、 Amazon Web Services (AWS) 上で実行している場合、あるいは、それら両方を同時に使用している場合でも利用可能となっています。
Stackdriver
は、リッチダッシュボード、アップタイムモニタリング、アラート、ログ解析、トレーシング、エラーレポート、プロダクションデバッグなどを 1 つの製品で GCP と AWS の両方に対応した初めてのサービスです。この組み合わせは、チームがプロダクション時に問題を見つけ、解決するための時間を大幅に節約できます。
クラウドプラットフォームをまたがる統合ビュー
二つ、あるいはそれ以上のインフラプラットフォームを使用しているというケースは、決して珍しくありません。そのようなハイブリッドのインフラを使用する理由は様々です。
より高い可用性を求めてクラウドのプロバイダ間でコピーをしたり、一つのクラウドから他のクラウドへの移行中だったり、あるいは単に、それぞれのアプリケーションやコンポーネントに合ったサービスを選んだ結果、という場合もあります。
GCP と AWS を選んだチームをサポートするため、
Stackdriver
は両者のネイティブでのモニタリング、ロギング、エラーレポーティングを提供しています。Stackdriver を使うことで、 GCP と AWS の両方のクラスターにまたがって動いているアプリケーションの健全性のモニターを、一つのダッシュボードで始めることもできます。
Stackdriver Console for hybrid environment
同様に、どちらかのクラスター容量が限界に達した時に、通知がくるようにアラートポリシーを定義することもできます。
Alerting policy incorporating GCP and AWS capacity metrics
AWS と EC2 ログのエラーを一つのインターフェースで検索することも可能です。
Logs Viewer - search by GCP or AWS service
最後に、
Stackdriver
はどちらのプラットフォームで動いているアプリケーションであっても、その中で新しいエラーを検出するとエラーレポートを送信します。
ご察しの通り、AWS を強力にサポートできることが
Stackdriver
の真髄となっています。例えば、もし Elastic Load Balancer の後ろでウェブアプリケーションを走らせている場合、
Stackdriver
を利用することによって、設定情報やアップタイム、最近のイベント、各メトリックスのサマリの他、アベイラビリティゾーンや各種ブレイクダウンの情報を、セットアップ無しで表示、クラスターの状態を確認することが可能になります
同様のサポートが
Stackdriver
全機能で AWS にも提供されます。これには IAM-based のセットアップや API の統合に加え、アラートの機能として SNS トピックをサポートするための AWS サービスで広く使われているダッシュボード等々、色々なものが含まれています。
データのサイロ化を無くし、問題解決を迅速に
Stackdriver
は問題の特定とトラブルシュートに必要だった各種ツールの数を劇的に減らすことができます。
Stackdriver
でアップタイムチェックを設定し、アプリケーションエンドポイントのアベイラビリティをモニターすることができます。
ログとメトリクスを、クラウドプラットフォームやシステム、データベース、メッセージキュー、ウェブサーバー、アプリケーションティアから同一のモニタリングシステムに取り込むことができます。
モニターやロギング、診断コンポーネントで問題をフォローしている時に、 問題のタイムフレームなどのクリティカルなコンテキストを維持しておくこともできます。これにより、多くのお客様は 5 つ以上のそれぞれ異なるツールに、この情報を手動で関連付けるという作業が必要がなくなり、トラブルが起きてシステムが停止している時の貴重な時間を無駄にしなくて済むようになります。
最初のスターティングポイントは、アプリケーションの健全性を一目で確認することができるビューが表示される、サマリーダッシュボードかもしれません。このビューはクラウドプラットフォーム、システムエージェント、アップタイムチェック、ログ等々のメトリクスも表示可能です。
Sample Custom Dashboard with AWS and GCP metrics
Stackdriver
は問題が起こった時にチームにアラートを出すことができます。
一つの問題で多くの別々のシステムからのアラートに対処するのを防ぐには、
Stackdriver
のアラートポリシーを定義し、例えば URL がアップタイムチェックに失敗してかつ、レイテンーが 15 分を超えて 30% 超増加した場合、などといったように複数の条件が重なったときに起動するように設定することができます。
Alerting policy with ELB Uptime Check and Latency Threshold
問題を発見したとき、
Stackdriver
は根本原因に迫る手助けとなります。
例えば、 Google App Engine アプリケーションのエラーレポートを受け取った時に、サマリーダッシュボードを見て、アプリケーションが処理している URL 毎のレイテンシをトレースするところにまで踏み込み、最終的には特定のリクエストのログを確認することもできます。
Stackdriver Trace Overview
また、サービスのエコシステムのインテグレーションを利用して Stackdriver の利用価値を広げることもできます。例えば、
Stackdriver のログを BigQuery にストリーミング
して、アドホックの分析を行うことができます。
同様に、
Datalab
を使って時系列データのアドホックの可視化を行うこともできます。さらに、アラートを適切なフォーマットで受け取ることができるように、Slack や HipChat、Campfire、PagerDuty などの色々なアラートインテグレーションから選ぶことも可能です。
メンテナンスもスケーリングも不要。 2 分でスタートできます。
Stackdriver
を開始するのは簡単です。貴社のアカウントを作って、(必要な場合は) AWS とのインテグレーションを設定すれば、
Stackdriver
は自動的に貴社のクラウドリソースを見つけ、最初のメトリクスとダッシュボードのセットを用意します。
そこからは、アップタイムチェックを作成し、私たちのオープンソースエージェント(
Collectd for metrics
、
Fluentd for logs
のパッケージ)をデプロイすれば、仮想マシンやデータベース、ウェブサーバー、その他のコンポーネントを 2、 3 のコマンドでより深く視認できるようになります。
Stackdriver
は Google が自社サービスのモニタリングやロギング、診断を行う強力なテクノロジーと同じテクノロジーを用いて構築されています。なので環境がどんどん拡大しても、
Stackdriver
は全く問題なくスケーリングできるので、どうぞご安心ください。
また、
Stackdriver
はホステッドサービスなので、 Google がサービスのモニタリングやメンテナンスといった運用のオーバーヘッドの面倒を見てくれることになります。
ベータ版のうちに無料で Stackdriver をお試しください
Google Stackdriver を紹介させていただき大変うれしく思っています。また、 AWS でも GCP でも、あるいは両方をお使いでも、運用の簡略化に役立てると考えています。
現在はベータ版でのご提供となります。詳細と無料版のお試しは
こちら
をご覧ください
なお、現在すでに
Stackdriver
をご利用のお客様のサポートはこれからも続けていきます。Google Stackdriver が一般公開になれば、移行のお手伝いをさせていただきますのでよろしくお願いいたします。
- Posted by Dan Belcher, Product Manager
12 か月間のトライアル
300 ドル相当が無料になるトライアルで、あらゆる GCP プロダクトをお試しいただけます。
Labels
.NET
.NET Core
.NET Core ランタイム
.NET Foundation
#gc_inside
#gc-inside
#GoogleCloudSummit
#GoogleNext18
#GoogleNext19
#inevitableja
Access Management
Access Transparency
Advanced Solutions Lab
AI
AI Hub
AlphaGo
Ansible
Anthos
Anvato
Apache Beam
Apache Maven
Apache Spark
API
Apigee
APIs Explore
App Engine
App Engine Flex
App Engine flexible
AppArmor
AppEngine
AppScale
AprilFool
AR
Artifactory
ASL
ASP.NET
ASP.NET Core
Attunity
AutoML Vision
AWS
Big Data
Big Data NoSQL
BigQuery
BigQuery Data Transfer Service
BigQuery GIS
Billing Alerts
Bime by Zendesk
Bitbucket
Borg
BOSH Google CPI
Bower
bq_sushi
BreezoMeter
BYOSL
Capacitor
Chromium OS
Client Libraries
Cloud API
Cloud Armor
Cloud Audit Logging
Cloud AutoML
Cloud Bigtable
Cloud Billing Catalog API
Cloud Billing reports
Cloud CDN
Cloud Client Libraries
Cloud Console
Cloud Consoleアプリ
Cloud Container Builder
Cloud Dataflow
Cloud Dataflow SDK
Cloud Datalab
Cloud Dataprep
Cloud Dataproc
Cloud Datastore
Cloud Debugger
Cloud Deployment Manager
Cloud Endpoints
Cloud Firestore
Cloud Foundry
Cloud Foundry Foundation
Cloud Functions
Cloud Healthcare API
Cloud HSM
Cloud IAM
Cloud IAP
Cloud Identity
Cloud IoT Core
Cloud Jobs API
Cloud KMS
Cloud Launcher
Cloud Load Balancing
Cloud Machine Learning
Cloud Memorystore
Cloud Memorystore for Redis
Cloud monitoring
Cloud NAT
Cloud Natural Language API
Cloud Networking
Cloud OnAir
Cloud OnBoard
cloud Pub/Sub
Cloud Resource Manager
Cloud Resource Manager API
Cloud SCC
Cloud SDK
Cloud SDK for Windows
Cloud Security Command Center
Cloud Services Platform
Cloud Source Repositories
Cloud Spanner
Cloud Speech API
Cloud Speech-to-Text
Cloud SQL
Cloud Storage
Cloud Storage FUSE
Cloud Tools for PowerShell
Cloud Tools PowerShell
Cloud TPU
Cloud Translation
Cloud Translation API
Cloud Virtual Network
Cloud Vision
Cloud VPC
CloudBerry Backup
CloudBerry Lab
CloudConnect
CloudEndure
Cloudflare
Cloudian
CloudML
Cluster Federation
Codefresh
Codelabs
Cohesity
Coldline
Colossus
Compute Engine
Compute user Accounts
Container Engine
Container Registry
Container-Optimized OS
Container-VM Image
Couchbase
Coursera
CRE
CSEK
Customer Reliability Engineering
Data Studio
Databases
Dbvisit
DDoS
Debugger
Dedicated Interconnect
deep learning
Deployment Manager
Developer Console
Developers
DevOps
Dialogflow
Disney
DLP API
Docker
Dockerfile
Drain
Dreamel
Eclipse
Eclipse Orion
Education Grants
Elasticsearch
Elastifile
Energy Sciences Network
Error Reporting
ESNet
Evernote
FASTER
Fastly
Firebase
Firebase Analytics
Firebase Authentication
Flexible Environment
Forseti Security
G Suite
Gartner
gcloud
GCP
GCP Census
GCP 移行ガイド
GCP 認定資格チャレンジ
GCPUG
GCP導入事例
gcsfuse
GEO
GitHub
GitLab
GKE
Go
Go 言語
Google App Engine
Google Apps
Google Certified Professional - Data Engineer
Google Cloud
Google Cloud Certification Program
Google Cloud Client Libraries
Google Cloud Console
Google Cloud Dataflow
Google Cloud Datalab
Google Cloud Datastore
Google Cloud Endpoints
Google Cloud Explorer
Google Cloud Identity and Access Management
Google Cloud INSIDE
Google Cloud INSIDE Digital
Google Cloud INSIDE FinTech
Google Cloud Interconnect
Google Cloud Launcher
Google Cloud Logging
Google Cloud Next '18 in Tokyo
Google Cloud Next '19 in Tokyo
Google Cloud Platform
Google Cloud Resource Manager
Google Cloud Security Scanner
Google Cloud Shell
Google Cloud SQL
Google Cloud Storage
Google Cloud Storage Nearline
Google Cloud Summit '18
Google Cloud Summit ’18
Google Cloud Tools for IntelliJ
Google Code
Google Compute Engine
Google Container Engine
Google Data Analytics
Google Data Studio
Google Date Studio
Google Deployment Manager
Google Drive
Google Earth Engine
Google Genomics
Google Kubernetes Engine
Google maps
google maps api
Google Maps APIs
Google Maps Platform
Google SafeSearch
Google Service Control
Google Sheets
Google Slides
Google Translate
Google Trust Services
Google VPC
Google マップ
Google 公認プロフェッショナル
GoogleNext18
GPU
Gradle
Grafeas
GroupBy
gRPC
HA / DR
Haskell
HEPCloud
HIPAA
Horizon
HTCondor
IaaS
IAM
IBM
IBM POWER9
icon
IERS
Improbable
INEVITABLE ja night
inevitableja
InShorts
Intel
IntelliJ
Internal Load Balancing
Internet2
IoT
Issue Tracker
Java
Jenkins
JFrog
JFrog Artifactory SaaS
Jupiter
Jupyter
Kaggle
Kayenta
Khan Academy
Knative
Komprise
kubefed
Kubeflow Pipelines
Kubernetes
KVM
Landsat
load shedding
Local SSD
Logging
Looker
Machine Learning
Magenta
Managed Instance Group
Managed Instance Group Updater
Maps API
Maps-sensei
Mapsコーナー
Maven
Maxon Cinema 4D
MightyTV
Mission Control
MongoDB
MQTT
Multiplay
MySQL
Nearline
Network Time Protocol
Networking
neural networks
Next
Node
NoSQL
NTP
NuGet パッケージ
OCP
OLDISM
Open Compute Project
OpenCAPI
OpenCAPI Consortium
OpenShift Dedicated
Orbitera
Organization
Orion
Osaka
Paas
Panda
Particle
Partner Interconnect
Percona
Pete's Dragon
Pivotal
Pivotal Cloud Foundry
PLCN
Podcast
Pokemon GO
Pokémon GO
Poseidon
Postgre
PowerPoint
PowerShell
Professional Cloud Network Engineer
Protocol Buffers
Puppet
Pythian
Python
Qwiklabs
Rails
Raspberry Pi
Red Hat
Redis
Regional Managed Instance Groups
Ruby
Rust
SAP
SAP Cloud Platform
SC16
ScaleArc
Secure LDAP
Security & Identity
Sentinel-2
Service Broker
Serving Websites
Shared VPC
SideFX Houdini
SIGOPS Hall of Fame Award
Sinatra
Site Reliability Engineering
Skaffold
SLA
Slack
SLI
SLO
Slurm
Snap
Spaceknow
SpatialOS
Spinnaker
Spring
SQL Server
SRE
SSL policies
Stack Overflow
Stackdriver
Stackdriver Agent
Stackdriver APM
Stackdriver Debugger
Stackdriver Diagnostics
Stackdriver Error Reporting
Stackdriver Logging
Stackdriver Monitoring
Stackdriver Trace
Stanford
Startups
StatefulSets
Storage & Databases
StorReduce
Streak
Sureline
Sysbench
Tableau
Talend
Tensor Flow
Tensor Processing Unit
TensorFlow
Terraform
The Carousel
TPU
Trace
Transfer Appliance
Transfer Service
Translate API
Uber
Velostrata
Veritas
Video Intelligence API
Vision API
Visual Studio
Visualization
Vitess
VM
VM Image
VPC Flow Logs
VR
VSS
Waze
Weave Cloud
Web Risk AP
Webyog
Wide and Deep
Windows Server
Windows ワークロード
Wix
Worlds Adrift
Xplenty
Yellowfin
YouTube
Zaius
Zaius P9 Server
Zipkin
ZYNC Render
アーキテクチャ図
イベント
エラーバジェット
エンティティ
オンライン教育
クラウド アーキテクト
クラウド移行
グローバル ネットワーク
ゲーム
コードラボ
コミュニティ
コンテスト
コンピューティング
サーバーレス
サービス アカウント
サポート
ジッター
ショート動画シリーズ
スタートガイド
ストレージ
セキュリティ
セミナー
ソリューション ガイド
ソリューション: メディア
データ エンジニア
データセンター
デベロッパー
パートナーシップ
ビッグデータ
ファジング
プリエンプティブル GPU
プリエンプティブル VM
フルマネージド
ヘルスケア
ホワイトペーパー
マイクロサービス
まっぷす先生
マルチクラウド
リージョン
ロード シェディング
運用管理
可用性
海底ケーブル
機械学習
金融
継続的デリバリ
月刊ニュース
資格、認定
新機能、アップデート
深層学習
深層強化学習
人気記事ランキング
内部負荷分散
認定試験
認定資格
料金
Archive
2019
8月
7月
6月
5月
4月
3月
2月
1月
2018
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2017
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2016
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2015
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2014
12月
11月
10月
9月
8月
6月
5月
4月
3月
2月
Feed
月刊ニュースレターに
登録
新着ポストをメールで受け取る
Follow @GoogleCloud_jp