Google Cloud Platform Japan Blog
最新情報や使い方、チュートリアル、国内外の事例やイベントについてお伝えします。
ゲスト投稿 : Silicon Therapeutics が GCP 上の Elastifile Cloud File System を創薬に使用した理由
2018年2月23日金曜日
編集部注 :
昨年、Google Cloud Platform(GCP)を
創薬向けの大規模仮想スクリーニングに活用
している Silicon Therapeutics の投稿を紹介しました。今回の投稿では、Elastifile Cloud File System と CloudConnect から得られるパフォーマンスとデータ管理について同社に解説していただきます。GCP に統合できるハイパフォーマンスのファイル システムを探している企業にとっては、同社が構築した環境はきっと参考になるでしょう。
私たち Silicon Therapeutics は、大規模なスケールアウト コンピューティングのためのプラットフォームとして GCP に注目し、創薬ワークロードの重要なコンポーネントとして使用しています。前回の投稿では、標的タンパク質の柔軟なコンフォメーション アンサンブルに基づき、数百万種の分子化合物の中から薬物分子になりそうなものをスクリーニングするにあたって、GCP をどのように活用しているかを紹介しました。
今回はデータの管理についてお話しします。ハイパフォーマンス コンピューティング(HPC)におけるワークフローの常として、私たちはデータの扱いに苦労しました。私たちが利用するコア アプリケーションの 1 つである、分子系内での原子群の経時的な変化を研究する分子動力学(MD)シミュレーションでは、データの管理とストレージについて考えなければならないことがたくさんあるからです。
原子群の経時的な変化は、ニュートンの運動方程式を解き、分子力学力場で原子間に働く力を計算することによって明らかになります。この種の計算では、それぞれ数万の原子を含む原子座標系のスナップショットが数千個も生成され、かなり大きい軌道ファイルが多数作られます。そのため、大規模なデータセット(たとえば
タンパク質構造データ バンク
(PDB)の 10 万の分子構造全体)を対象として MD シミュレーションを実行すると、(ペタバイトを超える)大量のデータが生成されます。
疾病に対する治療薬の発見を促進するには科学計算の時間短縮と精度向上がきわめて重要ですが、実際問題として、増加する一方のデータ量、スケーラブルでパフォーマンスの高い共有データ アクセスという要件、複雑なワークフローといった壁が立ちふさがり、その実現は困難をきわめます。インフラストラクチャ、特にファイル ストレージをめぐる難問の解決に時間を取られ、本来なら研究自体に使えたはずの時間がなくなってしまい、重要な科学の発展が遅れてしまうことも少なくありません。
私たちが取り組んでいる物理学ベースのワークフローは、膨大な量のデータを短時間で生み出す並列プロセスを作成します。このようなワークフローをサポートするには、柔軟でパフォーマンスの高い IT インフラストラクチャが必要です。しかも、シミュレーションの結果を分析してパターンを見つけ出し、新しいドラッガブルな分子を見つけるためには、その膨大なデータ全体(この場合は 1 PB 以上)をふるいにかけなければなりません。ところが、そのようなインフラストラクチャを社内で構築しようとすると、非常に高いコストがかかります。
このようなワークフローには、シミュレーションやアナリティクス向けに数千もの並列コンピュート ノードを簡単に用意できるパブリック クラウドが適しています。しかし、スケーラブルでパフォーマンスの高いコンピュート ノードは簡単に手に入っても、補完的にスケーラブルでパフォーマンスの高いストレージをクラウドで手に入れようとすると苦労します。
そこで私たちは、大規模データの格納、管理、処理に適した単純で効率のよい方法を常に模索してきました。そして、GCP と Elastifile のクロスクラウド データ ファブリックの組み合わせなら、私たちが抱えるデータの難問を解決し、研究のペースを上げられることがわかったのです。
Silicon Therapeutics の HPC アーキテクチャでは、Google Compute Engine の CPU と GPU、分散ファイル ストレージ用の Elastifile、非アクティブ データ管理用の Google Cloud Storage と Elastifile を組み合わせて利用
ハイパフォーマンスでスケールアウト可能なファイル ストレージが不可欠な理由
爆発的にデータを生成する分子シミュレーションと分析のワークフローを効果的にサポートするには、次の 3 つの要件を満たすストレージ ソリューションが必要でした。
ファイルネイティブなメイン ストレージ : 私たちの分子シミュレーション用の分析ソフトウェアは、多くの科学計算アプリケーションと同様に、厳格な整合性を保証するファイル システムのファイル形式でデータを生成、インジェストする設計になっています。この種のアプリケーションが近い将来、
Google Cloud Storage
のようなオブジェクト ストレージ システムと直接インターフェースをとるようにリファクタリングされることはないでしょう。したがって、クラウド ベースの POSIX 準拠ファイル システムが必要です。
スケーラブルなグローバル ネームスペース : 小さなデータセットを対象とする単純な分析であれば、ばらばらなクラウド インスタンスのファイル サーバーをつなぎ合わせるような方法で十分かもしれません。しかし、データセットが大きくなり、複数のアプリケーションでデータを共有しなければならない場合(たとえばマルチステージのワークフロー)には DIY 的な方法では対応できません。そのため、スケーラブルなグローバル ネームスペースを提供できる、完全に分散化された共有ファイル システムが必要です。
高いコスト効率 : 爆発的にデータを生成する大規模なワークロードを管理する場合に、固定容量のストレージを使用するとコストが非常に高くつきます。需要に合わせた形でインフラストラクチャのコストを抑えるためには、すばやくデプロイ / 破棄できるソリューションが必要です。さらに、最大限の柔軟性を確保するには、1)サイト、クラウド相互間、2)「アクティブ」な処理で使うファイル形式と「非アクティブ」なストレージ / アーカイブ / バックアップで使うコストのかからないオブジェクト形式との間、の両方でデータを簡単にやり取りできるポータビリティの高いソリューションが理想的です。
ファイル ストレージ問題の解決方法
上述のようなストレージの要件を満たし、研究の要件拡大にも対応するために、私たちは複雑な MD ワークフローのバックボーンとして、Elastifile のクロスクラウド データ ファブリックを使うことにしました。
ソリューションの中心は、クラウドおよびハイブリッド クラウド環境で高いパフォーマンスとスケーラビリティを実現するように設計された、ソフトウェアのみによる分散ファイル システムの
Elastifile Cloud File System
(ECFS)です。ECFS は、クラウド規模で
ノイズの多い異種環境
をサポートするように作られており、データ集約的な科学計算ワークフローのメイン ストレージに特に適しています。
Elastifile のファイル システムは、データのポータビリティとポリシー ベースの制御を容易にするため、Elastifile の「データ コンテナ」を介してアプリケーションから操作できるようになっています。各ファイル システムは、複雑なワークフローに含まれる並列、トランザクション アプリケーションのサポートに必要な厳格な整合性を維持しつつ、単一のネームスペースのもとで複数のクラウド インスタンスにまたがることができます。
私たちは、GCP 上に ECFS をデプロイすることにより、MD ワークフローを単純化、最適化することができました。そして、上で述べた PDB 規模のスクリーニングの概念検証として、500 種の一意なタンパク質に適用してみました。
この計算では、GCP 上で動作する
SLURM
クラスタを使っています。コンピュート ノードは 16 個の n1-highcpu-32 インスタンスで、各インスタンスには 8 個の GPU が接続され、合計で 120 個の K80 GPU と 512 個の CPU が使用できます。ストレージ機能は、すべてのコンピュート ノードにマウントされている 6 TB の Elastifile データ コンテナによって提供されます。
計算およびストレージのリソースを割り当てる SLURM の構成定義画面
Elastifile を導入する前は、このようなワークフローにおけるストレージのプロビジョニングや管理には複雑な手作業が必要でした。具体的には、手作業で入力データセットを分割し、それぞれ専用のディスクを持つ複数の異なるクラスタを作成していました。このようなことをしていたのは、1 つの巨大なディスクを作ると、大きなメタデータのために NFS が問題を起こすことが多かったからです。
各クラスタへの出力が終わると、ディスクをスナップショットとして保存しました。アクセスのためにインスタンスをスピンアップし、データ アクセス用の認証情報を共有していましたが、このアクセス パターンはエラーを起こしやすく、セキュリティにも問題がありました。また、規模が大きくなると、この種のマニュアル プロセスは時間がかかり、致命的エラーやデータ消失のリスクがありました。
ところが、Elastifile の導入後、ストレージ リソースのデプロイと管理は迅速かつ容易な作業へと変わりました。単純に希望する容量を指定すれば、ECFS クラスタが自動的にデプロイ、構成され、SLURM が管理するコンピュート リソースから利用できるようになったのです。しかも、これに要するのはわずか数分にすぎません。
また、あとで必要になったら、ボタンを一度押すだけで、容量を追加してクラスタを拡張できます。これで、インフラストラクチャはワークフローの要件やデータの規模のダイナミックな変化に対処できます。Elastifile は、クラウド ベースのファイル システムのデプロイを単純化かつ自動化し、手作業によるストレージのプロビジョニングに伴う複雑さやリスクを低減したのです。
Elastifile の統合管理コンソールでファイル システムの属性やポリシーを指定
さらに、Elastifile の CloudConnect サービスを使用することで、ECFS と Cloud Storage の間でデータをシームレスに昇格、降格できるようになり、インフラストラクチャのコストを低減できました。Elastifile のデータ コンテナから Google バケットへのデータの移動は Elastifile CloudConnect で単純化され、データ移動後は Elastifile インフラストラクチャを解体すれば不要なコストを削減できます。
Elastifile CloudConnect の UI により、ファイル ストレージとオブジェクト ストレージ間のデータのチェックイン / チェックアウト進捗状況を監視
私たちにとって、このデータ移動はとても重要です。このデータのサブセットをローカル デスクトップ上で可視化、分析する必要があるからです。Elastifile のデータ パフォーマンス、並列性、スケーラビリティ、共有性、ポータビリティを組み合わせることにより、私たちは従来よりも短時間で大規模な分子分析を多くこなせるようになりました。これは前進であり、より良い薬剤候補を見つけ出すうえで役に立つでしょう。
MD 分析の結果に基づいてタンパク質構造を可視化
次のステップでは、PDB のすべての一意なタンパク質構造を対象とするところまでワークフローの規模を拡大し、スクリーニング後のデータに深層学習分析を加え、タンパク質動力学、ドラッガビリティ、強結合リガンドから関連パターンを見つけられるようにするつもりです。
GCP 上での高度に並列的なオンクラウド分子分析をサポートする Elastifile の詳しい仕組みについては、
こちらのデモ動画
をご覧ください。また、
Elastifile のサイト
も参照してください。
* この投稿は米国時間 2 月 6 日、Silicon Therapeutics の Chief Science Officer である Woody Sherman 氏と、同じく Principal Investigator である Vipin Sachdeva 氏によって投稿されたもの(投稿は
こちら
)の抄訳です。
- By Woody Sherman, Chief Science Officer and Vipin Sachdeva, Principal Investigator, Silicon Therapeutics
12 か月間のトライアル
300 ドル相当が無料になるトライアルで、あらゆる GCP プロダクトをお試しいただけます。
Labels
.NET
.NET Core
.NET Core ランタイム
.NET Foundation
#gc_inside
#gc-inside
#GoogleCloudSummit
#GoogleNext18
#GoogleNext19
#inevitableja
Access Management
Access Transparency
Advanced Solutions Lab
AI
AI Hub
AlphaGo
Ansible
Anthos
Anvato
Apache Beam
Apache Maven
Apache Spark
API
Apigee
APIs Explore
App Engine
App Engine Flex
App Engine flexible
AppArmor
AppEngine
AppScale
AprilFool
AR
Artifactory
ASL
ASP.NET
ASP.NET Core
Attunity
AutoML Vision
AWS
Big Data
Big Data NoSQL
BigQuery
BigQuery Data Transfer Service
BigQuery GIS
Billing Alerts
Bime by Zendesk
Bitbucket
Borg
BOSH Google CPI
Bower
bq_sushi
BreezoMeter
BYOSL
Capacitor
Chromium OS
Client Libraries
Cloud API
Cloud Armor
Cloud Audit Logging
Cloud AutoML
Cloud Bigtable
Cloud Billing Catalog API
Cloud Billing reports
Cloud CDN
Cloud Client Libraries
Cloud Console
Cloud Consoleアプリ
Cloud Container Builder
Cloud Dataflow
Cloud Dataflow SDK
Cloud Datalab
Cloud Dataprep
Cloud Dataproc
Cloud Datastore
Cloud Debugger
Cloud Deployment Manager
Cloud Endpoints
Cloud Firestore
Cloud Foundry
Cloud Foundry Foundation
Cloud Functions
Cloud Healthcare API
Cloud HSM
Cloud IAM
Cloud IAP
Cloud Identity
Cloud IoT Core
Cloud Jobs API
Cloud KMS
Cloud Launcher
Cloud Load Balancing
Cloud Machine Learning
Cloud Memorystore
Cloud Memorystore for Redis
Cloud monitoring
Cloud NAT
Cloud Natural Language API
Cloud Networking
Cloud OnAir
Cloud OnBoard
cloud Pub/Sub
Cloud Resource Manager
Cloud Resource Manager API
Cloud SCC
Cloud SDK
Cloud SDK for Windows
Cloud Security Command Center
Cloud Services Platform
Cloud Source Repositories
Cloud Spanner
Cloud Speech API
Cloud Speech-to-Text
Cloud SQL
Cloud Storage
Cloud Storage FUSE
Cloud Tools for PowerShell
Cloud Tools PowerShell
Cloud TPU
Cloud Translation
Cloud Translation API
Cloud Virtual Network
Cloud Vision
Cloud VPC
CloudBerry Backup
CloudBerry Lab
CloudConnect
CloudEndure
Cloudflare
Cloudian
CloudML
Cluster Federation
Codefresh
Codelabs
Cohesity
Coldline
Colossus
Compute Engine
Compute user Accounts
Container Engine
Container Registry
Container-Optimized OS
Container-VM Image
Couchbase
Coursera
CRE
CSEK
Customer Reliability Engineering
Data Studio
Databases
Dbvisit
DDoS
Debugger
Dedicated Interconnect
deep learning
Deployment Manager
Developer Console
Developers
DevOps
Dialogflow
Disney
DLP API
Docker
Dockerfile
Drain
Dreamel
Eclipse
Eclipse Orion
Education Grants
Elasticsearch
Elastifile
Energy Sciences Network
Error Reporting
ESNet
Evernote
FASTER
Fastly
Firebase
Firebase Analytics
Firebase Authentication
Flexible Environment
Forseti Security
G Suite
Gartner
gcloud
GCP
GCP Census
GCP 移行ガイド
GCP 認定資格チャレンジ
GCPUG
GCP導入事例
gcsfuse
GEO
GitHub
GitLab
GKE
Go
Go 言語
Google App Engine
Google Apps
Google Certified Professional - Data Engineer
Google Cloud
Google Cloud Certification Program
Google Cloud Client Libraries
Google Cloud Console
Google Cloud Dataflow
Google Cloud Datalab
Google Cloud Datastore
Google Cloud Endpoints
Google Cloud Explorer
Google Cloud Identity and Access Management
Google Cloud INSIDE
Google Cloud INSIDE Digital
Google Cloud INSIDE FinTech
Google Cloud Interconnect
Google Cloud Launcher
Google Cloud Logging
Google Cloud Next '18 in Tokyo
Google Cloud Next '19 in Tokyo
Google Cloud Platform
Google Cloud Resource Manager
Google Cloud Security Scanner
Google Cloud Shell
Google Cloud SQL
Google Cloud Storage
Google Cloud Storage Nearline
Google Cloud Summit '18
Google Cloud Summit ’18
Google Cloud Tools for IntelliJ
Google Code
Google Compute Engine
Google Container Engine
Google Data Analytics
Google Data Studio
Google Date Studio
Google Deployment Manager
Google Drive
Google Earth Engine
Google Genomics
Google Kubernetes Engine
Google maps
google maps api
Google Maps APIs
Google Maps Platform
Google SafeSearch
Google Service Control
Google Sheets
Google Slides
Google Translate
Google Trust Services
Google VPC
Google マップ
Google 公認プロフェッショナル
GoogleNext18
GPU
Gradle
Grafeas
GroupBy
gRPC
HA / DR
Haskell
HEPCloud
HIPAA
Horizon
HTCondor
IaaS
IAM
IBM
IBM POWER9
icon
IERS
Improbable
INEVITABLE ja night
inevitableja
InShorts
Intel
IntelliJ
Internal Load Balancing
Internet2
IoT
Issue Tracker
Java
Jenkins
JFrog
JFrog Artifactory SaaS
Jupiter
Jupyter
Kaggle
Kayenta
Khan Academy
Knative
Komprise
kubefed
Kubeflow Pipelines
Kubernetes
KVM
Landsat
load shedding
Local SSD
Logging
Looker
Machine Learning
Magenta
Managed Instance Group
Managed Instance Group Updater
Maps API
Maps-sensei
Mapsコーナー
Maven
Maxon Cinema 4D
MightyTV
Mission Control
MongoDB
MQTT
Multiplay
MySQL
Nearline
Network Time Protocol
Networking
neural networks
Next
Node
NoSQL
NTP
NuGet パッケージ
OCP
OLDISM
Open Compute Project
OpenCAPI
OpenCAPI Consortium
OpenShift Dedicated
Orbitera
Organization
Orion
Osaka
Paas
Panda
Particle
Partner Interconnect
Percona
Pete's Dragon
Pivotal
Pivotal Cloud Foundry
PLCN
Podcast
Pokemon GO
Pokémon GO
Poseidon
Postgre
PowerPoint
PowerShell
Professional Cloud Network Engineer
Protocol Buffers
Puppet
Pythian
Python
Qwiklabs
Rails
Raspberry Pi
Red Hat
Redis
Regional Managed Instance Groups
Ruby
Rust
SAP
SAP Cloud Platform
SC16
ScaleArc
Secure LDAP
Security & Identity
Sentinel-2
Service Broker
Serving Websites
Shared VPC
SideFX Houdini
SIGOPS Hall of Fame Award
Sinatra
Site Reliability Engineering
Skaffold
SLA
Slack
SLI
SLO
Slurm
Snap
Spaceknow
SpatialOS
Spinnaker
Spring
SQL Server
SRE
SSL policies
Stack Overflow
Stackdriver
Stackdriver Agent
Stackdriver APM
Stackdriver Debugger
Stackdriver Diagnostics
Stackdriver Error Reporting
Stackdriver Logging
Stackdriver Monitoring
Stackdriver Trace
Stanford
Startups
StatefulSets
Storage & Databases
StorReduce
Streak
Sureline
Sysbench
Tableau
Talend
Tensor Flow
Tensor Processing Unit
TensorFlow
Terraform
The Carousel
TPU
Trace
Transfer Appliance
Transfer Service
Translate API
Uber
Velostrata
Veritas
Video Intelligence API
Vision API
Visual Studio
Visualization
Vitess
VM
VM Image
VPC Flow Logs
VR
VSS
Waze
Weave Cloud
Web Risk AP
Webyog
Wide and Deep
Windows Server
Windows ワークロード
Wix
Worlds Adrift
Xplenty
Yellowfin
YouTube
Zaius
Zaius P9 Server
Zipkin
ZYNC Render
アーキテクチャ図
イベント
エラーバジェット
エンティティ
オンライン教育
クラウド アーキテクト
クラウド移行
グローバル ネットワーク
ゲーム
コードラボ
コミュニティ
コンテスト
コンピューティング
サーバーレス
サービス アカウント
サポート
ジッター
ショート動画シリーズ
スタートガイド
ストレージ
セキュリティ
セミナー
ソリューション ガイド
ソリューション: メディア
データ エンジニア
データセンター
デベロッパー
パートナーシップ
ビッグデータ
ファジング
プリエンプティブル GPU
プリエンプティブル VM
フルマネージド
ヘルスケア
ホワイトペーパー
マイクロサービス
まっぷす先生
マルチクラウド
リージョン
ロード シェディング
運用管理
可用性
海底ケーブル
機械学習
金融
継続的デリバリ
月刊ニュース
資格、認定
新機能、アップデート
深層学習
深層強化学習
人気記事ランキング
内部負荷分散
認定試験
認定資格
料金
Archive
2019
8月
7月
6月
5月
4月
3月
2月
1月
2018
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2017
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2016
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2015
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2014
12月
11月
10月
9月
8月
6月
5月
4月
3月
2月
Feed
月刊ニュースレターに
登録
新着ポストをメールで受け取る
Follow @GoogleCloud_jp