iotを取り巻く技術
DESCRIPTION
IoTTRANSCRIPT
IoTを取り巻く技術
自己紹介
氏名: 古城 篤(Atsushi Kojo)
所属: 株式会社ウフル
役割: 主任研究員及び音楽演奏要員
特徴: 元営業マンの技術屋
ウフル技術ブログのメイン執筆者(現在)http://deferloader.blog.uhuru.co.jp/
Twitter: joeartsea
Blog: http://artsnet.jp/
“IoTをもっと具体的に”
IoC - Internet of Customer� ������������� ��������������������
� WM@B!
����! ���!�#!;=AP! $��#!
Any$Product,$Any$Network,$Any$Applica5on$
! 多様なデバイスとのフレキシブルなコミュニケーション!
! 有線、無線ネットワークに渡るコミュニケーションの最適化!
! 最高レベルのセキュリティとコンプライアンスの維持!
! !"��&%��! 6S1C9XHRYA/X7+-.'(,��*9=B,���
! 2X?YJS0>VKU,=8YSGTA/*FI3YOX=�
M2M centric Cloud Platform
接続性!
管理性!
� ;=AP! V<QY��!
JSXB!
����!���!
Human centric Cloud Platform
I/YUC:YG=
:YG=)4LVY?
A6E5U:NYB
CRM
DB SNS
モバイル対応
開発・ カスタマイズ環境
コミュニケーション
Web・ポータル コールセンター
外部IF
FYBD
9X;RYO
���
イノベーション!
! データの蓄積&解析!! ルールによるイベントの発生!! 外部システム連携!! M2Mアプリケーション&開発環境!
アセット制御
= IoT :Internet of Things +
==> IoC :Internet of Customer
で、結局なにが必要なの?直近で必要なスキル
API力 - データ収集/連携部分でケースバイケースで対応できる
SQL力 - データ集計/変換部分でケースバイケースで対応できる
BI力 - データ可視化部分で最低限のグラフ生成に関する知識がある
あったら望ましいスキル
インフラ力 - データ収集/集計/変換する各部分のインフラを構築/運用できる
ハードウェア力 - データを収集するハードウェアに対する開発ができる
我々にとってIoTといえば?
ハードウェアパッと思いつくけど実際はハードウェアベンダと組むことがほとんど
ビッグデータセンサーデータはヒストリカルなログデータのようなものなのでこれまでのWeb/アプリ/ソーシャルのログ解析により成長した既存のビッグデータ技術が有効
プロセスプロセスを管理することに長けているforce.comが有効
我々にとってIoTといえば?
ハードウェアパッと思いつくけど実際はハードウェアベンダと組むことがほとんど
ビッグデータセンサーデータはヒストリカルなログデータのようなものなのでこれまでのWeb/アプリ/ソーシャルのログ解析により成長した既存のビッグデータ技術が有効
プロセスプロセスを管理することに長けているforce.comが有効
“ビッグデータ”
ビッグデータ処理と言っても…
Hadoopに代表されるようなバッチ処理 Amazon Elastic MapReduce, Treasure Data, Google Big Query, Azure HDInsight
手元で作成したクエリをRDB並みのレスポンスで結果を返すアドホッククエリ処理 Treasure Query Accelerator, Amazon Redshift
CEP(複合イベント処理)のように刻々と発生するデータをまさにその場で処理するストリーム処理 Amazon Kinesis, Norikra
データの収集は?
エージェントが組み込める場合
バッチ処理に必要なデータはエージェントがそれぞれのDWHやストレージへデータを投入(fluentdであれば代表的なDWHやストレージへ投入するプラグインが揃っている)
ストリーム処理に必要なデータはエージェントがHTTPなどのプロトコルで直接Amazon Kinesisに投入
エージェントが組み込めない場合(レガシーなハードウェアが対象の場合はエージェントを組み込めない方が多い)
既存ハードウェア側のデータ収集~ゲートウェイの仕様に従いケースバイケースで解決する
ストリーム、バッチ双方に必要なデータは何かしらの通信によってHerokuなどで受け取って同様の処理をする(メールでCSVを添付などという要望もある…)
※既存ハードにセンサを後付けとかゲートウェイがないので新設などアーキテクチャを詰めることでエージェントの組み込みが可能になるケースもある
中間データマート
Hadoopなどのバッチ処理の基盤だけを採用したとしても大抵のアドホックなクエリ処理要件は実現できる
アドホックなクエリのほとんどは期間限定(時/日/週/月/年限定や日/
週/月/年計)
つまり毎時/日次/週次/月次/年次のタイミングで予め集計したデータを通常のRDBに移すことでアドホックな要件を実現できる
このRDBのようなポジションが中間データマート
SQLライクなビッグデータクエリ言語
代表的なものでApache HiveのHiveQL
つまりビッグデータ処理とは
以下のタスクをスケジュール実行する基盤を作り自動化する
刻々と発生するデータを負荷分散しながら収集
集計に必要なデータフォーマットにデータ変換
実際の集計
集計後のデータをBIやダッシュボードで利用するDBへ移動
“ご清聴ありがとうございました”