jobscheduler ユーザカンファレンス 2016 東京日産コンピュータシステム様...
TRANSCRIPT
Copyright © 2016 TIS Inc. All rights reserved.
東京日産コンピュータシステム様
JobScheduler導入事例のご紹介
IT基盤技術推進部
OSS推進室 池田 大輔
Copyright © 2016 TIS Inc. All rights reserved. 2
アジェンダ
❏ JobSchedulerの採用に至った経緯 ❏ 導入までのプロセス ❏ JobScheduler導入環境について ❏ JobSchedulerで実践しているジョブ管理 ❏ JobScheduler運用における工夫ポイント ❏ JobScheduler採用のメリット ❏ JobScheduler利用時の課題・今後の展開 ❏ TISから提供するサポート
Copyright © 2016 TIS Inc. All rights reserved. 3
自己紹介
池田 大輔 (いけだ だいすけ) TIS株式会社 OSS推進室
TISが提供するサービス ・JobSchedulerの構築のご支援 ・JobSchedulerの保守サービス ・JobSchedulerのレクチャー 等
Copyright 2016 Tokyo Nissan Computer System CO., LTD
会社案内
2
最も安心してIT基盤を任せられる企業というビジョンのもとに
所有
利用
【弊社の強み】 所有型から利用型までお客様ITに関わる様々な課題を解決
・IBM第1期認定特約店として早期から事業を開始、ITインフラの豊富な構築実績より、14年連続上位プレミアムパートナーとして、様々なパートナー・アワードを受賞 ・日産自動車様、関連EDIベンダー様との強い結びつきより、日産自動車様を中心としたEDIソリューションと、10年に渡るサポートを提供できるEDIのベストパートナー ・設立当初から親会社のホスト・コンピュータの運用代行を行なってきた知見から、様々なITに関わる運用をサポート ・お客様の運用の煩わしさを解放するため、2002年よりデータセンター事業開始 ・データセンター事業を中核とした様々なクラウドサービスを提供
運用代行
商 号 東京日産コンピュータシステム株式会社
創 立 1989(平成1年)年3月3日
資 本 金 8億6,774万円
上場証券取引所 東京証券取引所JASDAQ
事 業 所 本 社:東京都渋谷区恵比寿1-18-18 東急不動産恵比寿ビル3階 江東事業所:東京都江東区東砂7-19-31 東京日産江東ビル2階
株 主 数 988名(2016年3月末現在)
主 要 株 主 日産東京販売ホールディングス株式会社
取 引 銀 行 三井住友銀行 りそな銀行 みずほ信託銀行
役 員
代表取締役社長 吉丸 弘二朗 常務取締役 佐藤 浩之 取締役 赤木 正人 取締役 外川 孝彦 取締役 北村 章彦 取締役 桜井 英一 常勤監査役 平尾 彰 監査役 小川 和洋 監査役 松尾 憲治
売 上 高 65億3,000万円(2016年3月実績)
従 業 員 141名(2016年3月末)
URL http://www.tcs-net.co.jp
事 業 内 容 情報システム関連業務(データセンター 東京都 2箇所)
認 定 取 得 ISO20000 / ISO27001
Copyright 2016 Tokyo Nissan Computer System CO., LTD
弊社沿革
3
1982年 3月 東京日産自動車販売株式会社の新規事業として、日本アイ・ビー・エム株式会社 初となる特約店事業を開始
1989年 3月 東京日産自動車販売株式会社 コンピュータ事業部を分社独立 東京日産コンピュータシステム株式会社設立(略称 TCS)
2002年 7月 データセンター事業開始
2003年 9月 PARTNERヘルプデスク開始
2004年 3月 JASDAQ市場上場
2011年 12月 第2データセンター稼動
2013年 4月 ビックデータビジネス参入
2013年 6月 サプライヤー様向けEDIソリューション『EXシリーズ』発表
2015年 2月 IBM Beacon Awards 2015 Finalist 受賞
2016年 2月 IBM Choice Awards 2016 受賞
IBM Beacon Award (グローバル)
2012年 IBM Beacon Award Finalist受賞(Storage部門)
2014年 IBM チョイスアワード受賞 (マーケティング部門)
2015年 IBM Beacon Award Finalist受賞(Cloud Storage部門)
2016年 IBM Choice Award 受賞( High-Performing Solution Provider)
IBM Partner Award
2011年 IBM エクセレント・パートナー・アワードJapan受賞
2012年 IBM エクセレント・パートナー・アワードJapan受賞 IBM System Storage Specialty パートナー認定
2013年 IBM エクセレント・パートナー・アワードJapan受賞
2014年 IBM エクセレント・パートナー・アワードJapan受賞
プレミアムビジネスパートナーは 2003年より13年連続認定
Copyright © 2016 TIS Inc. All rights reserved. 4
東京日産コンピュータシステム様とTIS
エンドユーザ様
東京日産コンピュータシステム様
TIS
プロダクトサポート提供(2015/11~)
構築・提供
Copyright © 2016 TIS Inc. All rights reserved. 5
JobScheduler採用に至った経緯
Copyright © 2016 TIS Inc. All rights reserved. 6
これまでのジョブ管理
IBM AS/400 ホストサーバ
IBM AS/400 IAサーバ
IBM AS/400 IAサーバ
A-AUTO
他のツール1
他のツール2
ジョブ管理ツール 管理対象システム
Copyright © 2016 TIS Inc. All rights reserved. 7
これまでのジョブ管理
IBM AS/400 ホストサーバ
IBM AS/400 IAサーバ
IBM AS/400 IAサーバ
A-AUTO
他のツール1
他のツール2
ジョブ管理ツール 管理対象システム
統合管理による全体最適が必要
Copyright © 2016 TIS Inc. All rights reserved. 8
導入までのプロセス
Copyright © 2016 TIS Inc. All rights reserved. 10
JobSchedulerが優位と感じたポイント
機能が豊富 (イベントハンドル、ファイルトリガー、パラメータ引き渡しなど)
ジョブを様々な言語で書ける (shell, VBscriptなど)
ワールドワイドでの豊富な実績 HyClops JobMonitoring
を利用することでのZabbix連携可
AD連携が可能 (Linux標準機能を利用)
Copyright © 2016 TIS Inc. All rights reserved. 11
HyClops JobMonitoring
【参考】
ZabbixとJobSchedulerを連携するツール 3つの機能
1. ジョブの失敗状況をZabbixに連携 2. ジョブの実行処理時間情報をZabbixに連携 3. ジョブ実行時にZabbixのトリガー条件式を動的変更
公式サイトURL: http://tech-sketch.github.io/hyclops_jm GitHubリポジトリ: https://github.com/tech-sketch/hyclops_jm
平常時のCPU負荷
Job実行時のCPU負荷
閾値
閾値 Job
Copyright © 2016 TIS Inc. All rights reserved. 12
導入に向けての事前検証
Windows端末からの 完全操作可能か
A-AUTOと連携可能か
・Samba/Winbind、FTPでのジョブ定義登録 ・LDAPやWebDAVによるAD連携
・他のジョブ管理ツールとの柔軟な連携の設計
●通常運用において、Windows端末からの操作で完結可能 ● AD認証も対応可能 ●スクリプトやLinux標準機能の活用により他ツールとの柔軟な連携設計が可能
Copyright © 2016 TIS Inc. All rights reserved. 13
検証~本番導入
検証活動 検証対象は2製品 ・JobScheduler ・他のOSSのジョブ管理ツール 実施項目
・ジョブの作成・実行・修正 ・外部連携(API経由でのジョブ実行等) 期間
・約2ヶ月の検証
本番導入 期間は約3ヶ月
Copyright © 2016 TIS Inc. All rights reserved. 14
JOEからのジョブ定義ファイル連携
【参考】
JOE xml
FTP、SFTP、WebDAV ・都度アップロード可 ・保存時自動アップロード可
xml
作成した定義は ローカルのディレクトリに保存
マウントして同期させる形も可能
JobScheduler Engine
つまり、XMLのファイルがEngineのLiveフォルダ上に展開されれば設定反映完了
Copyright © 2016 TIS Inc. All rights reserved. 15
JobScheduler導入環境について
Copyright © 2016 TIS Inc. All rights reserved. 16
JobScheduler導入環境構成
開発用
Engine: JobScheduler ver. 1.10.1 OS: CentOS 6.7(64bit) DB: MySQL
本番用
DB
DB
Engine: JobScheduler ver. 1.10.1 OS: RHEL 6.7(64bit) DB: MySQL
VMware上の 仮想マシン
①
Universal Agent: ver. 1.10.1 OS: Windows 2012R2
ジョブ実行先サーバ 2,30台
①開発・本番間rsyncによるクロスバックアップ
・ ジョブ等の各種定義情報(XMLファイル) ・ ジョブ実行用スクリプト ・ ジョブ実行ログ ・ 監査ログ(samba/winbind,ftp等)
②VMwareの機能でのシステム全体のバックアップ
②
Universal Agent: ver. 1.10.1 OS: Windows 2008R2
③
Agentレス OS: CentOS 6.7
Copyright © 2016 TIS Inc. All rights reserved. 17
JobSchedulerで実践しているジョブ管理について
Copyright © 2016 TIS Inc. All rights reserved. 18
ジョブ管理運用の流れ - 開発者によるジョブ設定運用 -
ジョブの登録・変更
JOE Engine
liveフォルダ
Active Directory
xml
xml
作成・修正
FTP経由での アップロード
開発者 PAM認証
Copyright © 2016 TIS Inc. All rights reserved. 19
ジョブ管理運用の流れ - システム管理者によるスクリプト配置 -
A-AUTO-JobScheduler連携用 スクリプト配置
Engine
A-AUTO実行可能領域
Active Directory
samba/ winbind script
配置
認証
script
マウント済み フォルダ
システム管理者
Copyright © 2016 TIS Inc. All rights reserved. 20
ジョブ管理運用の流れ - 運用者によるジョブ実行状況確認 -
ジョブ実行状況確認
Engine
Active Directory
HTTPD (LDAP連携)
認証
運用者
JOC
A-AUTO
全体状況は A-AUTO管理画面で確認
詳細ログ等はJOC経由
Copyright © 2016 TIS Inc. All rights reserved. 21
ジョブ管理運用の流れ -ジョブ実行 -
ジョブの実行
A-AUTO スクリプト Standalone Job
ジョブ実行先サーバ JobScheduler Server
バッチファイル
・登録ジョブは同様の処理を行う1パターンのみ
・実行管理はメインツールのA-AUTO側で管理
・ジョブ呼び出し時の引き渡すパラメータにより実行自動化
Copyright © 2016 TIS Inc. All rights reserved. 22
A-AUTOとJobSchedulerの使い分け
A-AUTO JobScheduler
・全体のジョブスケジューリング管理 ・ジョブの異常終了情報の管理 ・運用担当者への異常状態の発報 ・ホスト系サーバへのジョブ実行に特化
・ジョブ実行先へのジョブ実行処理 ・ジョブ実行履歴管理 ・ジョブの振り分けの自動制御 ・IAサーバのジョブ実行を統合管理
Copyright © 2016 TIS Inc. All rights reserved. 23
JobScheduler運用における工夫ポイント
Copyright © 2016 TIS Inc. All rights reserved. 24
jobscheduler.shスクリプトによるXMLコマンド実行
A-AUTO スクリプト Standalone Job
ジョブ実行先サーバ JobScheduler Server
バッチファイル
【再掲】
jobscheduler.shスクリプトによるXMLコマンド発行による以下の処理自動化 ・ジョブの実行処理 ・ジョブの実行結果の確認
ポイント1
Copyright © 2016 TIS Inc. All rights reserved. 25
jobscheduler.shスクリプト
【参考】
JobSchedulerインストール時に標準で配置されるJobScheduler操作用スクリプト
JobScheduler Engineを起動
$ /opt/sos-berlin.com/…./bin/jobscheduler.sh start
xmlコマンドを実行してジョブ1を即座に実行
$ /opt/sos-berlin.com/…./bin/jobscheduler.sh command ‘<start_job job=”job1”>’
Copyright © 2016 TIS Inc. All rights reserved. 26
パラメータ引き渡しによるジョブ実行時の振る舞い制御
以下の設定項目をパラメータ化しジョブ実行時の動作を制御 ジョブ実行時 ・処理実行結果の一時保存先ファイル名の自動生成 ・ログ保存先ディレクトリ情報 ジョブ実行結果確認処理時 ・確認対象のジョブ実行タスクID
ポイント2
1種類のジョブですべてのコントロールを実現
Copyright © 2016 TIS Inc. All rights reserved. 27
Jobへのパラメータ引き渡し
【参考】
JobSchedulerは様々な方法でパラメータの引き渡しが可能
1. 固定で設定 2. 実行時に設定 3. JobChainのフロー中で動的に設定 4. APIを用いた自動設定
<job name="param_test">
<params >
<param name="param_1" value="100"/>
<param name="param_2" value="this is param_2"/>
</params>
<script language="shell">
<![CDATA[
echo "This is param_test job"
]]>
</script>
<run_time />
</job>
Copyright © 2016 TIS Inc. All rights reserved. 28
JobScheduler採用のメリット
Copyright © 2016 TIS Inc. All rights reserved. 29
統合管理の実現
IBM AS/400 ホストサーバ
IBM AS/400 IAサーバ
IBM AS/400 IAサーバ
A-AUTO
JobScheduler
ジョブ管理ツール 管理対象システム
口は一つ
バックエンドは高度に自動化
各種接続部分も社内ADとの 連携に統合しセキュリティ面強化
Copyright © 2016 TIS Inc. All rights reserved. 30
JobScheduler利用時の課題・今後の取り組み
Copyright © 2016 TIS Inc. All rights reserved. 31
利用時の課題
・ナレッジ情報の日本語化対応不足 - Zabbixのようなコミュニティベースでの活発な情報交換が少ない
・AgentがJavaベースのため
既存Javaアプリケーションとの共存の心配
Copyright © 2016 TIS Inc. All rights reserved. 32
今後の取り組み
・システム自体の拡大に向けた更なる有効活用 ・パブリッククラウド環境への適用
Copyright © 2016 TIS Inc. All rights reserved. 33
TISから提供するサポート
Copyright © 2016 TIS Inc. All rights reserved. 34
TISから提供しているサポート
・機能仕様に関するお問い合わせへの対応 ・トラブル発生時の状況分析と調査 を中心に年間対応件数無制限にてサポート
具体的な対応例) ① jobscheduler.shのコマンド実行仕様についての問い合わせ対応 ②JOEからWebDAV接続時に発生したエラー原因の調査対応 ③ジョブ実行結果の戻り値の取得方法の提供 等々