startup on aws usecases startupday ·...

© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.

"Startup on AWS" use-cases from AWS Startup Tech CommunityAmazon Web Services Japan �� | March 12, 2018

#AWSStartupJP


3!1�

-

Amazon Web Services JapanSenior Solutions Architect / Manager, Solutions Architecture - Startups

/�4+ @shinodogg

2002" TIS)#�.�.2007"*�)#�.�.2013" Amazon Web Services Japan �.2017"MBA in International Business – University of Tsukuba�

2014"1'��AWS Startup Tech Community�5��6&(Startup CTO%$,�( #CTONight )0�-� 2��J

��AWS��7 AWS ��IDE7AWS Cloud9

#AWSStartupJP


AWS Startup Tech Community• AWS��Startup�� • ��

#AWSStartupJP


AWS Startup Tech Meetup

• � #�Meetup(��!�)&�• "$�%'�Amazon ��

#AWSStartupJP


“Startup on AWS” use-cases in Japan• ��Startup��

#AWSStartupJP


“Startup on AWS” use-cases in Japan

• ��Startup��

#AWSStartupJP


“Startup on AWS” use-cases in Japan

• ��Startup�� • Startup Evangelist�Mackenzie(@mkosut)��CTO��

#AWSStartupJP


��

scouty��

Voicy��

Speee��

Enechange��

#AWSStartupJP


Enjoy “Startup on AWS” use-cases!

• &($-/E3:�C8B�A��?K Ask the Speaker / Ask an Architect+0%�L

• DH�1F�7��Startup5@�;G>= ��AWS'.,0$-/!0")#*�4I�6J2� ��?K�9<��J

#AWSStartupJP

© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.

アルゴリズムマネジメント株式会社 scouty 伊藤勝梧 | 2018-03-12


自己紹介

伊藤勝梧 @showwin

株式会社 scouty

リードエンジニア

2015年、京都大学で計算機科学の学士号を取得。人工知能を専攻。クラウドソーシングにおける受注履歴からのワーカーのスキル判定を研究。2015年にAWS 認定ソリューションアーキテクトに認定。Cookpad, beBit, 株式会社MMM サーバーサイドエンジニアを経験し、2016年11月、3人目のメンバーとしてscoutyにジョイン。

好きなマネージドサービス：DynamoDB

最近の興味: スクラム、デザインパターン


scouty について

ネット上のオープンデータ（SNS・ブログ・イベントサイトなど）から情報をクロールし、個人に関するデータを統合。ネット上に情報を公開している人すべてが対象で、従来の転職サービスのような会員登録を必要としません。

人々のつぶやき・経歴・投稿・所属会社・転職履歴などの様々なデータを機械学習の力で解析し、個人の退職タイミングと退職確率を予測。その人に最適な企業をマッチングし、スカウトを送ります。

オープンデータをクロール機械学習によるマッチング


scouty crawler のインフラ構成図

AmazonDynamoDB

Amazon ECS

Amazon ECS

Amazon ECS

Amazon ECS

AmazonSQS

Elastic Load Balancing*

AWS Lambda

Amazon CloudWatch

AmazonRDS Aurora ( MySQL 5.7)

Amazon ElastiCache

sns-activity watcher

workerscrapy(crawler)

メインサービス

クロールした生データのdiff

整形されたデータ

event (time-based) ①

②

④⑤

③⑥

⑥⑥

⑦

⑦

⑦


scouty の取り組む機械学習4分野

マッチング退職率予測クローリングスカウトメール会社と候補者のスキルマッチング退職確率分布推定イベント出席履歴からの居住地

判定スカウトメール解析

会社と候補者のカルチャーマッチングニューラルネット退職率予測ブログ記事などの非構造化デー

タからの意味抽出スカウトメール自動校正

マッチングの適合フィードバック

Twitterなどからの自然言語処理による判定候補者のスキルのスコアリングスカウトメールドラフト自動

生成

イベント参加履歴やプロフィール変更履歴からの判定

ソースコードに基づくスキル判定

SNSアカウントの名寄せ（同一性判定）

スキル関連度推定


機械学習系サービス開発で起こりがちな問題

• 機械学習チームが最適化しようとしている指標が、実はビジネス的には嬉しくなかった。

• アルゴリズムを作っている途中で、実は機械学習でやる必要がないことが発覚する。

• 「機械学習で何かしたい」MLエンジニアがいて、ルールベースの手法を使うことを嫌がる。

• 精度が1％上がるとどの程度嬉しいのかわからず、機能開発の優先度が決められない。


scouty で起きた問題

ブログ記事

Qiita記事

上級中級初級

識別

作りたいアルゴリズム機械学習チームの動き1.まずは、人力で記事にアノテーションをつけたものを学習してプロトタイピングすることに。

2.初級・中級・上級の判定基準を示すガイドラインをMLエンジニアが作成。

3.社内のエンジニアなどにアノテートしてもらう。

4.クラウドワーカーを使って大量にアノテートする。書き手のスキルレベル



起きた問題1.アノテートしたら、評価基準を作ったにもかかわらず、評価者により評価がバラけた。

2.その原因が「基準が曖昧だから」なのか「そもそも記事からスキルセットを評価できないから」なのかという議論が起こる。

3.いいね！数だと何が問題なの？という議論に発展。

4.本当に知りたいのは「上級レベルだけどいいねされていない記事」と「低級レベルだけどいいねされている記事」の検出だった、と判明。

5.その課題が緊急でないとアルゴリズムマネージャが判断し、この機能開発は延期した。



反省点

• 顧客の課題は何か？という部分がクリアになっていなかった。

• 課題ではなくソリューション/好奇心から入ってしまった。

• 実装者ドリブンでアルゴリズムの仕様を決めてはいけない。

プロダクトの仕様/設計をエンジニアがその場でやらない事と同じように、アルゴリズムの仕様もその場でやると怪我をする。


scouty の推進する「アルゴリズムマネージャ」

売上

継続率

単価1スカウトあたりのCVR

候補者の転職確度

マッチングの精度

退職率予測の精度

スキル推定の精度 UIの使いやすさ

採用工数

顧客ニーズの把握


scouty の推進する「アルゴリズムマネージャ」

アルゴリズムマネージャ

そのアルゴリズム、顧客(市場)は必要としているの？メトリクス定義

マイルストン構築事前リサーチ

技術選定

顧客にニーズ調査

オペレーション設計

ディレクション PMとのやりとり


AWS Code Build / Pipeline� ��Voicy �� | 2018−03−12


CB:I VoicyCTO

JFV; @yuji0316

1999A��SIer�TN�PS�EC ��!#-�UG�,& .5%�LX�

2016A��>�+5"/69D��Voicy� 0�5�E<�)45%��6'6��*2��5)1��*4 ��%,& .5%�"6-(3$�5��O��

?��AWSYElastic Beanstalk

?��QRYWH=8QR

M@K7


��

��

��

��

��

… and more

iPhone&

Android


��0!

+�#��'��-�4"1�%$6

�� .),*5�� (#�/�� &32��


��

��

��


��

��


��

��Elastic Beanstalk��

Availability Zone

Availability Zone

�� ELB EC2

EC2

RDS

RDS(Backup)

Auto Scaling group

Elastic Beanstalk container


!��

��$# ��&�

��%�"��

��!�� '


��

!�� "�(+�� )�


��

… and more

��

��

��

��

iPhone&

Android


��

��


/��"(%#.,

��

��7��

��5��$&'#08�� 6*+ ��413��2-�"(%#��!�!)�5�� m(_ _)m


((*$,27-.

��

��8��

��6�� %')$09��!7-.��514��3/�#*&$��"�"+�6��m(_ _)m

��


55:#;EI=>

��KQ

9WEB��/5�#0:)#-:��ABM� �55:#;E�A�

955:#2"3:6�,6* 08*�JN�'#)G/D?G��L�

955:#CP�,6*→0+"18 8$:6M�→(/7��O<

9'#)F@�(/7��DHF@�(/7��

9DHF@�2"3:6�master.48%�/&!3��


��

AWS CodeBuild & AWS Code Pipeline ��

AWS CodeBuild

AWSCodePipeline

BuildSource Deploy

AWS Elastic Beanstalk

GitHub


�� #5;*+

AWS CodeBuild & AWS Code Pipeline 2768

�>.��9,

�%�$7� �GitHub�Elastic Beanstalk�/1

�<@��'(7-:

�")��0&�4=� ��?3!��

AWS CodeBuild

AWS CodePipeline


AWS CodeBuild

AWS CodeBuild ��(,��+�.%E

Go 1.8�5��• CodeBuild��*-&��=�Docker�.$'�3:��

• Voicy��Go�4@��)"�0 A?#0-��dep�4@��

• dep�Go 1.821�9D��3:��.$'��Go 1.7�5��

• buildspec.yml�>6�Go 1.8��.!%0-��*-&�,.&�8C��<7

///

phases:

install:

commands:

# Install Go 1.8 & dep command

- curl -sSL -o /tmp/go.tar.gzhttps://storage.googleapis.com/golang/go1.8.5.linux-amd64.tar.gz

- tar -C /usr/local -xzf /tmp/go.tar.gz

- export GOPATH=${HOME}/go && echo ${GOPATH}

- export PATH=/usr/local/go/bin:${GOPATH}/bin:${PATH} && echo ${PATH}

- go get -u github.com/golang/dep/cmd/dep

pre_build:

commands:

# Get go packages

- mkdir -p ${GOPATH}/${SRC_DIR} && cd ${GOPATH}/${SRC_DIR}

- mv ${CODEBUILD_SRC_DIR}/* ${CODEBUILD_SRC_DIR}/.??* .

- dep ensure

///

buildspec.yml (;B)


AWS CodeBuild

AWS CodeBuild ��.2��1!5,J

Docker(5+-��;H�C��• VPC8�CodeBuild�7?��Docker(5+-�/03*$IP�A��B@;H�C��

• ��dep�>D�/*&6)�:=��

• ;H�C��9FNAT'6,"#!�7?��46+ 5%��>D��

• NAT'6,"#!�E<�IG��;H�C�� .2��

VPC subnet 2

VPC

VPC subnet 1 VPC NAT gateway

Internet

��NAT gateway��

��

Code Build�Docker��


AWS CodeBuild

AWS CodeBuild ��15��4"8.N

Docker)8-/��?L�H��• VPC;�CodeBuild�:D �Docker)8-/�236,%IP�F��GE?L�H��

• ��dep�CI�2,'9+�=B��

• ?L�H��NAT(9.#$" :D��79-!8& �CI��

• NAT(9.#$"�J@ MK��?L�H��15��

VPC subnet 2

VPC

VPC subnet 1

VPC NAT gateway

Code Build�Docker��

Internet

A<MK��Docker)8-/�>�*30,.�NAT GW :D��


��

• AWS CodePipeline�I:�#'��>��+&) E6O

• AWS CodeBuild�A3�%)"I:�9;�JGNK�=H��@8�!&*�/B 1�7��O

• Elastic Beanstalk MD��0��O

• .<�AWS CodeCommit�AWS CodeDeploy��L?��O

• Lambda�EC2-�$ �2C�((,�F45�G�O


��

Voice Tech Company


�� ServerlessAWS SAM Local�� Speee�� | 2018-03-12


��&�

�Speee�� Serverless "��

�� !��

�$�'#%��

�Serverless��AWS Lambda��


��

�AWS Lambda��

�AwS Lambda� ��

�AWS SAM Local��


Agenda

�$�#�

�Speee��

�Speee�� %�!��

�Speee�� Production ��Serverless�!��

�"��Serverless��

��


J;I+

A>,G Speee�&�� & NE3F�'��

B:1< @selmertsx

89O7 /M:?LH646 / Social Game / Speee (now!)

Rails��web�"&�(�%'NE�)C/��

TypeScript.�npm package�-��AWS Lambda

@��

5� # (��(!�: kinesis firehose*=�K2: serverless, kubernetes, TypeScriptAWSD: 1=0��5� �'�$: ∀�'�$