AWS が提供する AI ソリューション

AWS が提供する AI ソリューション

1. 1. db analytics showcase Sapporo 2017 AWS が提供する AI ソリューション アマゾン ウェブサービス ジャパン株式会社 ソリューションアーキテクト 川村 誠 2017.07.01
2. 2. ⾃⼰紹介 • 名前 川村 誠 （かわむら まこと） • 所属 アマゾン ウェブ サービス ジャパン 株式会社 技術統括本部 ストラテジックソリューション部 ソリューション アーキテクト • 好きなAWSサービス Amazon EMR, Amazon ECS
3. 3. Amazon における機械学習の取り組み
4. 4. AWS が提供する機械学習サービス
5. 5. 4 レイヤーから構成される AWS の機械学習サービス
6. 6. 4 レイヤーから構成される AWS の機械学習サービス
7. 7. AI Services ⽂章をリアルな⾳声 に変換するサービス Polly Lex 声やテキストを使⽤した会話 型インターフェイスを様々な アプリケーションに構築する ためのサービス Rekognition 画像分析機能をアプリケーション に簡単に追加できるようにする サービス ※これらは，fine-tuning された AWS が提供する深層学習モデルを API で簡単に利⽤できるマネージドサービスとなります
8. 8. Amazon Polly • テキストを，リアルな⾳声に変換するサービス • 24 の⾔語で 47 のリアルな声優の⾳声を提供 • ⾳声の保存と配信，SSML* と Lexicon** によるカスタマイズが可能 • リップシンクのためのスピーチマーク機能や，ささやき声の発話機能が追加 *Speech Synthesis Markup Language **語彙⽬録 <lexeme> <grapheme>Kaja</grapheme> <grapheme>kaja</grapheme> <grapheme>KAJA</grapheme> <phoneme>"kaI.@</phoneme> </lexeme> My daughter’s name is Kaja.ねぇちょっとちょっと，ここだけの話だけどさ <speak> <prosody rate="x-fast"> ねえ，ちょっとちょっと， <amazon:effect name="whispered"> ここだけの話だけどさ </amazon:effect> </prosody> </speak> SSML Lexicon
9. 9. Polly - 24種類の⾔語で48種類の⾳声 ⾔語 ⼥性 男性 英語(オーストラリア) Naja Mads 英語(インド) Raveena ⽇本語 Mizuki ヨーロッパ/中東/アフリカ地域: アジア太平洋地域:北アメリカ/南アメリカ地域: ⾔語 ⼥性 男性 フランス語(カナダ) Chantal ポルトガル語(ブラジル) Vitória Ricardo 英語(⽶国) Joanna Joey Salli Justin Kendra Kimberly Ivy スペイン語(⽶国) Penélope Miguel ⾔語 ⼥性 男性 デンマーク語 Naja Mads オランダ語 Lotte Ruben フランス語 Céline Mathieu ドイツ語 Marlene Hans Vicki アイスランド語 Dóra Karl イタリア語 Carla Giorgio ノルウェー語 Liv ポーランド語 Ewa Jacek Maja Jan ポルトガル語(イベリア) Inês Cristiano ルーマニア語 Carmen ロシア語 Tatyana Maxim スペイン語(カスティリヤ) Conchita Enrique スウェーデン語 Astrid トルコ語 Filiz 英語(英国) Amy Brian Emma 英語(ウェールズ) Geraint ウェールズ語 Gwyneth
10. 10. Polly – Text-to-Speech 処理
11. 11. Polly – Text-to-Speech 処理 テキスト Market grew by > 20%.
12. 12. Polly – Text-to-Speech 処理 テキスト処理 Market grew by > 20%. Market grew by more than twenty percent
13. 13. Polly – Text-to-Speech 処理 単語 Market grew by > 20%. Market grew by more than twenty percent
14. 14. Polly – Text-to-Speech 処理 ⾳素 Market grew by > 20%. { { { { { ˈtwɛn.ti pɚ.ˈsɛnt ˈmɑɹ.kət ˈgɹu baɪ ˈmoʊɹ ˈðæn Market grew by more than twenty percent
15. 15. Polly – Text-to-Speech 処理 ⾳素 Market grew by > 20%. { { { { { ˈtwɛn.ti pɚ.ˈsɛnt ˈmɑɹ.kət ˈgɹu baɪ ˈmoʊɹ ˈðæn Market grew by more than twenty percent 韻律曲線
16. 16. Polly – Text-to-Speech 処理 ⾳素 Market grew by > 20%. { { { { { ˈtwɛn.ti pɚ.ˈsɛnt ˈmɑɹ.kət ˈgɹu baɪ ˈmoʊɹ ˈðæn Market grew by more than twenty percent 音声ユニット インベントリ ユニットの選択と適応
17. 17. Polly – Text-to-Speech 処理 ⾳素 Market grew by > 20%. { { { { { ˈtwɛn.ti pɚ.ˈsɛnt ˈmɑɹ.kət ˈgɹu baɪ ˈmoʊɹ ˈðæn Market grew by more than twenty percent 韻律調整
18. 18. Polly – Text-to-Speech 処理 ⾳素 Market grew by > 20%. { { { { { ˈtwɛn.ti pɚ.ˈsɛnt ˈmɑɹ.kət ˈgɹu baɪ ˈmoʊɹ ˈðæn Market grew by more than twenty percent ストリーミング
19. 19. Polly – スピーチマーク機能 開発者が映像体験と会話の同期を可能とするメタデータ ビゼーム：⾳に対応する唇の形 語句：1単語要素 ⽂：1⽂要素
20. 20. Polly – 利⽤価格と提供リージョン ❑ 従量課⾦制 ❑ 100万⽂字あたり 4.0 USD ❑ Amazon Polly が⽣成した⾳声をファイルに保存しておけば、追加料⾦なしで 再利⽤できる ❑ 無償利⽤枠： 最初の⾳声リクエストから 12 か⽉間、1 か⽉あたり 500 万⽂字 ❑ サービス提供リージョン US East (N. Virginia/Ohio), US West (Oregon); EU (Ireland)
21. 21. Amazon Rekognition ❏ 深層学習に基づく画像認識サービス ❏ 各種機能を API で提供し，アプリケーションに画像認識機能を簡単に追加可能 ❏ 新機能：イメージモデレーション機能 / 性的・暴⼒的な画像を検出 ❏ 新機能：有名⼈顔検索機能 / 有名⼈かどうかの判定 物体とシーンの検出 顔分析 顔照合 顔認識
22. 22. Rekognition - 物体とシーンの検出 q DetectLabels API を利⽤すると、画像から識別した⾞、ペット、家具など、 数千もの物体にラベルを付け、信頼スコアを取得できる q 信頼スコアは 0〜100 の値で⽰され、識別結果が正しいかどうかの可能性を 意味する Maple Plant Villa Garden Water Swimming Pool Tree Potted Plant Backyard ❖ ⼤規模な画像ライブラリを 検索、フィルタリング、管 理するために必要な情報を 取得できる ❖ 写真、不動産、旅⾏アプリ など様々なアプリケーショ ンに利⽤可能
23. 23. Rekognition - 物体とシーンの検出 DetectLabels "Labels": [ { "Confidence": 98.9294204711914, "Name": "Moss" }, { "Confidence": 98.9294204711914, "Name": "Plant" }, { "Confidence": 97.35887908935547, "Name": "Creek" }, { "Confidence": 97.35887908935547, "Name": "Outdoors" }, { "Confidence": 97.35887908935547, "Name": "Stream" }, { "Confidence": 97.35887908935547, "Name": "Water" },
24. 24. Rekognition - 物体とシーンの検出ユースケース: 不動産物件の検索 2.モバイルアプリが新しい画像を S3 にアップロードする 3.Lambda 関数がトリガされ、 Rekognition を呼び出す 4.Rekognition は S3 から画像を取り出し、 識別された資産や設備に対して ラベルを返却する 5.Lambda 関数はラベルとコンフィデンス値(*)を Elasticsearch にも投⼊する 6.ユーザが物件を検索したり 観たりすることができる 1.業者が不動産物件の 画像を撮る ＊コンフィデンス値：識別結果が正しいかどうかの可能性を意味する値
25. 25. Rekognition - 顔分析 q DetectFaces API を利⽤すると、画像内の顔の位置を検出し、感情、ポーズ、 瞳が開いているかどうかなどの顔属性を分析できる ❖ 画像のトリミングや広告を 重ねる際に顔を避けるよう な処理 ❖ ユーザがどのようなカテゴ リに属するか、ユーザが抱 いている感情などの推定 ❖ ⼀番良い写真のレコメンド
26. 26. Rekognition - 顔分析 [ { "BoundingBox": { "Height": 0.3449999988079071, "Left": 0.09666666388511658, "Top": 0.27166667580604553, "Width": 0.23000000417232513 }, "Confidence": 100, "Emotions": [ {"Confidence": 99.1335220336914, "Type": "HAPPY" }, {"Confidence": 3.3275485038757324, "Type": "CALM"}, {"Confidence": 0.31517744064331055, "Type": "SAD"} ], "Eyeglasses": {"Confidence": 99.8050537109375, "Value": false}, "EyesOpen": {Confidence": 99.99979400634766, "Value": true}, "Gender": {"Confidence": 100, "Value": "Female”} DetectFaces
27. 27. Rekognition - 顔分析ユースケース: 店舗内の顧客印象分析 1.店内カメラを利⽤して、来店客の ライブ画像を撮る 2.Rekognition が最終的に画像を解析し、 感情やデモグラフィックなどの詳細 と⼀緒に顔画像属性を返却する 3.Redshift に移⾏する途中で データをS3 に置く 4.⼀定間隔でデータを Redshift に コピーする 5.デモグラ活動のトレンドや 経時的なお店の情緒を確認するため、 定期的な分析を⾏う
28. 28. Rekognition - 顔の⽐較 ❏ 顔の⽐較機能を利⽤すると、2 つの画像の顔が同⼀⼈物である可能性を 推定可能 ❖ アプリケーションやデバイス に顔認識機能を追加可能 ❖ 物理的なセキュリティ制御を 拡張可能
29. 29. Rekognition - 顔の⽐較 { "FaceMatches": [ {"Face": {"BoundingBox": { "Height": 0.2683333456516266, "Left": 0.5099999904632568, "Top": 0.1783333271741867, "Width": 0.17888888716697693}, "Confidence": 99.99845123291016}, "Similarity": 96 }, {"Face": {"BoundingBox": { "Height": 0.2383333295583725, "Left": 0.6233333349227905, "Top": 0.3016666769981384, "Width": 0.15888889133930206}, "Confidence": 99.71249389648438}, "Similarity": 0 } ], "SourceImageFace": {"BoundingBox": { "Height": 0.23983436822891235, "Left": 0.28333333134651184, "Top": 0.351423978805542, "Width": 0.1599999964237213}, "Confidence": 99.99344635009766} } CompareFaces
30. 30. Rekognition - 顔の⽐較ユースケース: 従業員認証 1.従業員が社員証をスキャンする際、 アプリケーションが従業員の ライブ画像を撮る 2.アプリケーションは S3 から ユーザの社員証画像を 取り出す 3.Rekognition がライブ画像と社員証画像を⽐較し、 類似度を返却する 4.類似度が80%以上を超えていれば、 アプリケーションは OK を返し、 そうでない場合はアラートをあげ、 警備員に検査を促す ユーザ認証 ライブ画像＋社員証画像 S3 URL 類似度(99%)
31. 31. Rekognition - 顔認識 ❏ IndexFaces API と SearchFacesByImage API を利⽤すると、⼤規模な顔の コレクションの中から似た顔を⾒つけることで画像の中にいる⼈物を識別する ことが可能 ❖ ソーシャルやメッセージング アプリのタグ付機能 ❖ ⾏⽅不明の⼈を写真から探す 機能
32. 32. Rekognition - 顔認識 q 画像コレクションの顔にインデックスを付け、顔画像を検索 することが可能 q 顔のインデックス化は指定された画像から直接⽣成するだけ でなく、Amazon S3 に保存された画像を処理する事も可能 Index Search CollectionIndexFaces SearchFacesByImage
33. 33. Rekognition - 顔認証: IndexFaces API 02e56305-1579-5b39-ba57-9afb0fd8782d & vector002 4c55926e-69b3-5c80-8c9b-78ea01d30690 & vector003 f7a3a278-2a59-5102-a549-a12ab1a8cae8 & vector001 Face ID & vector<float> transformed Face { f7a3a278-2a59-5102-a549-a12ab1a8cae8, 02e56305-1579-5b39-ba57-9afb0fd8782d, 4c55926e-69b3-5c80-8c9b-78ea01d30690 } IndexFaces stored Collection
34. 34. Rekognition - 顔認証: SearchFacesbyImage API Face Nearest neighbor search SearchFacesbyImage Collection {… FaceID: 4c55926e-69b3-5c80-8c9b-78ea01d30690 Similarity: 97 …}
35. 35. Rekognition - 顔認証ユースケース: 友⼈の画像を⾒つける 1.Rekognition は友⼈の画像にマッチするかどうか顔コレクションを検索し、 類似度の⾼い順に⼀致する可能性のある顔のメタデータの配列を返却する 3.写真アプリケーションが検索結果を ユーザに表⽰する 2.元画像が要求された場合、元画像が S3 から取り出される 4.ユーザは友⼈の画像に 類似する写真を⾒る
36. 36. Rekognition - Lambda 関数テンプレートの提供 フィルタに “recognition” と⼊⼒
37. 37. Rekognition - Lambda 関数テンプレートの提供
38. 38. Rekognition - Lambda 関数テンプレートの提供 下記 API を簡単に呼び出せるよ うなコードが定義されている ❖ DetectLabels API ❖ DetectFaces API ❖ IndexFaces API
39. 39. Rekognition - 節度判定 ❏ 画像内の明⽰的または暗⽰的な成⼈向けコンテンツを検出され、 信頼スコアが提供される機能 ❏ 節度ラベルで詳細なサブカテゴリが提供されるので、許容できるまたは不快と思う様 な画像のフィルタリングを細かくチューニングすることが可能 ❏ 明⽰的なヌード - Explicit Nudity ❖ ヌード ❖ 男性のヌード画像 ❖ ⼥性のヌード画像 ❖ 性的な⾏為 ❖ 部分的なヌード ❏ 暗⽰的 - Suggestive ❖ ⼥性の⽔着または下着 ❖ 男性の⽔着または下着 ❖ 露出の多い⾐服
40. 40. Rekognition - 節度判定ユースケース: ユーザがアップロードした画像の節度判定 画像を S3 にアップロードする S3 のイベントが発⽣ AWS Lambda で Rekognition の節度判定機能を呼び出す 不適切なコンテンツを 検出した場合 不適切なコンテンツを 検出しなかった場合 マニュアル レビュー実施 ユーザに通知エンドユーザ向けに コンテンツがポストされる マニュアルレビューで問題ないと判断された場合 エンドユーザ向けポストが承認される 不適切と判断された場合
41. 41. Rekognition - 有名⼈認識 ❏ 画像内の有名⼈が認識され、信頼スコアが提供される機能 ❏ 有名⼈を認識する際の学習データには IMDb が利⽤されている
42. 42. Rekognition – Ground Truth データ⽣成 版管理された トレーニング＆テストデータ トレーニング ラベル付された画像 QA 評価 利用者 APIレスポンス フィードバック DNNモデル ラベル付前画像 人間参加型 アクティブ・ラーニングシステム 推論 画像元 ローカリゼーション 画像検証 画像注釈付 Ground Truth Data
43. 43. Rekognition – Ground Truth データ⽣成 版管理された トレーニング＆テストデータ トレーニング ラベル付された画像 QA 評価 利用者 APIレスポンス フィードバック DNNモデル ラベル付前画像 人間参加型 アクティブ・ラーニングシステム 推論 画像元 ローカリゼーション 画像検証 画像注釈付
44. 44. Rekognition – Ground Truth データ⽣成 版管理された トレーニング＆テストデータ トレーニング ラベル付された画像 QA 評価 利用者 APIレスポンス フィードバック DNNモデル ラベル付前画像 人間参加型 アクティブ・ラーニングシステム 推論 画像元 ローカリゼーション 画像検証 画像注釈付
45. 45. Rekognition – Ground Truth データ⽣成 版管理された トレーニング＆テストデータ トレーニング ラベル付された画像 QA 評価 利用者 APIレスポンス フィードバック DNNモデル ラベル付前画像 人間参加型 アクティブ・ラーニングシステム 推論 画像元 ローカリゼーション 画像検証 画像注釈付
46. 46. Rekognition – Deep Learning 処理 Conv 1 Conv 2 Conv n … … Feature Maps Labrador Dog Beach Outdoors Softmax Probability Fully Connected Layer
47. 47. Rekognition - 利⽤価格と提供リージョン 画像分析枠 処理画像 1,000 枚あたりの料⾦ 1 か⽉あたり画像処理* 100 万枚まで $1.00 1 か⽉あたり画像処理* 100 万枚超 1,000 万枚まで $0.80 1 か⽉あたり画像処理* 1,000 万枚超 1 億枚まで $0.60 1 か⽉あたり画像処理* 1 億枚超 $0.40 顔メタデータストレージ 1 か⽉あたりに保存される顔メタデータ 1,000 件 $0.01 * 各 API で 1 枚以上の⼊⼒画像を受信した場合に、画像処理 1 枚としてカウントします。 ❑ 無償利⽤枠: 最初の 12 か⽉の間、1 か⽉あたり 5,000 枚の画像分析を⾏い、毎⽉ 1,000 件の顔メタデータを保存できます ❑ サービス提供リージョン: US East (N. Virginia), US West (Oregon), EU (Ireland)
48. 48. Amazon Lex ❏ ⾳声やテキストを使⽤して，任意のアプリケーションに対話型 インターフェイス(ボット)を構築するサービス ❖ AWS Lambda，Amazon Cognito や Amazon DynamoDB などと統合可能 ❖ GA に合わせて Slack, Twilio 統合や SDK サポートなどの機能追加 BookHotel Intents intent はユーザが⼊⼒した⾃然⾔語に応答 してfulfillmentを実⾏する Utterances Slots Fulfillment intent を発動するフレーズ intent を満たすために要求される⼊⼒データ intent を実現するビジネスロジック Prompt Slot を引き出すためのフレーズ
49. 49. Lex - 仕組み: Utterances I’d like to book a hotel I want to make my hotel reservations I want to book a hotel in New York City Can you help me book my hotel?
50. 50. Lex - 仕組み: Slots Destination City New York City, Seattle, London, … Slot Type Values CheckIn Date Valid dates CheckOut Date Valid dates
51. 51. Lex - 仕組み: Prompt Iʼd like to book a hotel What date do you check in? New York City Sure what city do you want to book? Nov 30th Check In 11/30/201 6 City New York City
52. 52. Lex - 仕組み: Fullfillment AWS Lambda Integration Return to Client q ビジネスロジックを実⾏する為、 Intent と slot が Lambda 関数 に渡される q ユーザの⼊⼒が intent と slot 値 を得るためにパースされる q パース結果が後続処理を実⾏する ため、クライアントに返却される
53. 53. Lex - 仕組み: “Book a Hotel” “Book a Hotel in NYC” Hotel Booking City CheckIn CheckOut ⾳声 ⾃然⾔語理解(NLU) Book Hotel NYC ⾃動⾳声認識(ASR) Book a Hotel New York City a in テキスト Intent/Slot モデル New York City Utterance
54. 54. Lex - 仕組み: “Book a Hotel” “When would you check in ?” Polly(TTS) テキスト⾳声 Hotel Booking City New York City CheckIn CheckOut “Can I go ahead with the booking? Prompt “When would you check in ?” No
55. 55. Lex - 仕組み: “Book a Hotel” “When would you check in ?” Polly(TTS) テキスト⾳声 Prompt “When would you check in ?” “November 30th“ Hotel Booking City New York City CheckIn CheckOut
56. 56. Lex - 仕組み: “Book a Hotel” “November 30th“ Hotel Booking City New York City CheckIn CheckOut ⾃然⾔語理解(NLU)⾃動⾳声認識(ASR) Hotel Booking November 30thNovember 30th テキスト⾳声 Intent/Slot モデル November 30th
57. 57. Lex - 仕組み: “Book a Hotel” “When would you check out ?” Polly(TTS) テキスト⾳声 Hotel Booking City New York City CheckIn CheckOut “Can I go ahead with the booking? Prompt “When would you check out ?” No November 30th
58. 58. Lex - 仕組み: “Book a Hotel” “When would you check out ?” Polly(TTS) テキスト⾳声 Prompt “When would you check out ?” Hotel Booking City New York City CheckIn CheckOut “Can I go ahead with the booking? No “December 2nd“ November 30th
59. 59. Lex - 仕組み: “Book a Hotel” “December 2nd“ Hotel Booking City New York City CheckIn CheckOut ⾃然⾔語理解(NLU)⾃動⾳声認識(ASR) Hotel Booking December 2ndDecember 2nd テキスト⾳声 Intent/Sl ot モデル December 2nd November 30th
60. 60. Lex - 仕組み: “Book a Hotel” Hotel Booking City New York City CheckIn CheckOut December 2nd “Your hotel is booked for Nov 30th” Confirmation: “Your hotel is booked for Nov 30th” Yes Polly(TTS) テキスト⾳声 “Can I go ahead with the booking? November 30th
61. 61. Lex - 効率的で直観的な開発ツール
62. 62. Lex – ボット開発プロセス 保存 構築 Saving your bot preserves the current state on the server Building your bot creates versions that you can test リリース Publishing your app will create a version of your bot and provide an alias to your clients テスト Test your bot in a chat window on the console
63. 63. Lex - ユースケース: 情報ボット 患者向け診察予約ボットを構築する 1.患者がケア施設に午後３時の 予約を要求する 2.Lex は予約のスケジューリングが リクエストされたことを認識する 3.Lex が予約について都合の良い 曜⽇を尋ねる 4.予約時間が確保される 5.患者は⽊曜⽇の午後３時に 予約完了の通知を受ける ユーザ⼊⼒情報 Lex のテキストレスポンス
64. 64. Lex - 利⽤価格と提供リージョン ❑ 従量課⾦制 ❑ ⾳声リクエストは 1 件あたりの料⾦は 0.004 USD ❑ テキストリクエスト 1 件あたりの料⾦は 0.00075 USD ❑ 使⽤量は “処理されたリクエスト数” で計測され、⽉末に合計されて、⽉額 料⾦が決定される ❑ 無償利⽤枠： 最初の 12 か⽉間、⼀か⽉あたり最⼤で 10,000 回のテキストリクエストと 5,000 回の⾳声リクエストを処理することができます ❑ サービス提供リージョン: US East (N. Virginia)
65. 65. 4 レイヤーから構成される AWS の機械学習サービス
66. 66. Amazon machine Learning ❏ スケーラビリティ: システムの拡張や運⽤を考える必要がない ❏ パッケージ化: テストデータ分割や評価⼿法，予測 API の提供などが組み込まれている Amazon Redshiftアプリケーション Redshift上の取引データ を使ってAmazon MLで 不正取引の抽出を⾏い、 S3に出⼒される結果を Redshiftに戻して利⽤。 2クラス分類 ロジスティック回帰 多クラス分類 多項ロジスティック回帰 回帰分析 線形回帰
67. 67. Amazon EMR (Elastic MapReduce) ❏ フルマネージドな Hadoop を提供しており、クラスタの構築・構 成変更・破棄まで管理可能 ❏ HDFS ではなく S3 上のデータを直接読み書きすることで コンピュートとストレージを分離 ❏ ワークロードに応じたクラスタを複数⽴ち上げ、同⼀データを 並列に処理可能 ❏ ETL 処理から機械学習まで幅広く利⽤可能
68. 68. 機械学習・分析処理のためのソフトウェアスタック http://docs.aws.amazon.com//emr/latest/ReleaseGuide/emr-release-components.html
69. 69. 機械学習・分析処理のためのソフトウェアスタック http://docs.aws.amazon.com//emr/latest/ReleaseGuide/emr-release-components.html
70. 70. 4 レイヤーから構成される AWS の機械学習サービス
71. 71. AWS は MXNet を全⾯的にサポート ❏ マルチ GPU でのスケーラビリティに優れている ❏ AWS 社員もコミッターとして活躍 ❏ CloudFormation で MXNet クラスタを構築するテンプレートを提供 http://aws.typepad.com/sajp/2016/11/mxnet-default-framework-deep-learning-aws.html
72. 72. Deep Learning AMI で各種パッケージを⼿軽に利⽤ ❏ OS はAmazon Linux と Ubuntu の2種類 ❏ 各種フレームワークが プリインストール ❖ MXNet v0.10.0 tag ❖ Tensorflow v1.1.0 tag ❖ Theano rel-0.8.2 tag ❖ Caffe rc5 tag ❖ Caffe2 v0.7.0 tag ❖ Keras 1.2.2 tag ❖ CNTK v2.0.rc1tag ❖ Torch master branch Amazon Linux Version https://aws.amazon.com/marketplace/pp/B01M0AXXQB Ubuntu Version https://aws.amazon.com/marketplace/pp/B06VSPXKDX
73. 73. 4 レイヤーから構成される AWS の機械学習サービス
74. 74. Deep Learningに最適なP2インスタンス ❏ GPU アクセラレータ NVIDIA Tesla K80 を最⼤ 16 個搭載可能 ❏ ⼤量の GPU を使うことで，ディープラーニングのモデル構築にかかる時間を⼤幅に 短縮可能 ❏ AMI(Amazon Machine Image) を使うことで，ディープラーニングの学習環境を 容易に構築可能 Instance Name GPU Count Memory GPU Memory Network Performance P2.xlarge 1 61GiB 12 GiB High P2.8xlarge 8 488GiB 96 GiB 10 Gigabit P2.16xlarge 16 732GiB 192 GiB 20 Gigabit
75. 75. NVIDIA Volta AWS and NVIDIA Expand Deep Learning Partnership at GTC 2017 ❏ Tesla V100 は Volta アーキテクチャベースで 640 の Tensor Core を備え、混合精度の深層学習において 120 テラフロップスという素晴らしいパフォーマンス を提供 ❏ AIの限界を押し広げることができる ❏ MXNet の Neural machine translation(NMT) アルゴリズムを先⾏して最適化済み https://aws.amazon.com/jp/blogs/ai/aws-and-nvidia-expand-deep-learning-partnership-at-gtc-2017/
76. 76. Amazon EC2 F1 インスタンス FPGA による⾼性能演算を実施可能 ❏ 構成 ❖ Intel Xeon E5-2686v4 (2.3GHz, Turbo mode 対応) ❖ 1-8 個の FPGA（16 nm Xilinx UltraScale+ VU9P) ❖ 最⼤ 976 GB のメモリ ❖ 4TB の NVMe 接続の SSD を利⽤可能 https://aws.amazon.com/jp/ec2/instance-types/f1/
77. 77. Xeon “Skylake” 搭載の C5 インスタンス ❏ Deep Learning に適した命令セット AVX512 を搭載 ❖ AVX-512 Vector Neural Network Instructions Word variable precision (4VNNIW) ❖ AVX-512 Fused Multiply Accumulation Packed Single precision (4FMAPS) ❏ Caffe2 は AVX-512 の計算最適化に対応 https://software.intel.com/en-us/blogs/2017/04/18/intel-and-facebook-collaborate-to-boost-caffe2-performance-on-intel-cpu-s
78. 78. EC2 クラスタ上の複数のコンテナを ECS で管理 ❏ Dockerコンテナを複数のEC2インスタンスに分散配置できる ❏ ⼀時的な計算処理にも、ロングランニングな処理にも対応 ❏ ELB連携など各種AWSサービスとの親和性 https://aws.amazon.com/jp/ecs/
79. 79. AWS Greengrass ❏ 接続されたデバイスでローカルのコンピューティング、メッセージング、 およびクラウドと直接の連携ができるサービス 特徴 • ニアリアルタイムのローカル イベントへの処理 • AWS Lambdaを利⽤した プログラミングモデル • オフラインで動作 • ランニングコストの削減 価格体系 • Active Device の数による課⾦ • Active Device とは、30⽇間で 1回以上 AWS IoT と認証した デバイスの数 Device State Action Device Gateway Messages Authentication & Authorization Security https://aws.amazon.com/jp/blogs/news/aws-greengrass-run-aws-lambda-functions-on-connected-devices-2/
80. 80. 4 レイヤーから構成される AWS の機械学習サービス
81. 81. 事例
82. 82. Amazon Rekognition をご利⽤のお客様 ❖ デジタルアセットマネジメント ❖ メディア＆エンターテインメント ❖ 旅⾏とおもてなし ❖ インフルエンサマーケティング ❖ システムインテグレーション ❖ デジタル広告 ❖ ストレージサービス ❖ 公安 ❖ 警察 ❖ Eコマース ❖ 教育
83. 83. ケーススタディ：旅⾏とおもてなし Anticipatory guest experiences for hotels using Amazon Rekognition for facial recognition and sentiment capture 顔認識と感情捕捉に Rekognition を利⽤したホテルでの先験的なお客様体験 フロントスタッフとお客様の関係向上を⼿助けするため、Rekognition を利⽤： ❖ 早期にお客様を認識し、パーソナライズされたサービスをすばやく提供する ❖ リッチで状況に則したお客様の情報をリアルタイムに受信する ❖ 滞在中のお客様の感情を捉える ❖ お客様の満⾜度を 80％ 向上
84. 84. ケーススタディ：旅⾏とおもてなし お客様のワークフロー “Kaliber は来店されたお客様と親密な絆を築く ことを可能にする.” – GM of a 5-star property お客様来店 認識 ご挨拶 アクションを引き起 こす感情を捉えるパーソナライズされた サービスを楽しむ ⼤切なお客様とお別れする
85. 85. hotel ケーススタディ：旅⾏とおもてなし 簡素化されたアーキテクチャ 単⼀マスターゲストコレク ションが、単⼀ワークフ ローデプロイを可能にする お客様を認識するとリアルタイム 情報検索が実⾏される ⾃動化されたAWS上の パイプライン処理が信 頼性を向上する ⾃動化された画像サン プリングが絶えず認識 精度を向上する
86. 86. ケーススタディ：インフルエンサーマーケティング ソーシャルメディアの画像から，インフルエンサーと物体や状況を紐付けて， インパクトのあるキャンペーンを展開する Rekognition をメタデータ抽出に活⽤ ❏ ソーシャルメディアフィードでインフルエンサーに対して画像インデックスをつける ❏ インフルエンサーの影響⼒が増したときに、要因を分析できるようにする ❏ クライアントのブランドとインフルエンサーをタグ付けすることで、⼤きなインパクト を持たせることができる
87. 87. ケーススタディ：メディア 8つのネットワークでカメラに映っている⼈物を特定し、録画した動画を インデックス化・検索できるようにする Rekognition を活⽤し、動画のフレームからサンプリングした画像に対して顔認識を適⽤ ❏ 99,000 ⼈の顔画像を 1 ⽇でインデックス ❏ 6 秒ごとにフレームをサンプリング ❏ 画像を S3 にアップロードして，Rekognition で最も⼀致する顔画像を検索 ❏ メタデータとしてタイムスタンプと顔画像の ID を保存 ❏ 3週間で組み込み ❏ 1年あたり〜9,000時間の労働時間短縮
88. 88. C-SPAN Indexing Architecture 8拠点からエンコードされた ビデオフィード 抽出されたフレームがJPG化 され、S3に保存される Amazon SQS による ⾮同期処理化 類似度の⾼い顔を Rekognitionで探す 検索／発⾒リクエスト 結果をキャッシュ シーンが⼗分に変化したかどうかを 検出する
89. 89. Rekognition・Polly・Lex ユースケース: Motorola Solutions ❏ 警察官が利⽤できるデバイス, サービスを提供 ❏ 不明者の発⾒にAmazonの画像認識、⾳声認識を活⽤ AWS re:Invent 2016: Machine Learning State of the Union Mini Con (MAC206) – YouTube https://youtu.be/HqsUfyu0XJc?t=1833 ❖ カメラでリアルタイムに顔を抽出して AWS に送信 ❖ DBにデータを保存して Rekognition に顔認識顔リクエストを送信 ❖ マッチしたら、イベントでPollyを呼び 出して、⾳声でアラートを通知
90. 90. RoomClip における Rekognition + Amazon Machine Learning の事例 ❏ 部屋のインテリア実例共有サイト ❏ 「部屋全体を映している画像かどうか」を判定 ❏ マネージドサービスを組み合わせることで、低コストで機械学習サービス を構築 Amazon RekognitionとMachine Learningで画像判定機を気軽に作る http://engineer.roomclip.jp/entry/20 部屋画像の ラベルを抽出 特定ラベルの確信度を 独⽴変数として 部屋写真か否か判定する モデルを構築 構築したモデルで その他画像を判定 Rekognition Amazon Machine Learning
91. 91. Zillow における Spark MLlib のユースケース ❏ Zillow は住宅のマーケットプレイスに関するWebサービスを展開 ❏ さまざまなレコメンデーションを活⽤ ❖ セール物件 / 貸出可能物件をメールで利⽤者にプッシュ ❖ 「この物件に似た物件」 ❖ パーソナライズド検索 ❖ 住宅購⼊確率，物件売却 確率の予測 ❖ 類似画像 / 動画 AWS re:Invent 2016: Zillow Group: Developing Classification and Recommendation Engines with Amazon EMR and Apache Spark (MAC303) https://www.slideshare.net/AmazonWebServices/aws-reinvent-2016-zillow-group-developing-classification-and-recommendation-engines-with-amazon- emr-and-apache-spark-mac303
92. 92. Capital One における⾳声認識の活⽤事例 ❏ 全⽶最⼤のネットバンク，4位のクレジットカード発⾏会社 ❏ Amazon Alexa を活⽤した⾳声ベースのバンキングアプリ ❏ ユーザのアクセシビリティを改善する取り組み AWS re:Invent 2016: How Capital One Built a Voice-Based Banking Skill for Amazon Echo (ALX201) – YouTube https://www.youtube.com/watch?v=-MtwpZFmexg
93. 93. まとめ
94. 94. まとめ ❏ Amazon では機械学習技術を活⽤した取り組みを実施 ❏ 4 つの形で機械学習技術を提供しており，ビジネスの状況に 合わせて活⽤可能 ❖ サービス ❖ プラットフォーム ❖ エンジン ❖ インフラ
95. 95. まとめ : Amazon AI サイト、Amazon AI Blog https://aws.amazon.com/jp/amazon-ai/ https://aws.amazon.com/jp/blogs/ai/
96. 96. Q&A