「スプラトゥーン」リアルタイム画像解析ツール 「IkaLog」の裏側
•
438 likes•132,880 views
「スプラトゥーン」リアルタイム画像解析ツール 「IkaLog」の裏側 関連コンテンツ Webcamでの動作例 https://www.youtube.com/watch?v=d91xyyA-exA IkaClips の出力例 https://www.youtube.com/watch?v=w6kqbAPq1Rg ささみ 2015年10月 http://ssmjp.connpass.com/event/21108/
Recommended
More Related Content
What's hot
What's hot (20)
Viewers also liked
Viewers also liked (20)
Similar to 「スプラトゥーン」リアルタイム画像解析ツール 「IkaLog」の裏側
Similar to 「スプラトゥーン」リアルタイム画像解析ツール 「IkaLog」の裏側 (20)
More from Takeshi HASEGAWA
More from Takeshi HASEGAWA (20)
Recently uploaded
Recently uploaded (10)
「スプラトゥーン」リアルタイム画像解析ツール 「IkaLog」の裏側
- 1. 任天堂WiiU用ゲーム「スプラトゥーン」 リアルタイム画像解析ツール 「IkaLog」の裏側 ささみの会 2015/10 Takeshi Hasegawa (@hasegaw) October 17, 2015 (rev.2) 本スライド中に登場するスプラトゥーン関連画像は任天堂株式会社の著作物からの引用です。
- 2. @hasegaw is 誰 長谷川 猛 (HASEGAWA Takeshi) twitter: @hasegaw Ø もともと、インフラエンジニア(2004-2011) SEとしてシステム構築、客先のシステム運用、提案 気付いたらプリセールス∼PMを担当するインフラエンジニア （ざっくりデザイン、工数／導入物品見積もり、 構築プロジェクトの管理、保守等の問い合わせ対応） Ø フラッシュストレージを軸とした、アプリケーション高速化を 支援するセールスエンジニア(2011-2014) Ø ファブレス半導体ベンチャーでコンピュータ関連なんでも 2
- 3. 著書／寄稿 3
- 5. スプラトゥーンとは 5
- 7. スプラトゥーンとは • 第三者視点(TPS）のシューティングゲームの一種 • インクで自分たちのナワバリを広げないと進めない • シューティングが苦手でも バケツやローラータイプのブキで気軽に楽しめる • 本気でやってる人たちは怖い 7
- 8. IkaLog とは何か • Wii U用ゲーム「スプラトゥーン」支援ソフト – HDMIキャプチャを介して情報を自動取得 – 数値・文字列データとして認識 – お好みの方法で 蓄積、出力 8
- 10. IkaLog の画像認識例 10
- 11. IkaLog の画像認識例 11
- 12. IkaLog の画像認識例 12
- 14. プラガブルで様々な使い方に対応 14 録画ソフト 自動制御 AmaRecTV カラーLED連動 Fluentd 転送 スプラトゥーン戦績記録SNS CSV/JSONファイル保存 スクリーンショット保存 SNS投稿 IkaLog
- 15. Embeded IkaLog （ライブラリモード） • IkaLog 自体が Python モジュールとして実装されている • Python コードから IkaLog を実行して、情報を受け取れる • 作ってみたアプリケーションの例 15 アプリケーション 説明 IkaRename.py スプラトゥーンのビデオを分析 ステージ／ルール／勝敗のついた ファイル名にリネームする IkaClips.py スプラトゥーンのビデオを分析 敵を倒した／倒されたシーンだけクリップし、 忙しい人 向けのサマリビデオを生成 出力例 https://www.youtube.com/watch?v=w6kqbAPq1Rg
- 16. 開発開始の経緯と 基本的なしくみ
- 17. IkaLog開発の経緯 • スプラトゥーン プレイヤー同士で モツ鍋を食べていたら、戦績の統計の話に • ゲームには、戦績の統計機能は存在しない • 手動でExcelを使い戦績を整理している人も 17
- 18. スプラトゥーン プレイヤーにとっての 主なメトリック • どのステージが得意か？苦手か？ • どのルールが得意か？苦手か？ • どのブキが得意か？苦手か？ • どのブキにやられやすいか？ • どれぐらい突進していいのか？ 突撃し過ぎなのか？ 18
- 19. ツールを作ろう(検討編 1) その晩から、720p １プレイ分の動画を相手に 検討開始 • 非圧縮 5分 → 20GB OpenCV のテンプレートマッチングで試行錯誤 • 判ったこと：使えなそう – 誤検出が多い – マッチングアルゴリズムが遅い 19
- 20. ツールを作ろう(検討編 2) • もっと単純な方法で画像をマッチングする – スプラトゥーンのシステムメッセージは ほとんどが、決まった位置に白色で表示される – 「文字部分だけが黒く、残りが白い画像」を加算し、 加算した後の画像のヒストグラムで判定する – 基本的に足し算、引き算で実現できるため 非常に高速に処理できる – 画面が真っ白なときに誤動作 →もともと白い画像は無視する 20
- 21. IkaLogの画像マッチング (第一世代) 21 ソース映像 マスク画像 加算画像 + = = 正しいマスクを加算すると画像が真っ白になる 違うマスクを加算すると画像が真っ白にならない
- 22. IkaLogの画像マッチング (第二・三世代) • 第二世代 – 「前景が白」だけでは他の場面で誤認識するケースが 増えてきた – 「背景が黒」「背景が白以外」のどちらかを 指定して、条件以外のドットが多ければ False-Positiveと判 断できるように拡張 • 第三世代 – 「前景がオレンジ」「前景が黄色」などを認識したい ケースがでてきた – 前景・背景ごとにHSV色成分などを指定して、条件通り・ 条件以外のドットを検出できるように拡張 22
- 24. ＲＧＢ色空間とHSV色空間 24 RGB色空間 HSV色空間 引用元 hAps://ja.wikipedia.org/wiki/RGB hAps://ja.wikipedia.org/wiki/HSV%E8%89%B2%E7%A9%BA%E9%96%93 ©Wapcaplet ©Marc_Mongenet
- 25. 数字の認識と機械学習
- 26. 数字の認識 • ゲーム中で使われているフォントは２種類 • 認識対象になる数字フォントは１種類 • フォントが判っているのだから、認識できるはず • 試行錯誤の末、既存OCRエンジンの利用は断念 • 機械学習ベースの認識エンジンを実装 26
- 27. 既存OCRでの問題点 • Tesseract OCRを評価 – 認識率が安定しない – もともと文章を読み取るためのもの – 1∼2文字の文字、数字の認識は苦手 – 0, 8, 3 などを間違えることがある – 今後問題があったときにアルゴリズムに 対して手が出せない – Python 3.x スクリプト上から利用しづらい • 既存の文章向けOCRエンジンよりも 単純で目的に適した認識方式を検討 27 文字として 認識されないことも
- 28. kNN(K近傍法)の考え方 28 ● ● ● ● ■ ■ ■ ■ ? ▲ ▲ ▲ ▲ ? ? ? ? とてもシンプルな機械学習 標本 の傍にあるサンプルが どれかで分類する。 K=1 の場合は最寄りのサンプルが あるクラスに分類される。 K=3 の場合は近くに3つのサンプル があるクラスに分類される。
- 29. kNNによる図形マッチングのデモ(1/2) • GitHub にソースあり – https://github.com/hasegaw/opencv_knn_example/ • 三つのパターン ○ △ □ で画像を生成し、 kNNで学習する • ランダムに ○ △ □ から画像を生成し、その画像 の種類を判定する – KNN を用いてそれに近い画像を見つけ出す – 見つけた画像の種類から、答え（標本の種類）を特定 29
- 30. kNNによる図形マッチングのデモ(2/2) 30 問題図形をランダムに 生成 K近傍法を用いて、学習済みの 図形から、もっとも近い図形を調べる 仕分ける ○ △ □ ○ 学習済み図形 ○ △ □
- 31. デモ風景 31
- 32. 32 kNN による数値認識を実装後、はじめての テスト結果。１０の位は文字画像の位置ズレで 誤認識が生じているが、１の位は１００％認識 できた
- 34. 34
- 35. 死因の認識
- 36. 死因の認識 36
- 37. 死因の認識 • 「数値が認識できているから、 死因もなんとかなるだろう」 • 数字認識との共通点 – 目的の情報が白色なので二値化しやすい – 文字列の位置を特定し、切り抜きできる • 数字認識との相違点 – アニメーションにより、常にサイズが変化 37
- 39. 死因の認識（３） • 基本は数字の認識と一緒 – 1文字単位ではなく文字列を一組として処理 – 文字列は左寄せして処理（したほうがいいのかはよく判っていない） • 認識率はそれほど高くないが、認識回数で精度を確保 – IkaLogは現在毎秒10フレームほど解析している – 下記例では、死因のメッセージ合計49fを解析し、 最多頻度は96gal_deco (18f, 36%) だった → 結果的に正解 39 votes={ 'supershot': 6, 'carbon_deco': 1, 'bucketslosher': 1, 'octoshooter_replica': 1, 'splashshield': 1, 'sshooter_collabo': 5, 'hotblaster': 2, 'pablo': 1, 'nzap89': 6, 'sharp_neo': 3, 'hotblaster_custom': 2, '96gal_deco': 18, '52gal': 1, 'hokusai': 1 }
- 40. ブキの認識
- 41. スプラトゥーンのブキ • スプラトゥーンでは、５０種類を超えるブキから 好きなものを選んで利用できる • 全体的にバランスが取れているゲームだが 戦略や戦術、ブキの選択で優劣が発生する • 分析したい -> 画像認識 41
- 43. 画像判別においてのチャレンジ • ブキ画像が小さい（47x45ドット・外枠込み） • 表示条件（背景・被る画像）が変わる • 誤判定すると後の統計結果に多大な影響が出る • 一回の判定に使えるのは画像１枚のみ 43 他の装備品が被っている 保護色（まだマシ） 保護色（マジつらい）
- 46. ブキ認識の正答率があがらない • アルゴリズムの改善を繰り返して 認識率９７％台に。しかし、その先で伸び悩み – 戦績画面一回あたり、認識対象となるブキが８個登場 – 98%だと12 3ゲームに1回は認識ミスする計算 • モツ鍋を食べながらアルゴリズムの 改善方法を議論 – ラプラシアンフィルタの活用を提案される – トレーニングデータで.xxガロンの分類が間違っていたの を修正 46
- 47. ラプラシアンフィルタを用いた ブキ画像 特徴量の算出 • 新アルゴリズムを導入（@itoooon 作） • ラプラシアンフィルタを利用し、 最終的に64次元の特徴量を算出 • ブキ1000個の事前学習で11000個以上の分類（正 答率99.99%以上）を達成！ 47 入力画像 ラプラシアン フィルタ適用 グレースケール 輪郭情報 特徴量画像 （合計64ドット) @itoooon
- 50. Webcam サポート ※ ソースコードは GitHub にありますが、現在開発中の 機能であり、一般ユーザー向けには提供していません。
- 52. Webcam サポート（イメージ） 52 1) TV、ディスプレイに Webcam を向ける 2) WiiU のホーム画面を表示 3) IkaLog で Webcam を介して ワープ キャリブレーション 4) 以後 IkaLog は画面と認識した範囲に対して処理を行う デモムービー hAps://www.youtube.com/watch?v=d91xyyA-‐exA
- 56. Webcam経由の入力状況 • 「既知の画像」（WiiU ホーム画面）を 画面上に出して、キャリブレーション • 720p (1280x720) の画面を 5pxぐらいの精度で 取り込める • 白色が (255,255,255) にならないため 何らかの対策が必要 – カラーバランス、ガンマ調整 – IkaLog 内の画像検出のスレッショルド変更 • 一般ユーザに使ってもらうためには、 まだ解決すべき課題が多い 56
- 57. Webcam 対応の課題点と これまでに得られた知見 • もし、このような「変な使い方」をするときは 自動調整機能をオフにできるWebcamがオススメ – カラーバランスが固定できること – コントラストが固定できること – オートフォーカスをオフにできること • プラズマTVは明るすぎて Webcam の ダイナミックレンジが追いつかない？ EL液晶は？ • 新しめのスマートフォンのカメラも非常に優秀 57
- 58. よさそうな WebCam の一例 58 Logicool の Webcam はカラーバランス、コントラスト、フォーカスを 固定できるのでこのような用途に向いている（アキヨドで試して購入した） ただし上記の固定機能は Windows 専用。 Mac では実装されていない（怒
- 59. データの活用
- 60. IkaLog が出力するデータの複雑化（１） 60 IkaLogの当初のスコープ ・ステージ／ルール検出、勝敗（２択） ・スクリーンショット保存 追加された検出内容 ・目標（ガチホコ／ガチヤグラ）の位置検出 ・プレイヤーの死因（凶器）検出 ・時系列のスコア検出 ・プレイヤーのランク、所持金などの数値検出 ・全プレイヤーの生死ステータスのモニタリング ・ロビー（パブリック／プライベート／タッグ）検出 今後追加する（かもしれない）検出 ・コミュニケーション検出（ナイス／カモン） ・スペシャル蓄積・利用検出 ・目標に対するチームのイベント
- 61. IkaLog が出力するデータの複雑化（２） 61 {'time': 1442394550, 'result': 'win', 'rule': 'ガチホコバトル', 'event': 'GameResult', 'map': 'モズク農園'} {'rank_in_team': 2, 'weapon': 'デュアルスイーパーカスタム', 'result': 'win', 'kills': 1, 'time': 1444491154, 'cash_after': 1820744, 'players': [{'rank_in_team': 1, 'weapon': 'プライムシューター', 'kills': 2, 'deaths': 1, 'udemae_pre': 'B-', 'team': 1}, {'rank_in_team': 2, 'weapon': 'デュアルスイーパーカスタム', 'kills': 1, 'deaths': 0, 'udemae_pre': 'B', 'team': 1}, {'rank_in_team': 3, 'weapon': 'プライムシューター', 'kills': 1, 'deaths': 0, 'udemae_pre': 'C+', 'team': 1}, {'rank_in_team': 4, 'weapon': 'スプラシューターコラボ', 'kills': 1, 'deaths': 0, 'udemae_pre': 'B-', 'team': 1}, {'rank_in_team': 1, 'weapon': 'ジェットスイーパーカスタム', 'kills': 1, 'deaths': 2, 'udemae_pre': 'C', 'team': 2}, {'rank_in_team': 2, 'weapon': '3Kスコー プ', 'kills': 0, 'deaths': 1, 'udemae_pre': 'B-', 'team': 2}, {'rank_in_team': 3, 'weapon': 'プロモデラーRG', 'kills': 0, 'deaths': 1, 'udemae_pre': 'B-', 'team': 2}, {'rank_in_team': 4, 'weapon': 'ダイナモローラーテスラ', 'kills': 0, 'deaths': 1, 'udemae_pre': 'B+', 'team': 2}], 'rule': 'ガチホコバトル', 'event': 'GameResult', 'deaths': 0, 'udemae_pre': 'B', 'map': 'アロワナモール', 'team': 1} GitHub イニシャルカット時の IkaLog が出力した戦績ログ (JSON) 最近の IkaLog が吐く戦績ログ (JSON) ※本当はもっと色々出せる → 情報量の増加に伴い分析基盤の構築が必要
- 62. stat.ink (戦績SNS) • IkaLogユーザのひとり @fetus_hina さんが 開発、運営する Web サイト • IkaLog からのプレイデータを受け取り、表 示・集計する 62
- 63. 63
- 64. 64
- 66. IkaLog + stat.ink のDAU、処理ゲーム数 0" 5" 10" 15" 20" 25" 30" 0" 100" 200" 300" 400" 500" 600" 700" 9/27/15" 9/29/15" 10/1/15" 10/3/15" 10/5/15" 10/7/15" 10/9/15" 10/11/15" 10/13/15" 10/15/15" 66 データソース hAps://twiAer.com/fetus_hina/status/654681918131142657
- 67. まとめ
- 68. まとめ 68 画像処理のノウハウ • OpenCV 3.0で高速に マスク処理、スコア算出 • スプラトゥーンの画面は 検出しやすい （ほぼ位置固定・白色文字） 機械学習すごい • K近傍法は簡単に使える • 特徴量の計算方法が ポイントになる そのほか • 情報の見える化、大事 • 一人では全部できない • スプラトゥーン楽しい