tanaka's Programming Memo

プログラミングについてのメモ。

ML-Agents Beta 0.6.0のリリースノート

Unityで手軽に強化学習などのAIを使うことができるML-Agentsの0.6.0が出てました。

github.com

Releaseページ

とりあえずリリースページにあった内容をざっくりと。

重要

BrainがMonoBehaviourからScriptableObjectに変更されました。これにより、Brainをプレハブに設定して、同じBrainをマルチシーンで使えるようになりました。詳しくはml-agents/Migrating.md at 0.6.0 · Unity-Technologies/ml-agents · GitHubを参照してください。

  • InternalExternalBrain Typeが、LearningBrainアセットによって置き換えられました
  • Heuristic Brainタイプが、HueristicBrainアセットに置き換えられました
  • Player Brainタイプが、PlayerBrainアセットに置き換えられました
  • Brainは、AcademyコンポーネントBroadcast Hubを通して、Pythonのトレーニングプロセスから参照されるようになりました

新機能

  • [Unity] Demonstration Recorder. Unityエディターから、Agentの行動や観測内容を記録することができるようになりました。記録したデータを使って、Agentを後でトレーニングすることができます。記録したトレーニングデータを使うことで、複数のトレーニングセッションでトレーニングすることができるようになりました
  • [Communication] Windowsマシン上のprotobuf-definitions内のprotobufオブジェクトを生成するためのmake_for_win.batが追加されました
  • LearningBrainに、モデルとBrainのパラメーターが一致していなかったときに警告するデバッグメッセージを追加しました

変更点

  • 学習済みモデル(trained model)からGraph Scopeが削除されました。同じセッション内で複数のBrainがトレーニングされる際、複数のGraph Scopeを1つのGraphにまとめるのではなく、Brainごとに1つのGraphが生成されるようになりました

既知の不具合

  • Windowsでは、[Ctrl]+[C}キーでトレーニングを終了した時にモデルが保存されません

まとめ

Brainタイプが変更になったので、0.5.0のプロジェクトを利用する場合は、Agentの再設定が必要なようです。ScriptableObjectにBrainの設定をするようになるので、再利用が楽になりそうです。年末年始にエアホッケーのトレーニングに手をつけようと思ってましたが、0.6.0でやってみようと思います。

参考URL