AMI Systemの非同期処理基礎知識

※以下文章はスライド資料を元に自動生成されたものです。

発表内容のハイライト

GesonAnkoさんの発表では、AMI Systemにおける非同期処理の基礎知識について解説されました。特に、スレッドの利用による並列処理や、メモリ安全性、排他制御といった、非同期処理特有の課題と、それらへの対処方法について詳しく説明がありました。また、AMI Systemにおけるスレッドの設計や、共有オブジェクトの管理方法についても触れられていました。

非同期処理とは？そのメリットとデメリット

非同期処理とは、あるタスクを実行中に、別のタスクを同時に行う処理のことです。例えば、UIを表示しながら、裏でデータの処理を行うといった場面で利用されます。

非同期処理のメリット

• マシンパワーを最大限に活用できる
• UIなど、常に動いていてほしい処理と、バックグラウンド処理を同時に行うことができる

非同期処理のデメリット

• プログラムが複雑になり、全体を把握しづらくなる
• デバッグが難しくなる場合がある（処理のタイミングが重要になるため）
• メモリ安全性に関する問題が発生する可能性がある

メモリ安全性と排他制御：非同期処理における落とし穴

複数のスレッドが同じメモリ領域に同時にアクセスすると、データが壊れてしまう可能性があります。これを防ぐために、排他制御が必要になります。

排他制御とは？

複数のスレッドが同時に同じメモリ領域にアクセスすることを防ぐ仕組みです。

Lock：排他制御の基本

Lockは、スレッドがメモリ領域にアクセスする前に、その領域をロックする仕組みです。ロックを獲得したスレッドだけが、そのメモリ領域にアクセスできます。他のスレッドは、ロックが解除されるまで待つ必要があります。

その他の排他制御手法

• Condition
• Event
• Barrier
• Semaphore

書き込み可能権限と読み取り専用オブジェクト：安全なデータ共有

複数のスレッドで共有するオブジェクトに対して、書き込み権限を適切に管理することが重要です。

書き込み可能権限

• オブジェクトは、一度に1つのスレッドだけが書き込み可能にする
• 他のスレッドは読み取り専用

読み取り専用オブジェクト

• 書き込み可能なスレッドが生成し、他のスレッドに共有する
• 権限を移動することもできる（QueueやPipeなど）

Pythonで非同期処理を行う

Pythonでは、threadingモジュールを利用して非同期処理を行うことができます。

threadingモジュール

• target引数に関数を指定
• args引数に引数を指定
• startメソッドでスレッドを開始

Global Interpreter Lock（GIL）

• Pythonでは、GILによって、本当に同時に動作するスレッドは1つのみ
• CPU負荷の高い処理には向かない

AMI Systemにおける非同期処理

GesonAnkoさんは、AMI Systemにおいて、非同期処理をどのように実装しているのかを紹介しました。

スレッドの種類

• Mainスレッド：システム制御、WebAPI
• Inferenceスレッド：VRChatとのやり取り
• Trainingスレッド：深層モデルの学習

共有オブジェクト

• システムコントロール
• 深層モデル
• 経験バッファ

深層モデルの共有

• 学習用モデル（書き込み可能）と推論用モデル（読み取り専用）を共有
• 学習が完了したら、パラメータを推論用モデルに同期

経験バッファの共有

• Inferenceスレッドがバッファにデータを貯める
• Trainingスレッドがバッファを奪い取る

まとめ

AMI Systemのような複雑なシステムでは、非同期処理は欠かせません。しかし、メモリ安全性や排他制御といった課題に対処する必要があります。GesonAnkoさんの発表では、これらの課題に対する解決策を、具体的な例を交えて解説してくれました。

非同期処理を理解することで、より効率的で、複雑な処理に対応できるシステムを構築することができます。今回の発表を参考に、ぜひ皆さんのシステムにも非同期処理を取り入れてみてください！

スライド資料

ML集会の他の発表もチェック！