AIアプリケーションと関連データの保護

人工知能（AI）と機械学習（ML）は、デジタル社会の発展に伴い、主要なシステムやデバイス、重要なアプリケーションなどに浸透しつつあります。活躍分野は、音声認識、マルウェア検出、品質テストから、運転支援システムや医療診断をはじめとした人の命に直接関わるアプリケーションに至るまでさまざまです。

AIや機械学習で起こりうる脅威

AI搭載のアプリケーションへの意図的な攻撃はもちろん、単純な不具合や人為的なミスであっても、生死に関わるような事態を引き起こす可能性があります。特に医療分野では、AIの間違った認識が、誤った診断、さらには誤った治療につながる恐れがあります。加えて、機密性と患者の匿名性が重視される診療データが、AIの精度を上げるうえで重要な訓練データの一つとなります。しかし、このデータには、CT/MRTスキャン結果、あるいは各患者の病歴に関する情報が含まれる場合が多く、適切に扱わなければ、患者に不利益がもたらされるリスクがあります。

また産業分野では、攻撃者が機械学習の訓練データに細工を施すことも考えられます。一見無害に見える加工（例：個々のピクセルの色を変える）であっても、多大な影響を及ぼす可能性があります。そしてそれらは、人間には到底発見できない状態で、学習済みモデルに反映されてしまう危険性を秘めています。同様にして、攻撃者は、訓練データの前処理、パラメーター、あるいは学習済みモデルを改ざんし、システムに誤りを生じさせ、間違った出力結果が出るよう細工をするかもしれません。

機械学習ライフサイクルの保護

機械学習ライフサイクルの攻撃領域は広いため、不正操作からの保護は非常に重要となります。特に、データやアルゴリズムが不正に操作されると、悲惨な結果を招く恐れがあります。さらに、コンポーネントの内部構造などが訓練データから漏れる可能性も否定できず、機密データや知的財産（IP）の保護も不可欠です。またIPには、AIアプリケーション自体や、訓練に用いるパラメーターの有用性を示す基礎データも含まれる場合があります。

CodeMeter Protection Suite

CodeMeter Protection Suiteは、AIやMLアプリケーションに関連する実行可能ファイルとデータの両方を守る、高性能なツールキットです。従来の「隠蔽によるセキュリティ（Security by Obsecurity）」メカニズムとは異なる方法で、改ざんやリバースエンジニアリングから実行可能ファイルを保護します。また、この実行可能ファイルや機密性の高い関数は、既存の暗号化アルゴリズムを用いて暗号化されます。さらに、ソフトウェアとデータの整合性保護にも、暗号化手法が活躍します。もちろん実行時には、関数やデータは復号されます。また、機密性の高いコードの復号と実行、セキュアなハードウェアへの鍵や証明書の安全な転送・保管も可能です。これにより、鍵の安全性だけでなく、鍵や証明書における不正操作の防止も期待できます。

AxProtector Python

オープンソースのフレームワークが利用できることや、Python言語の人気の高さから、AIアプリケーションでのPython利用率は高い傾向にあります。こうした傾向に対応したAxProtector Pythonでは、学習に使用されるフレームワークのコードと、機械学習ライフサイクルで使用されるデータの両方を、不正操作、IPの盗用から保護します。

関連情報