在電腦科技領域中，很少有領域能像人工智慧 (AI) 和機器學習 (ML) 那樣受到重視。這一學科處於電腦科學與數據分析的交叉點，已成為行動應用、語音助理、詐欺交易偵測、影像辨識、自動駕駛，甚至醫療診斷不可或缺的一部分。

由於機器學習模型需要投入大量的時間和財務資源，並且它在許多行業中變得越來越普遍，因此駭客攻擊和知識產權竊取的問題非常嚴重。如果您是使用 ML 模型作為軟體產品一部分的廠商，您需要格外小心保護ML 模型不受到攻擊。

漏洞 - 模型被盜

如果您使用機器學習(ML)模型的應用程式部署在客戶有控制權的地方，您的ML模型可能有多種方式被竊取或在沒有正式授權的情況下被使用。其中一種攻擊是典型的軟體複製攻擊。在這種情況下，真正的風險不只是複製，而是在沒有授權的情況下執行該軟體的能力。如果沒有針對未授權使用的防護措施，就無法阻止對手執行未經授權的應用程式複本。

第二種更不易察覺的竊取是從您的應用程式中擷取您的ML 模型，以供駭客的應用程式使用。如果這是直接競爭對手的應用程式，可能會造成重大的收入損失。對使用機器學習的行動應用程式進行的大規模分析顯示，ML 模型的重複使用率很高，證明對 ML 模型選取的防護不足。


解決方案

為了避免這種情況發生，建議您使用強大的授權平台，以防止模型被竊取，並確保您和您的客戶都能享有充分的靈活性。

2021年，中國約三分之二的熱門應用程式使用了機器學習，並受到了防止複製的保護。 (Mind Your Weight(s)：關於行動應用程式中機器學習模型保護不足的大規模研究| USENIX) 。

開放式 Web 應用程式安全專案 (OWASP) 將模型竊取列為機器模型的十大攻擊 (Open Web Application Security Project (OWASP), 2023) 。

應用案例：工業自動化

電腦視覺是一個很好的案例，說明為您的 ML 模型提供精心策劃的廣泛數據集是非常必要的。電腦視覺安裝在機器人中，用於在車間導航時識別障礙物，或安裝到拾取機(P&P)，以識別PCB組裝過程中位置不正確的組件。如果無法嚴格控制對模型的存取及調整，就有可能讓競爭對手竊取和複製模型。

然後，他們可以根據自己的特定需求進行微調，並將其無縫整合到自己的應用程式中。透過逆向工程辨識模型的結構越準確，就越能隱藏其來源。因此，他們不僅會趕上您提供的認可品質，而且證實知識產權轉用的主張也將變得極具挑戰性。


三十年來，Thales 一直是企業公司尋找合作夥伴及平台來保障軟體安全及獲利的首選。依靠我們的專業知識和 Sentinel 解決方案，您可以安心自由的創新。


參考來源 : https://cpl.thalesgroup.com/blog/software-monetization/how-to-protect-your-machine-learning-models


Sentinel資訊安全保護鎖系列，歡迎您申請試用
https://www.pronew.com.tw/application_suite.php

正新電腦 http://www.pronew.com.tw/ 04-24738309