根據(jù)NUS的說法，這些模型容易受到推理攻擊，使黑客可以提取有關(guān)訓練數(shù)據(jù)的敏感信息。

已開發(fā)出一種稱為“機器學習隱私權(quán)計量器”的新開源工具，以幫助檢測基于人工智能(AI)的系統(tǒng)中的數(shù)據(jù)漏洞，并防止它們受到可能的攻擊。

新加坡國立大學(NUS)的一組研究人員開發(fā)了該工具以及通用攻擊公式，該公式為測試AI系統(tǒng)中不同類型的推理攻擊提供了框架。

“在使用敏感數(shù)據(jù)構(gòu)建AI系統(tǒng)時，組織應確保在此類系統(tǒng)中處理的數(shù)據(jù)得到充分保護。我們的工具可以幫助組織在部署AI系統(tǒng)之前執(zhí)行內(nèi)部隱私風險分析或?qū)徍耍?rdquo; NUS助理教授Reza Shokri在一份新聞稿中說。

在包括敏感信息的數(shù)據(jù)集上訓練了各種服務中使用的AI模型。根據(jù)NUS的說法，這些模型容易受到推理攻擊，使黑客可以提取有關(guān)訓練數(shù)據(jù)的敏感信息。