在發(fā)布旨在避免潛在的AI起義的新保護措施后,任何擔心機器如天網般崛起的威脅的人都可以稍稍放松一下。
非營利組織MITER Corporation與12家頂尖技術公司(包括Microsoft,IBM和Nvidia等)合作推出了Adversarial ML Threat Matrix。
該組織表示,該系統(tǒng)是一個開放框架,旨在幫助安全分析人員發(fā)現(xiàn),警告,響應和應對針對機器學習(ML)系統(tǒng)的威脅。
ML矩陣
微軟表示,發(fā)布該版本的動機是,全球范圍內針對商業(yè)ML系統(tǒng)的攻擊數量持續(xù)增長。該公司對28家主要企業(yè)進行了調查,發(fā)現(xiàn)幾乎所有企業(yè)仍未意識到對抗性機器學習可能構成的威脅,其中28家企業(yè)中有25家表示他們沒有合適的工具來確保自己的安全ML系統(tǒng)。
為了幫助確保此類組織的安全并提供建議,“對抗性ML威脅矩陣”旨在幫助安全團隊增強防御ML系統(tǒng)的攻擊的能力。
Matrix包含了Microsoft和MITER多年來發(fā)現(xiàn)的許多過去的漏洞和對手行為,以及Microsoft在安全領域的大量專業(yè)知識。
微軟在博客中說:“我們還發(fā)現(xiàn),在攻擊機器學習系統(tǒng)時,攻擊者將網絡釣魚和橫向移動等“傳統(tǒng)技術”與對抗性機器學習技術結合使用。”
Adversarial ML威脅矩陣GitHub存儲庫現(xiàn)已開放,供有興趣了解更多信息的企業(yè)使用。
“在機器學習安全方面,公共和私人努力與責任之間的障礙正在模糊;諸如國家安全之類的公共部門挑戰(zhàn)將需要私人行為者以及公共投資之間的合作! MITRE機器學習研究總監(jiān)Mikel Rodriguez指出。
“因此,為了幫助應對這些挑戰(zhàn),MITRE致力于與Microsoft等組織和更廣泛的社區(qū)合作,確定整個機器學習供應鏈中的關鍵漏洞。此框架是幫助將社區(qū)團結在一起的第一步使組織能夠從整體上考慮在保護機器學習系統(tǒng)方面出現(xiàn)的挑戰(zhàn)!