Google 擴展其縫隙獎勵計劃以增強生成式人工智能體系的安全性 |
發布時間:2023-11-01 文章來源:本站 瀏覽次數:1996 |
Google擴展了其漏洞獎勵計劃(VRP),以獎勵研究人員尋找針對生成式人工智能(AI)系統的攻擊方案,以增強AI的安全性。 Google表示,生成式AI帶來了與傳統數字安全不同的新問題,需要采取新措施進行應對。為此,Google成立了AI紅隊,還宣布加強AI供應鏈安全,并為使用其AI產品的用戶提供法律保護。同時,Google還與其他公司和研究機構合作,共同應對生成式AI的安全挑戰。 擴展的VRP將包括針對生成式AI系統的漏洞獎勵,這意味著研究人員可以獲得更高的獎勵,如果他們能夠發現針對這些系統的安全漏洞。這是為了鼓勵更多的研究人員參與到尋找和修復生成式AI系統安全漏洞的工作中來,從而增強AI的安全性。 此外,Google還提供了更多的信息和資源,以幫助研究人員更好地理解和應對生成式AI的安全挑戰。這包括提供更多的示例代碼和工具,以及舉辦線上研討會和培訓課程,以幫助研究人員更好地了解和應對生成式AI的安全問題。 總的來說,Google擴展其VRP是為了鼓勵更多的研究人員參與到尋找和修復生成式AI系統安全漏洞的工作中來,從而增強AI的安全性。同時,Google還提供了更多的信息和資源,以幫助研究人員更好地理解和應對生成式AI的安全挑戰。 |