• 會員中心
  • 訂閱管理
  • 常見問題
  • 登出

資安院:AI系統檢測機制 擬今年底出爐

本文共530字

聯合報 記者馬瑞璿/台北即時報導

生成式AI系統蓬勃發展,但生成式AI系統訓練機制的正確性、可信任性、資安風險仍有待觀察;資安院院長何全德今(29)日指出,資安院將研擬AI系統檢測機制,規劃今年底出爐。

紅遍全球的ChatGPT,就屬於生成式AI。所謂的生成式AI,是將各式資料數據輸入系統後,讓系統自主進行學習,並在學習過後,重新產生出全新內容。

ChatGPT的學習模式,就是透過大量自然語言文本數據進行訓練,這些數據來自互聯網、社交媒體、新聞等各個領域;但也因為數據來自各個領域,不見得每個數據都具備正確性,這也會影響ChatGPT的學習,ChatGPT有時甚至會給出錯誤答案。

這也是社會各界對於生成式AI的正確性、可信任性、資安風險仍抱持疑慮的主因。

為了解AI技術是否值得信任,資安院也打算擬定AI系統檢測機制;何全德指出,美國國家標準技術研究院(NIST)先前已發布AI風險管理框架,內容包含將可信賴等因素納入AI產品、服務和系統的設計、開發等,未來,資安院會依國科會發布的人工智慧科研發展指引,搭配NIST AI風險管理框架,擬定AI系統檢測機制,作為未來技術發展基石。

何全德表示,資安院會先將AI檢測機制標準、制度建立起來,未來,政府各單位是否要運用這套標準,則由各主管機關再做研議。

資通安全研究院長何全德。記者黃義書/攝影
資通安全研究院長何全德。記者黃義書/攝影

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

延伸閱讀

上一篇
桃機充分利用回收再生水 年省百萬水費
下一篇
5G專網上路 三招鼓勵申請

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!