數位部年底成立AI評測中心 確保AI安全性 鼓勵產業導入應用

2023/06/09

生成式AI(人工智慧)有助提高生產力,但許多企業仍在觀望,擔憂資安和可靠性;為確保AI使用安全、進一步鼓勵產業導入應用,數位發展部轄下的國家資通安全研究院,規劃在年底成立AI評測中心,可測試包含台版對話引擎TAIDE在內的模型。

(1)建立評測環境 測試TAIDE

數位部官員透露,AI評測中心是資安院下的技術單位,將建立評測環境,支援TAIDE模型的應用評測,並推動產業導入、促成示範應用;也會針對準確性、可靠性、公平性、可解釋性及安全性等面向,進行模型評測與驗證,初期選定生成式AI做測試。

(2)通過驗證 確認模型可靠性

官員說明,業者可以把自己開發的模型送測,但「不強制」所有AI模型都要來做驗測;以「節電標章」比喻,家電產品沒有節電標章也能賣,但有標章就能證明這款家電確實達到節電的效能;同樣地,AI模型並不是要評測完才能使用,但通過驗證即代表該模型的可靠性、安全性等面向,確實達到政府要求的基礎水準。

資料來源:https://ec.ltn.com.tw/article/paper/1587490

Related posts