財團法人資訊工業策進會/中華民國112年07月
引水人的領航
人工智慧（Artificial Intelligence, AI）是指模擬人類認知能力的電腦計算技術，它已經改變了商
業運作與人力需求方式，預期將更深層的影響產業的發展與競爭力移轉。而生成式 AI（Generative
AI）隨著 AI 及運算技術成熟，也帶動 AI 生成內容（AI Generated Content, AIGC）熱潮。由於
ChatGPT 一夕之間成為大眾生活及工作的必備工具，生成式 AI 儼然即將成為下一世代經濟發展的
通用技術（General Technology）之一，無法掌握發展趨勢者恐將失去市場競爭力。
放眼未來，大型語言模型（Large Language Model, LLM）將形成各式應用：1. 現有工具的使用
方式將產生重大變化，並且將創造許多過去無法執行的專門任務。2. 未來 2-3 年內，幾乎所有白領
（主管或基層等）工作都會受到某種程度的影響或重整。3. 惟各地政府法規或監管制度仍然會依國
情、地域差異，限制或造成實際導入的時間差。因此，正視其帶來的機會與挑戰，將是企業發展必
須掌握的關鍵。
生成式 AI 除了正面的影響，也帶來負面的衝擊，例如：為了讓 AI 學習，不小心洩漏組織的機敏資料；
濫用智慧財產權；取代現有人力；道德限制能力弱，AI 可能混淆對於事實的正確認知等。這也是組
織在應用 AI 時，必須先有的認知。
本生成式 AI 導入指引希望能幫助高階經理人與重要決策者：1. 了解 AI 對他們的組織影響，2. 如何
建構組織 AI 能力。除了解發展 AI 時應考慮的事項，亦為其在應用範圍內的使用奠定基礎。
本指引透過資策會兩院四所及幕僚部門進行共創，就生成式 AI：技術和產業發展趨勢、導入與評估、
風險管理及相關資源進行解析，期望能幫助一般企業及公協會組織，從基礎了解到布建運用時應注
意事項，降低應用生成式 AI 進入門檻。
在構建此指引之時，我們也體會到產業變動快速，如果想要依循過去做事方法，寫一本完整並完美
的指引手冊，並不切實際；故決定先以最快的速度，先提出基礎的指引，歡迎各界給予指教，團隊
會持續修訂；後續並將擴增職務（如：產業分析、技術研發等）與領域（如：智慧醫材）等相關應
用內容，進行 AI 信任治理案例分享，協助企業與相關組織發展並善用此一技術，最終達成可信任 AI
（Trustable AI）境界。
第壹章 生成式 AI 發展趨勢
第一節 基本定義與技術潛力
生成式 AI（Generative AI）是 AI 技術的其中一項分支，讓機器學習模型研究歷史資料，除既有決
策式 AI 的歸納與辨識功能外，生成式 AI 能進一步具備創造全新內容的能力，常見的技術包含生成
對抗網路（Generative Adversarial Network, GAN）與 Transformer 模型等。
ChatGPT 即 是 基 於 Transformer 模 型 所 訓 練 出 的 大 型 語 言 模 型（Large Language Model,
LLM），OpenAI 使用大量文本資料預先訓練模型，使模型能夠學習自然語言的結構和規律，從而
生成高品質、流暢的自然語言文本。再加上微調後，可進一步提高 ChatGPT 生成文本的準確度和
流暢度。
生成式 AI 的應用領域隨技術發展推進逐漸廣泛，主要包含文本、程式碼、圖像、及影片 /3D/ 遊戲
等內容領域。根據紅杉資本預測，生成式 AI 在文本與程式碼兩大領域之技術發展最為快速，預計至
2030 年將達到成熟應用，不論文章或程式的生成品質均高於專家平均值。
第二節 產業應用機會
一、健康醫療
二、數位內容
三、生產製造
四、金融稅務
五、學術教育
第三節 生成式 AI 導入案例
生成式 AI 新興應用案例以智慧工廠為例，導入生成式 AI 可實際應用於三大場景，（一）對話式決 策平台：透過生成式 AI 分析機台數據並提出改善觀點；（二）對話式問答平台：輔助工程師依部門 回答日常工作的疑問；（三）差異分析：在半小時內快速釐清影響良率的關鍵因子。上述三大場景 都能透過生成式 AI 協助企業優化營運策略並提升產品品質，加速工廠數位轉型。
第貳章 生成式 AI 導入與評估
第一節 整體分析
導入生成式 AI 可望提升業務效能，例如為客戶服務中心提供智慧回
答，或創作有深度與個人化的文章。然而，其引入不應忽視評估步
驟。從效益角度，需要評估 AI 是否提升工作效率，是否能解決
具體問題，或是否增進決策品質。同時，也需瞭解其可能帶來的
風險，如資訊安全與隱私權問題。
此外，AI 道德與倫理亦是重要考量。AI 的決策透明度和可解釋性需要被仔細
審視，避免偏見的發生。整體而言，生成式 AI 的導入與評估需要涵蓋多面向因素，包括技術效能、
成本效益、風險管理，以及道德倫理等。在理解其強大能力的同時，我們也應謹慎對待其可能的衝
擊。以下從導入策略、導入評估及自我查核三個面向進行說明。
第二節 策略思考
生成式 AI 為企業提供了創新和優化營運的絕佳機會。然而也帶來各方面的威脅與挑戰，如何降低導
入這些技術的複雜度對於確保企業的未來發展至關重要。儘管面臨導入的高度挑戰，仍然可透過正
確的專業知識和導入策略來克服，可以從以下幾個策略面向進行思考 :
一、組織面
明確定義組織的策略目標、優先事項和生成式 AI 所需的資源分配。組織戰略應包括 AI 如何在組織
內推動價值和創新的清晰願景，以及實現特定里程碑的發展路徑圖。定期審查和更新策略，以確保
其與不斷變化的業務目標和技術進步保持一致。
二、技術面
技術面，在選擇生成式 AI 的模型時，需謹慎考慮實際應用的需求，並針對 GPT、BERT、
Transformer 等模型不同特性，評估其性能、可延展性和適用性。此外，數據量是否充足、資料品
質是否可靠，均會影響到模型訓練的結果。在訓練時，需避免過度精緻和優化，保持生成能力與準
確性的平衡。另外也需關注安全與隱私風險，確保符合道德法律標準。在部署時需考慮導入流程和
使用過程的監控，並持續測試改進。最後，用戶反饋至關重要，應建立反饋機制並持續優化。綜合
考慮上述這些技術構面，組織才能有效導入，實現更好的結果。
三、資料面
資料面，全面的資料治理框架對於確保資料隱私、安全性和合規性以及解決 AI 輸出中的偏見和公平
問題至關重要。組織應該針對資料的生命週期進行管理，包含資料取得、儲存和使用的過程，並建
立查核和監控的機制，以識別和減少潛在的偏見。
四、人才面
建立能夠推動創新和克服實施挑戰的熟練 AI 團隊。制定吸引頂尖人才的策略，例如提供具競爭力的
薪酬方案、持續培訓的機會以及營造支持性的工作環境。透過促進職業發展並提供組織內的成長和
晉昇機會來留住有價值的員工。鼓勵跨職能協作和資訊共享，以推動生成式 AI 的創
新。為團隊成員建立有效溝通和合作的流程和平台，並通過認可和獎
勵創造性解決問題和創新思維來促進持續改進的文化。
五、管理面
在應用生成式 AI 技術時，管理為不可或缺的環節。管理面需要注意的是如何實施與監控這些策略及
措施以確保應用生成式 AI 的效果或風險是在可控制的範圍中。包括對整體 AI 計畫的管理制度、里
程碑、預期成果，以及應對可能問題的策略。內部及外部溝通，以及因應法規變遷和技術演進的彈
性調整，並為了確保 AI 系統的安全性和正確性，定期的系統審核和風險評估皆不可或缺。
六、政策面
積極參與制定生成式 AI 政策，分享發展經驗和策略思維，並制定負責任的 AI 法規和行業標準，並
跟監管機構、行業組織和其他利害關係人合作，幫助制定支持 AI 創新的政策，同時解決道德問
題和對社會的影響。同時，對內外進行透明的溝通，例如與監管機構和其他利害關係人進
行公開溝通，建立對使用 AI 的信任，並展示生成式 AI 技術的好處，分享 AI 計劃、成功案
例和挑戰，展示致力於 AI 實踐的精神。
第三節 導入評估
企業內部導入生成式 AI 的大部分場景，來自於從既有資訊系統嵌入生成式 AI 的應用。以企業內部流程為例，電子郵件系統可提供撰寫資訊的素材。生產力應用程式可根據初稿進行加值與優化。財務軟體則將生成財務報告中的特徵進行描述。客戶關係管理系統則可據此提供與客戶互動的方式建議。這些功能都可提高企業知識工作者的生產力，此外，不同產業都可透過生成式 AI 來重塑組織內部的工作流程。
在導入時，可以根據所需資源的專案到資源密集型的專案依序切入。相關評估構面說明如下：
一、導入方式
依使用情境，選擇合適的導入方式，包含因應特定業務購買軟體工具或串接外部模型至內部系統， 以及因應產業複雜性與專業性，可以選擇微調既有開源模型或自行訓練模型。
二、成本費用
依使用的軟體工具、串接外部模型、微調既有模型、自行訓練模型等面向進行思考。使用軟體工具需支付固定訂閱費用；串接外部模型需投入前期開發使用者介面費用與後期模型維護費用與人力； 微調既有模型需人力清理、標註資料以及投入模型維護與運算的費用；自行訓練模型則更多人力、資金投入建設基礎架構與模型開發。
三、技術準備度
在模型選擇方面，選擇適合組織需求的生成式AI 模型至關重要。不同的模型具有不同的能力和特性， 如 GPT、BERT、Transformer 等。評估模型的性能、可擴展性和適用性，以確保其能夠滿足組織的需求。
四、資料準備度
使用既有模型或自行訓練模型時，需要準備專用資料。調整既有模型需要蒐集、清理、標註內部資 料，建立內部資料集，用來客製化訓練，讓模型符合組織需求；自行訓練模型，除了準備內部資料外， 也需要準備大量公開資料進行模型訓練。
五、監控方式
需要人員進行模型生成結果正確性與合適性的檢查；串接外部模型需要存取指令（Prompts）與結 果並設定保護機制；調整既有模型需要分類問題並定期檢查模型安全性；自行訓練模型除了需要檢 查正確性、安全性、合適性外，還需要特別注意使用公開資料的智慧財產權問題，避免違反法規規範。
六、監管要求
針對數據的隱私和安全問題，以及道德和倫理的問題，很多國家和地區，包括歐盟、美國、中國大陸和 OECD 等，都已經設定了 AI 倫理準則。雖然現在還沒有官方版本的 AI 倫理準則，但是 相關的法規已經開始出現，導入時應密切注意相關法規的最新發展。
第參章 生成式 AI 風險管理
第一節 生成式 AI 風險管理項目
生成式 AI 擁有強大的應用性，然而，我們必須對這項技術所帶來的潛在風險保持警惕。舉例來說，生成式 AI 的濫用可能導致虛假資訊、惡意內容或冒充他人等問題出現。其次，生成式 AI 可能對個人隱私和安全構成威脅。此外，生成式 AI 的演算法也可能受到有意或無意的偏見影響，導致產生不公平和歧視性的結果。除了上 述風險，以下是在應用生成式 AI 時常見需要注意和規避的風險管理項目。
一、公平性
AI 服務需要確保不因種族、性別、年齡、宗教、性取向等因素而產生不公平或偏見，必須建立公正的機制，以減少或消除偏見可能性。此外，在產業應用中，需要謹慎處理資料以確保公平性。例如： 確保提供訓練資料給生成式 AI 的人在符合一定條件下能夠取得資料；或者平衡控制資料提供者的影響力與市場力量，確保資料的使用具有公平性。
二、隱私性
AI 服務需要確保使用者資料的隱私與安全，這意味著應該採取適當的安全措施，以保護使用者資料不被未經授權的人員存取、竊取或濫用。此外，企業在運用或發展生成式 AI 時，需在有效保護資料的前提下，明確以下事項， 被應用於 AI 模型訓練的資料：確定哪些資料在被有效保護的情況下可以
應用於 AI 模型的訓練。資料使用的授權範圍：明確員工的授權層級， 限制能夠使用這些資料的人員，以確保資料的安全性和隱私保護。隱 私提升技術（PETs）的應用：考慮運用隱私提升技術，如資料加密、 匿名化和安全協議等，來增強資料的安全性和隱私保護。進一步探討和解決上述課題是十分重要的。
三、安全性
對於意圖不良者可能利用生成式AI 來加速網路言論的攻擊。同時，AI 系統也可能面臨防止駭客入侵、保護資料隱私、防範對抗式攻擊以及檢測和阻止惡意輸出等攻擊。因此，企業應該實施新的安全措 施，包括身份驗證、加密、漏洞修補和監控，以確保 AI 系統的完整性、可靠性和可信度。定期進行安全測試、培訓人員意識、制定政策和遵守合規要求也是確保 AI 安全的重要環節。只有這樣，企業在引入 AI 應用時才能確保 AI 系統的基礎安全性。
四、智慧財產權（IP）確認和授權
利用生成式 AI 所產生的內容、圖片、影像、聲音，甚至是軟體程式，其智慧財產權的歸屬是一個待解的議題。若公司員工在使用生成式 AI 軟體時，將運算結果納入其工作成果，例如公開的報告或文章，是否有可能侵害他人的智慧財產權，進而導致公司捲入相關的法律訴訟？因此，企業在訓練生 成式 AI 模型時使用的資料，以及模型輸出的成品，都可能帶來重大的智慧財產權風險，包括侵犯著作權、 商標、專利或其他受法律保障的素材。即使使用供應商所提供的生成式 AI 工具或應用，企業仍需充分了解該公司對於訓練資料和生成的成品上的智慧財產權限制。
五、可解釋性
AI 服務需要提供透明的解釋，讓使用者了解 AI 如何作出決策，並且需要提供可解釋性，以讓使用者能夠理解 AI 生成的結果。在這波生成式 AI 趨勢下，生成式 AI 倚賴 LLM (Large Language Model) 進行內容生成和應用。然而，由於LLM 具備數十億參數的神經網絡規模，解釋生成式AI 提供的答案或內容成為引入生成式 AI 的重要挑戰。
六、準確性與可靠性
生成式 AI 是一種能夠自我學習並生成新內容的 AI 技術。透過訓練和學習各種資料內容，它能夠產生新的、以前未見過的結果。然而，由於生成式 AI 本身的複雜性和創新能力，對於相同的指令或提示，可能產生不同的答案，這使得企業難以準確評估生成式 AI 的輸出結果的準確性和可靠性。
因此，AI服務需要確保生成的結果是準確且可靠的。為了確保這一點，在建立AI 服務時需要特別注意資料、資料偏見的問題，避免 AI 學習到不準確或不一致的回應。此外，需要設計並實施有效的監控機制， 以確保 AI 在運行時的可靠性。這包括定期審核 AI 的輸出，並對 AI 的錯誤進行調查和分析。通過監控和調整，我們能夠及時發現並修正 AI 的問題，從而提高其可靠性。
基於 ESG 對整個產業的趨勢影響，在環境方面，生成式 AI 在運算時需要大量資源。因此，在應用生成式 AI 時，企業需要注意能源使用效率，並尋找更環保的運算方式，例如使用潔淨能源的資料中心。在社會方面，生成式 AI 的使用對現有工作人員的職能帶來新的挑戰。因此，組織需要重新檢視現有工作職能，重新探討職能的範疇和內容，並提供新的培訓和培育，以幫助員工適應生成式 AI 所帶來的新挑戰。
在治理方面，生成式 AI 能夠自動生成不同的內容和推論。因此，當組織應用生成式 AI 時，可以重新梳理現有工作流程，優化或重新設計工作流程，以充分利用生成式 AI 的能力提升企業效率。此外， 更重要的是，企業應建立相應的政策和監管機制，以確保 AI 的使用符合法規和道德標準，並尊重資料隱私。
