人工智慧 (AI) on 資安見聞錄

[分享] 從零開始讀 ISO 42001：3 層知識地圖與 5 階段學習路徑

Wed, 29 Jul 2026 15:40:11 +0000

最近發現無論是由組織指派，或是自己主動報名來參加 ISO 42001 主導稽核員課程的學員，課前完全沒有接觸過任何 ISO 標準的並不少，他們最常提出的問題就是「我是一個 ISO 標準新手，我該如何學習 ISO 42001 標準？」

ISO/IEC 42001:2023（以下簡稱 ISO 42001）是全球第一個可稽核驗證的人工智慧管理系統標準，但 AI 管理並不是一個容易掌握的專業技能，因為它橫跨了管理系統、風險管理與 AI 技術這 3 個知識領域，學習之前需要先具備一些基礎知識。因此，我準備了一份知識地圖和學習路徑，希望可以為有意學習人工智慧管理系統標準的夥伴，指出一個容易前進的方向。

圖1　學習 ISO 42001 前需要補齊的 3 層基礎知識

第一層 — 管理系統核心概念

對於沒有接觸過 ISO 管理系統標準 (Management System Standard, MSS) 的人而言，第一步要先理解的是管理系統不是指一個 IT 的應用系統，而是一套「體系」或「制度」，它規範的是組織如何「有系統地」規劃、執行、查核與改善，而不是規定技術做法。所以組織通過驗證取得證書，代表的是管理流程符合標準要求，並不代表驗證範圍中的 AI 系統本身通過測試，這是新手最常見的誤解。

ISO 42001 與其他管理系統標準 (例如 ISO/IEC 27001:2022) 目前都採用高階結構 (High Level Structure, HLS，2021 年後的正式名稱為 Harmonized Structure)，它對應了 PDCA 的管理精神：標準本文第 4 至 7 章是規劃 (Plan)、第 8 章是執行 (Do)、第 9 章是查核 (Check)、第 10 章是改善 (Act)，運作起來就如同一個輪子一般，讓組織的管理體系可以持續向前滾動。

第二層 — 風險管理基礎

管理系統標準最重要的核心要求，就是風險管理。在 ISO 42001 本文條款 6.1（因應風險與機會的行動）要求組織執行風險評鑑（包含風險識別、風險分析、風險評估 3 個步驟）與風險處理，它的方法論基礎來自 ISO 31000:2018《風險管理－指引》。ISO 31000 把風險管理拆成 7 個構成要素，其中 5 項是核心步驟，依序是範疇界定與準則建立、風險識別、風險分析、風險評估與風險處理；至於「溝通與諮詢」和「監督與審查」則貫穿整個流程。

人工智慧管理系統特別重視風險評鑑的過程，主要是因為 AI 風險有 3 項特性：一是不確定性高，模型行為會隨資料更新與再訓練而改變；二是影響對象擴及了個人、群體（如求職者、弱勢團體）及社會；三是風險型態多元，除了資訊安全與隱私保護之外，還涉及公平性、透明度與可解釋性，以及穩健性等。這使得傳統 IT 風險管理方法不足以完整涵蓋 AI 風險，也是實務上還要搭配 ISO/IEC 23894:2023《人工智慧－風險管理指引》的原因。

第三層 — AI 基本概念

如果您對於 AI 的認知，還是停留在與 ChatGPT 或 Gemini 的對話過程，這對於學習人工智慧管理來說明顯不夠。雖然學習人工智慧管理系統標準並不需要精通技術細節，但需要能理解 AI 相關名詞的定義與層次，例如人工智慧 (AI) 是最上層的概念，機器學習 (ML) 是實現 AI 的方法之一，而深度學習是機器學習的子集合，大型語言模型 (LLM) 與生成式 AI 則是深度學習技術的近期應用型態。

想要獲得 AI 的基礎知識，可以研讀 ISO/IEC 22989:2022《人工智慧－概念與術語》（以下簡稱 ISO 22989），它是少數不用花錢就可以從 ISO 官網下載的標準。另外，在 AI 生態系中，使用者不會是唯一的角色。如果您的組織有開發或提供 AI 系統，那麼能辨識 AI 系統生命週期 7 個階段（起始、設計與開發、驗證與確效、部署、運作與監控、再評估、汰除）各自的目標與風險，也是必須具備的能力，而這套 7 階段模型同樣出自 ISO 22989。

建議的 5 階段學習路徑

在具備了以上 3 層知識之後，建議您可以依下列 5 個階段持續推進，並且試著用自己的話來解釋標準的核心知識，或是產生對應的內容，路徑如下：

1. 管理系統基礎建立：自己能白話說明 PDCA 各階段所對應的標準本文章節。

2. 風險與 AI 基本概念：自己能解釋風險管理的過程與 AI 系統生命週期 7 階段。

3. 精讀標準本文：逐條研讀第 4 至 10 章，能夠指出管理系統要求建立的文件化資訊。

4. 研讀附錄 A／B：理解 9 大控制領域、38 項控制措施，能夠說明控制措施的目標與要求。

5. 案例演練與自我檢核：以實際或假設情境（例如 AI 客服系統）練習差異分析 (gap analysis)，產出一份差異分析報告。

圖2　ISO 42001 建議的 5 階段學習路徑與各階段產出

結語

回到一開始提到的，AI 管理並不是一個容易掌握的專業技能，所以先照著知識地圖與建議的學習路徑來走，會是比較容易的做法。

如果您已有 ISO 27001 或其他管理系統標準的學習經驗，代表第一層的知識已經具備，那麼就可以直接從第二層開始；如果完全沒有接觸過標準，就請務必從第一層起步。至於沒有 AI 技術背景的夥伴，您也不需要擔心，只要能理解 AI 相關名詞與 AI 系統生命週期各個階段，您也能成為組織建立人工智慧管理系統的重要推手。

Source: 本文之知識分層與學習路徑架構，整理自作者編撰之《ISO/IEC 42001 基礎知識地圖 v2.1》（2026 年 8 月）。

[證照] AAIA 考試心得：3 大知識領域與備考建議

Sun, 19 Jul 2026 16:23:26 +0000

隨著愈來愈多組織導入各項 AI 應用，除了需要建立 AI 治理的政策與管理組織之外，同時也需要透過內部和外部的稽核，協助組織進行績效與合規評估，指出可以持續改善的方向。因此，培育具有 AI 稽核專業知識技能的人才，也是組織的重要課題。

目前，由國際電腦稽核協會 (ISACA) 所推出的進階人工智慧稽核認證 (Advanced in AI Audit, AAIA)，它是全球第一個有關 AI 稽核的個人專業證照，在考試中所要求的知識領域，也是負責實施 AI 稽核活動的相關人員，需要具備的專業知識。

我趁著最近講授 ISO 42001 主導稽核員課程的空檔，也利用 ISACA 當初給予優惠價考試期限的最後一天，總算把 AAIA 考試給完成了，一點小小的心得，分享給有興趣強化 AI 稽核能力的夥伴們參考。

AAIA 是什麼？誰能報考？

ISACA 於 2025 年推出全球第一張進階 AI 稽核證照，主要是讓已經具備財務、IT 或其他稽核相關經驗的人士，藉由進修學習與 AI 有關的知識，獲得更進一步的 AI 稽核技能。

所以在取證資格方面，ISACA 要求必須具備業界認可的稽核相關證照：持有 CISA (Certified Information Systems Auditor) 者全數符合資格；若是 CIA、CPA 等其他證照的持有者，則需具備 IT 稽核或 IT 顧問的工作角色，才能在通過考試之後，以相關資格申請獲得這項認證。如果您的工作是比較偏向於 IT 稽核方面，建議可以先取得 CISA 之後，再來準備 AAIA 會是比較容易的途徑。

在費用方面，考試報名費為 ISACA 會員 US$459、非會員 US$599，通過考試後另有 US$50 的證書申請費。要特別注意的是，報名後有 6 個月的應考效期，請預先規劃好自己的準備時程。

3 大知識領域

依據 ISACA 現行版本 (2025 年 6 月) 的考試內容大綱，AAIA 一共涵蓋了三個主要的知識領域，包括：

• Domain 1 – AI 治理與風險 (AI Governance and Risk)：佔 33%，包含 AI 模型與要求、治理與計畫管理、風險管理、隱私與資料治理、AI 倫理／法規／標準等。

• Domain 2 – AI 營運 (AI Operations)：佔比 46% 最高，包含資料管理、AI 開發生命週期、變更管理、AI 產出監督、測試技術、AI 特有威脅與弱點、事故管理等。

• Domain 3 – AI 稽核工具與技術 (AI Auditing Tools and Techniques)：佔 21%，包含稽核規劃、測試與抽樣方法、證據蒐集、資料品質與分析、稽核報告等。

以個人實際應考的感覺，針對 AI 運作面的相關知識是絕對必要的，特別是針對資料管理、AI 開發生命週期，以及對應每個階段可能面臨的風險管理，這些是需要花比較多的時間來準備的。

如果您想獲得 AI 相關的基礎知識，網路上有一些完整且免費的資訊，可以作為學習的教材，例如：

1. 數位發展部的公部門人工智慧應用參考手冊 (https://moda.gov.tw/digital-affairs/digital-service/ai-resource/18248)

2. 經濟部 iPAS AI 應用規劃師 (初級) 學習指引 (https://ipd.nat.gov.tw/ipas/certification/AIAP/learning-resources)

當然，先前我參加的 ISC2 Building AI Strategy Certificate 課程和 CSA TAISE 的認證訓練，在 AI 治理和維運的領域知識方面，也提供了非常大的幫助，才能在短暫的準備時間內，順利通過考試。

考試注意事項與備考心得

對於剛踏入 AI 領域的考生，我建議先利用前面提到的免費資源打穩基礎；如果您已經相當熟悉 AI 的治理和管理，則可以參考我自己採用的方式來進行。

以我自己來說，想要取得這個證照的目的，只是為了強化有關 AI 稽核的知識與技能，我不追求考試一定要得高分，但一定要掌握自己能理解而且可用的知識，所以只有規劃了一週的時間，把官方的 ISACA AAIA Official Review Manual 仔細看了兩遍，再利用官方的 QAE 題庫 (ISACA AAIA Questions, Answers & Explanations Database)，熟悉解題的觀念和技巧。

考試共 90 題單選題，時間為兩個半小時，計分採量化計分 (Scaled Score) 200-800 分，450 分即為通過，答錯不倒扣，所以每一題都要作答。考試題目不會太長，但會以情境的方式讓考生判斷，從四個選項中選出一個最優先或最適當的答案。我選擇在實體的 PSI 考試中心（台北恆逸考場）應試，電腦考試的介面相當清楚，開始前有詳細的操作解說，有疑問的考題可以註記，再回頭檢視自己的答案。另外提醒，進考場前要交付所有的個人隨身物品，不能配戴手錶，眼鏡也得先取下讓考場人員確認，考試的小房間中冷氣相當冷，建議帶件薄外套備用。

結語

如果您是組織負責實施稽核的人員，又被長官賦予了 AI 系統查核的任務，若是正愁不知從何著手，那麼現在就是準備報考 AAIA 的好時機，也是取得進階 AI 稽核能力的好途徑。

如果您本身參與過 ISO 42001 主導稽核員課程，但又想要獲得一些實用的稽核技巧，那麼 AAIA 的知識領域，也正好補充了實務所需的專業技能，可以為您的職涯增添更多色彩，歡迎加入 AI 稽核員的行列。

Certification badge - ISACA AAIA

舊留言存檔

以下留言轉存自原 Blogger 網站，僅供存檔，無法回覆。

Jimmy Kao（2026-09-09）

謝謝詳細的分享！

[新知] AI Foundation Framework：用 7 個模組逐步建立可信賴的 AI 治理

Tue, 14 Jul 2026 15:58:08 +0000

最近在講授 ISO/IEC 42001 課程時，有學員提到組織的最高管理階層要求必須做好 AI 治理，但是大家卻不知道該從哪個方向開始著手？也有學員認為，ISO/IEC 42001 在 AI 系統開發生命週期中，要求必須做好 AI 資料管理與效能的監控，也要考量 AI 系統面臨的資安風險與隱私保護，這些都要同時兼顧實在是很大的挑戰，是否有比較容易實施的方案？

針對以上這些問題，有一個比喻是如果 AI 是一棟房子的話，那麼我們要做的，首先就是從打好地基開始，再逐一建立各個重要的支柱，逐步讓這棟房子可以穩固而不容易被動搖。

為什麼組織需要 AI 治理框架？

AI 的變化速度一日千里，從一開始可以跟人類透過自然語言的對答 (Chat)，到目前已經進化長出手腳可以完成我們指定的工作 (AI agent)。對於許多組織而言，如果能夠好好利用 AI 這把神兵利器，就可以大幅強化業務發展與運作的效率，同時也能提供更多創新的服務。但是，組織是否能夠在利害關係人期望、法規與標準之下，順利地駕馭它，並且以負責任的方式來開發、提供或使用 AI 系統，這就需要建立一個穩固的基礎，才能夠在這條路上循序前進。

基於個人的觀察，台灣的組織在 AI 治理最常見的起步困難是什麼？其實主要有兩個問題，一個是對於治理的權責不清，另一個則是不清楚風險在哪裡。在權責不清的情況下，組織內使用 AI 的業務部門，認為管理責任是資訊單位和資安單位的事，而資訊單位和資安單位，在業務部門決定使用外部提供的 AI 服務時，完全未被諮詢或參與決策的過程。一旦開始使用 AI 的服務，高層下達要求重視 AI 的治理，各部門也不清楚治理的目的，以及可能面臨的風險議題。

以上種種，都是因為缺乏一個可被信賴的基礎框架，可以幫助組織來因應 AI 所帶來的風險，以及對於組織、個人、群體和社會應該負起的責任。

AIFF 是什麼 — 7 個模組總覽

面對 AI 帶來的種種挑戰，組織需要一套彈性且模組化的框架，因應 AI 所帶來的風險和責任。BSI 的人工智慧可信賴治理框架 (AI Foundation Framework, AIFF) 就是為此而生，它參考了國際公認的標準，以模組化的架構協助組織打好基礎，以更穩健的方式推動 AI 各項應用的發展。不管您的組織規模大小與業務型態，以及在 AI 生態系所扮演的角色，都可以依照自身的需求和特定的風險議題，靈活地進行調整。

人工智慧可信賴治理框架一共包含七大模組，包括了 AI 治理、AI 管理、AI 資安管理、AI 隱私管理、AI 資料管理共 5 個管理類模組，以及 AI 韌性測試和 AI 效能評估的 2 個測試類模組。

圖1　AIFF 七大模組總覽

以成熟度評分設定目標、持續改善

在 5 個管理類模組中，組織可以循序透過四個步驟來建立能力：首先參與教育訓練課程，瞭解各個模組的標準、領域與控制要點；接著使用自我評估工具，依照自己的步調進行現況評估，並且可以重複執行；再依自身的能力和資源建立目標，最終透過第三方獨立驗證，取得驗證報告和成熟度評估結果，以及 AI 信賴標誌 (AI Mark of Trust)。

有別於 ISO 標準取證的通過或不通過兩種結果，人工智慧可信賴治理框架採用六階段成熟度模型，從「尚未建置」到「持續優化」，以 L0~L5 的方式進行成熟度評分，讓組織可以依照自己的步調來提升等級，最終達成全面穩固的成果。

對組織來說，以模組化的評估方式，可以自主地決定針對最重要的治理領域來「設定目標成熟度」，不必一次追求全面且達成最高階段，而是透過自我評估工具的重複使用，制定明確的方向與目標，達成持續改善的循環。

因此，這套人工智慧可信賴治理框架能夠幫助組織鑑別以下重要議題：

• 治理缺口：組織是否在盲目地部署 AI 而沒有監督機制？

• 風險透明度：管理層是否清楚知道 AI 的限制與風險？

• 持續改善路徑：組織目前是在「救火式」地處理 AI 問題 (L1)，還是已經建立了「自動化監控與持續優化」的體系 (L5)？

成熟度模型最大的核心價值，在於衡量一個流程是否能從「依賴個人的偶然成功」，進而轉化為「組織體系的必然穩定」。組織如果能夠理解並掌握了成熟度等級的邏輯，在執行各項工作時就具備了一套專業語言。當執行人員向高層報告的時候，不再只是說「我們的 AI 治理做得差強人意」，而是可以具體的說明「目前組織在 AI 治理模組整體處於 L2，雖然具備了專案等級的管控方法，但是缺乏了組織層級的標準化過程。我們的目標是要在一年內提升到 L3，建立可以被持續審查和改善的框架。」如果執行人員能夠提出這種基於成熟度的對話，管理階層才能滿足利害關係人的期望和要求，以負責任的方式達成 AI 治理的有效性。這也回應了一開始提到的，許多組織「不知從何開始」的痛點，找到一個可以持續前進的方向。

圖2　六階段成熟度與四步驟推進路徑

該從哪個模組開始？

面對人工智慧可信賴治理框架的 7 個模組，組織的第一步該怎麼走？BSI 的建議是可以把實施「AI 治理」模組作為起點，它可以先幫組織建立一個職責分明，獲得高層支持的 AI 治理推動小組，協助組織識別所面臨的主要 AI 風險，再以此來判斷後續需要導入哪些其他模組，作為強化 AI 治理的基礎。

也就是說，組織不必一開始就同時兼顧所有的治理面向，而是可以依照風險的優先順序來分批導入。舉例來說，如果組織在風險評估後，發現隱私是最需要處理的風險，就可以優先導入 AI 隱私管理模組來降低相關風險；如果最擔心的是 AI 系統遭受攻擊或資料汙染 (Data Poisoning)，則可以優先選擇 AI 資安管理模組。這正好回應了開頭學員的提問：與其想要一次到位，不如選擇一條比較容易實施、又能逐步累積的路徑。

如果您的組織以導入 ISO/IEC 42001 為目標，或是未來有取得 ISO/IEC 42001 證書的需求，要特別說明的是，完成人工智慧可信賴治理框架的模組驗證，並不等於通過 ISO/IEC 42001 的管理系統驗證，但是它可以大幅降低導入實施 ISO 標準的門檻，尤其是 AI 管理模組的控制措施，直接呼應了 ISO/IEC 42001 的要求事項，也能作為正式驗證稽核時的客觀佐證。

結語

回到開頭那棟房子的比喻，AI 治理的地基與支柱，不必也不可能在一天之內就蓋好。如果您的組織剛被高層要求開始做 AI 治理，卻還不知道從何著手，建議從「AI 治理」模組的教育訓練與自我評估開始；如果您的組織已經在開發或整合 AI 系統，最擔心資安與隱私的議題，可以優先導入「AI 資安管理」與「AI 隱私管理」模組；如果您的組織以取得 ISO/IEC 42001 驗證為目標，則可以把人工智慧可信賴治理框架中的「AI 管理」模組當作準備期的能力建構工具。無論從哪裡開始，先評估現況、設定目標成熟度，就是讓這棟房子穩固成形的第一步。

備註：本文內容由個人產出，文章段落有請 AI 進行文字校對和編輯。

Source:
1. BSI, AI Foundation Framework – Your guide to building trusted AI adoption, 2026.
2. BSI 台灣官網：建立可信賴 AI 實踐路徑 (AIFF)

[分享] 運用 ISO/IEC 38507 強化組織的AI治理

Fri, 24 Apr 2026 13:21:00 +0000

隨著人工智慧 (AI) 的使用愈來愈普及到日常工作之中，同時也為組織帶來了更多的影響與挑戰，因此，建立一套明確的AI治理架構與監督管理機制，已是組織高層必須要面對的重要課題。

對組織而言，所謂的 AI 治理是指需要建立有效的指導與管理體系，這涉及了組織內部必須建立一個「治理機構 (Governing Body)」，針對組織所具有的 AI 角色來制訂明確的政策，並且清楚定義與「管理層 (Managers)」之間的職責劃分和互動關係。

可依循的AI治理國際標準

針對組織的 AI 治理需求，可以參考由國際標準組織所發布的 ISO/IEC 38507 標準 (Governance of implications of the use of artificial intelligence by organizations)，它引用了來自於 ISO/IEC 38500 的 IT 治理核心模型 – EDM (Evaluate, Direct, Monitor)，同樣可以將它運用在 AI 治理的情境之中。

在 ISO/IEC 38507 標準中提到需要建立的治理機構，它是為組織設定營運宗旨，決定策略目標，並且要為整個組織負起問責性 (Accountability) 的最高決策與監督組織。治理機構需要考量來自於組織內外的各項議題，包括了內部的營運壓力與業務需求，以及了解外部的主管機關、法規義務及關注方的期望等，這些可以進一步聚焦在 AI 特性與差異 (AI differences)、市場需求 (Market needs) 及利害關係人期望 (Stakeholder expectations) 等三個層面。

Source: Governance implications of the use of AI (ISO/IEC 38507:2022)

運用EDM模型來達成治理任務

ISO/IEC 38507 建議組織可以運用 EDM 模型，針對使用 AI 所面臨的五大關鍵政策領域，將治理機構的任務轉化成為實際可行的營運計畫，並且交付給管理層人員來落實完成。所謂的 EDM 模型，它是治理機構主要的核心任務，可用來持續評估 AI 治理的現況，藉由 EDM 所評估的結果，也可以反映出組織的 AI 治理成熟度，鼓勵組織可以定期的安排與實施。

針對 EDM 模型的概念，簡要說明如下：

評估 (Evaluate)：治理機構需要評估目前和未來 AI 可能的使用情況，包括了 AI 為組織所帶來的商業機會、技術變革與潛在風險，以及審查管理層對於 AI 的計畫與使用安排。
指導 (Direct)：依據評估的結果，治理機構要制訂 AI 相關的策略、政策和目標，確立可接受的行為準則與風險胃納 (Risk appetite) 之後，再交給管理層來執行，並且要確保這些與組織本身的願景、文化和法規要求一致。
監督 (Monitor)：治理機構要建立使用 AI 的監控與量測機制，確保 AI 系統遵循了組織的政策要求，並且可以達成既定的績效，也讓組織有能力及時發現 AI 是否發生不符合預期的情況。

AI治理的五大關鍵政策領域

對組織的治理機構來說，需要涵蓋哪些政策層面，才能夠滿足 AI 治理的要求呢？ISO/IEC 38507 提到了以下五個具體的關鍵政策領域，每一個都需要經歷完整的 EDM 過程，才能夠展現組織的 AI 使用活動被有效地治理，這也是治理機構主要的任務工作。

決策制定 (Decision making)：由於 AI 可以高度的自動化，因此治理機構必須要有能力確保人類對於 AI 保有適當的監督與控制權，並且在必要的時候可以介入，甚至可以強制中斷 AI 系統的運行與決策。
資料使用 (Data use)：訓練資料的品質高度影響了 AI 系統的表現與結果，治理機構必須要求組織在資料生命週期的各個階段，建立資料保護、隱私合規，以及防止資料偏見的機制。
文化與價值觀 (Culture and values)：由於 AI 系統本身沒有情感、倫理和道德觀，因此治理機構必須要遵循「以人為本」的精神，確保 AI 的使用與運作，還有利用 AI 系統所產出的結果，都要符合組織的文化、社會期待、人權及永續發展的價值觀。
合規性 (Compliance)：AI 的運作對於人類社會和法規帶來了全新的挑戰，治理機構需要確保現有的管理制度，可以因應目前和未來可能會有的 AI 使用活動，使 AI 系統生命週期各個階段和過程，能夠符合組織所適用的法令法規要求。
風險 (Risk)：AI 帶來了過去在使用 IT 系統過程中，許多未曾面臨的風險，像是缺乏透明度和可解釋性、AI 幻覺與偏見等，因此治理機構需要將 AI 使用納入組織整體的風險管理之中，包括決定對 AI 的風險胃納，實施 AI 風險評鑑與影響評鑑，進行風險處理以將風險控制在組織可以接受的範圍。

依據 ISO/IEC 38507 的規範，組織的治理機構可以運用 EDM 模型，定期針對以上五個關鍵政策領域逐一進行評估，即可建立一個動態且持續的治理循環。

(本圖由 Gemini 生成)

組織中的AI治理與管理職責

在本文一開始提到，組織內部必須建立一個治理機構，針對組織的 AI 角色來制訂政策，並且清楚定義與管理層之間的職責。

從職責的角度而言，治理機構主要負責設定 AI 政策和目標，給予方向和明確的指導，並且承擔最終的責任，而管理層也要負責建立和維護一個 AI 系統的管理體系，像是可以參考 ISO/IEC 42001 標準建立人工智慧管理系統 (AIMS)，透過它將治理機構的評估、指導與監督要求，落實到與 AI 有關的活動與流程之中。

換句話說，在 AI 治理的過程中，治理 (Governance) 與管理 (Management) 是兩個角色不同但必須緊密協作的實體，唯有透過明確的角色分工與職責，雙方保持緊密的互動與合作關係，才能夠達成組織 AI 治理的目標。

[證照] ISC2 人工智慧策略建構證書

Thu, 20 Nov 2025 07:34:00 +0000

長久以來，ISC2 的 CISSP 證照一直是資安相關人員學習和追求的目標，隨著人工智慧的應用愈來愈受到重視，雖然 ISC2 目前還沒有針對AI推出個人證照，但為了強化資安相關人員對於AI的專業知識，因此在今年推出了「人工智慧策略建構證書 (Building AI Strategy Certificate)」，藉由線上完成與AI有關的課程，協助資安相關人員獲得為組織建立AI的管理基礎知識，以及了解合乎道德與安全考量的人工智慧應用方式。

課程簡介

人工智慧策略建構證書一共包括了以下六門課程主題，參與學習的夥伴們，在完成每堂課程之後，只要在課程評估測驗中，答對70%的考題 (選擇題)，就可以取得單堂課程的證書。若是完成全部的六門課程和評估測驗，即可獲得「建立人工智慧策略證書」的 Credly 數位徽章。

課程主題：

人工智慧在網路安全中的應用 (AI for Cybersecurity): 了解人工智慧在網路安全中的作用，以及傳統安全方法和人工智慧專用安全方法對安全風險的影響。
人工智慧安全 (AI Security): 探索在保持關鍵的人工監督的同時，可優化 AI 驅動的安全議題，以管理過度自信的情況。
與全球人工智慧法規保持一致 (Aligning with Global AI Regulations): 了解將人工智慧安全框架與整體網路安全原則保持一致的複雜性，比較與人工智慧相關的特定安全框架和標準以及支撐安全人工智慧實踐的原則。
人工智慧的基礎 (Foundations of AI): 學習人工智慧安全基礎知識，藉由熟悉人工智慧的相關定義，以了解人工智慧應用和實施所帶來的影響。
規劃具有安全設計的人工智慧 (Planning for Secure by Design AI): 如何從策略角度將安全性融入人工智慧的營運之中，了解安全的人工智慧的實施要求，以及如何將傳統網路安全原則與人工智慧治理框架進行整合。
不斷發展的網路安全人才隊伍 (The Evolving Cybersecurity Workforce): 透過探討人工智慧對網路安全人才隊伍的影響，並分析有關領導力的考量與策略。

授課方式：

方式：線上隨選學習，可獲得 CPE 16 學分 (16 小時)
語言：英語
教材：文字、影片、案例說明
費用：640美元 (ISC2會員可打8折為512美元)

以上是和課程有關的資訊 (內容說明來自 ISC2網頁)，提供給有興趣的夥伴參考，就我個人參與的經驗，內容沒有太過技術的內容，適合初階或想了解AI管理架構的夥伴來進修學習。

[證照] 通過 Trusted AI Safety Expert (TAISE) 考試

Mon, 10 Nov 2025 16:45:00 +0000

隨著人工智慧的議題持續在全球發燒，雲端安全聯盟 (CSA) 在2025年10月底也正式推出了「可信賴人工智慧安全專家 (Trusted AI Safety Expert, TAISE)」的認證計畫，這是雲端安全聯盟與美國東北大學 (Northeastern University) 共同合作所推出的一個針對人工智慧安全的訓練與認證，可以幫助對人工智慧有興趣的人員，藉由參與完整的培訓課程，獲得跟人工智慧有關的專業知識。

課程內容

TAISE的課程，目前是採取線上自主學習的方式，內容包括了以下10個單元模組，並且提供了免費下載的「TAISE Prep Kit」，讓有意想取得這個認證的人員，可以清楚的掌握課程的架構與學習方向。

Module 1: Introduction to AI (人工智慧導論)

Module 2: Generative AI Architecture and Design (生成式人工智慧架構與設計)

Module 3: AI Use Cases: GenAI, Multimodal, and AI Agents (人工智慧應用案例：GenAI、多模態和人工智慧代理)

Module 4: Fairness, Accountability, and Explainability in AI (公平性、問責和可解釋性)

Module 5: AI Model Lifecycle and Threat Taxonomy (人工智慧模型生命週期與威脅分類)

Module 6: Model Governance, Risk Management, and Compliance (模型治理、風險管理與合規性)

Module 7: Introduction to AI Safety and Security (人工智慧安全導論)

Module 8: Cloud and AI Security (雲端和人工智慧安全)

Module 9: Data Security & Privacy in AI Systems (人工智慧系統中的資料安全與隱私)

Module 10: Continuous Learning and Adaptation (持續學習與適應)

就我個人的上課體驗，覺得課程內容相當扎實，可能是與學校合作的關係，教材的品質非常好，搭配適當的影片解說和補充的參考資料，可以對人工智慧的發展歷史、機器學習的技術、人工智慧模型生命週期、人工智慧的安保與安全，以及模型治理和法規，能夠獲得全盤的了解。

但對初學者而言，由於內容橫跨了包括人文、心理、數學、資訊及法律學科，資訊量有點大，可能需要一點時間消化和吸收，未來若CSA有提供真人線上和線下進行的課程，可能會更有助於討論和學習。

關於考試

TAISE考試同樣秉持著CSA以往為了確保過程嚴謹又容易參加的精神，採取了以下的方式進行 (參考自CSA官網) ，只是這次比較特別的是課程與考試費用綁在一起，也就是必須同時購買線上課程才能獲得考試資格，目的應該是為了讓考生可以接受完整的課程訓練。

形式：線上、開卷 (Open book)

題目： 60題選擇題 (單選)

時間： 120分鐘

及格分數： 80%

可考試次數： 2 次 (可補考1次，有效期限 2 年)

費用：795美元 (課程+考試)

就我個人的考試經驗，考題相當有難度 (不像範例試題直覺簡單)，英文試題雖然不長但也很折磨人，需要清楚了解AI相關名詞的定義，並且配合課程所學習的知識，才能做出正確的判斷，憑自己的力量考過會是很有成就感的，此課程對有意想在AI領域發展的夥伴們也會是一個好選擇。

我的證書 badge: https://www.credly.com/badges/dc8c713c-61ae-4a70-bb79-fd03f45becde

[新知] Google 發布最新的代理支付協議 (AP2)

Thu, 18 Sep 2025 11:56:00 +0000

昨天 Google 正式發布了最新的 Agent Payment Protocol (AP2) 的 AI 支付協議，擴展了原本 Google 讓不同的 Agent 之間可以協同合作的 A2A (Agent2Agent Protocol) 協定，進一步使 AI Agent 可以根據人類的需求，自動化地完成商品的搜尋、加入購物車，甚至直接支付款項完成交易。

當然，只要跟錢有關的事情，對使用者而言第一個想到的就是交易過程安不安全？會不會在未經使用者同意之下，AI Agent 就自己亂花錢，或是買了不想要的商品。而對商家來說，關注的則是跟資安有關的不可否認性 (Non-repudiation)，如何佐證這筆交易的確是經過真人的授權，而且是基於使用者的意圖來進行交易。

對此，Google 設計了授權書 (Mandates) 的機制來強化交易雙方信任，它是一種防篡改且可驗證的交易證明，可作為每一筆交易實際執行的證據，有興趣了解這項機制的夥伴，可以進一步參考以下 Google 網站的說明。

未來，隨著支持這項協議的商家愈來愈多，讓 AI 自動地幫您尋找並購買喜愛的球鞋、限量發售的公仔，或是直接以自然語言告知 AI 您預計休假的時間，想要去日本旅遊的景點，偏好的住宿飯店地點和價格，往返想乘坐的航班，以及總預算的金額，以上這些不用再一一自己去查找和下訂了，只要 AI Agent 找到符合您設定條件的組合，就可以同時完成以上商品或服務的預訂和付款。

參考資料：
Powering AI commerce with the new Agent Payments Protocol (AP2)

[分享] 從ISO 27001看MCP應用的安全

Mon, 15 Sep 2025 02:44:00 +0000

隨著 2024年11月底 Model Context Protocol (MCP) 正式的發布，有愈來愈多的 AI Agent 利用這種開放式的通訊協議，能夠即時地取得各項數據，或是調動可以一起協作的服務，讓AI各項的應用更加地多元和簡便，對使用者來說是一大福音。

只是在方便使用的背後，通常也隱含著需要我們關注的資安風險，以下文章是彙整最近閱讀相關文件的心得，並應用 ISO 27001 的控制措施來強化 MCP 的安全。

MCP 的誕生解決了傳統 API 連結各項服務，都需要手動設定各自的金鑰才能存取服務的要求，使用者只要透過 MCP Client 就可連接一台或多台的 MCP Server，MCP Server 有能力去調動各項工具、取得資源及協同的服務，而且除了可以存取儲存在地端的資料之外，也可透過網際網路存取遠端的資源與應用服務。

MCP應用可能的資安風險

目前，AI agent 有了 MCP 的幫助，就可讓大型語言模型 (LLM) 快速回應用戶端的 Prompt，並且依據 AI 的判斷主動地來執行各項任務，在這個過程中，包括使用了遠端的 MCP Server 和自行建置地端的 MCP Server，都可能需要注意以下相關的資安風險。

身分憑證 (Token) 被竊取：目前網路上充斥著許多由個人開發，或是偽冒知名 MCP Server 名稱的服務，如果沒有進行適當的確認就使用，可能會造成 MCP Server 的憑證被竊取，或是因授權過大而導致濫用的情況。

惡意攻擊指令注入：惡意人士可能會利用輸入的 Prompt，刻意操縱 LLM 去觸發惡意的行為，例如: 刪除特定的資料、送出敏感性資訊 (外洩個資或金鑰)，或是透過為數眾多的 MCP Server 來實現組合式的攻擊。

MCP Server 缺少認證機制：MCP Server 常由一些獨立的開發者建立，在開發的過程中可能缺少了安全檢測，或是撰寫的程式碼未經過安全的審查，使用者若下載了內含安全漏洞或惡意程式的 MCP Server，並且安裝在本地端的電腦 (使用自動安裝工具) ，也可能就直接開了一個後門而毫不知情。

ISO 27001的安全控制措施

針對以上提到有關使用 MCP 的風險，組織可以依照 ISO 27001附錄A 的控制措施，包括但不限於以下的做法來強化資訊安全的管控：

A.5.15 存取控制 - 在組織內部的存取控制政策中，制訂明確的 MCP 管理和授權的過程，事先確認 MCP 的合理性和進行版本的管控。

A.8.3 資訊存取限制 - 限制可呼叫的遠端 MCP Server，並檢測可能有惡意行為的 Prompt 指令。

A.8.5 安全鑑別 - 利用 OAuth 等技術來強化安全認證機制，並限制用戶端只可使用經過驗證的 MCP Sever。

A.8.8 技術脆弱性管理 - 針對本地端自己建置的 MCP Sever 定期執行弱點掃瞄，並進行高風險弱點的修補。

A.8.15 存錄 - 留存 MCP 活動的日誌 (log)，並針對高風險的操作進行分析與審查。

A.8.16 監視活動 - 利用工具持續地監控和記錄 MCP Server 的活動，若發現異常的行為，則結合事件通報的機制進行評鑑和處理。

A.8.18 具特殊權限公用程式之使用 - 將 MCP Server 視為是一種含有特權的應用程式，在安裝和使用時需要經過適當的審查與核可過程，以及建立可使用自動化工具的白名單。

A.8.24 密碼技術之使用 - 使用 TLS 傳輸加密來防範網路的中間人攻擊，安全地儲存所使用的金鑰，並適當輪替更換和限制金鑰的有效期限。