03 風險分類階梯與 GPAI (Risk Classification & GPAI)
🇬🇧 Switch to English Section 🇭🇰 切換至中文區塊
法定核心依據 / Legal Basis: Regulation (EU) 2024/1689 Article 5, Article 6 / Annex I & III, Article 50 & Articles 51–56
🇭🇰 風險分級深度解析 (中文版)
3.1 禁止類 AI 實踐 (Article 5 - 違者最高罰 3,500 萬歐元 / 7%)
- 職場與學校情緒識別：嚴禁在工作場所及學校分析員工/學生情緒（純醫療與安全駕駛除外）。
- 潛意識操縱與弱點剝削：嚴禁利用潛意識技術或年齡/殘疾弱點扭曲個人行為並造成實質損害。
- 社會評分 (Social Scoring)：嚴禁跨場景評估個人社會信用並施加不利待遇。
- 無差別臉部抓取：嚴禁自 CCTV 或網路無差別抓取圖像建立人臉庫。
- 公共場所即時遠程生物識別：執法機關原則禁止（司法特許極限例外除外）。
3.2 獨立高風險場景清單 (Annex III)
- 生物辨識：遠程識別與特徵分類。
- 關鍵基建：水電、燃氣、交通安全維護。
- 教育培訓：入學甄選、考試評分與作弊監控。
- 就業與 HR：履歷篩選、考績評核、工作分配、解僱演算法。
- 必要服務：銀行信貸審批、人身保險風險定價。
Article 6(3) 脫困條款：若系統僅執行狹隘程序性任務且未涉及個人畫像（Profiling），可免除高風險歸類。
3.3 通用大模型 (GPAI) 與系統性風險 (Article 51)
- 基準模型：提供下游技術文件、遵守歐盟版權法、發布訓練摘要。
- 系統性風險模型：累積訓練計算量超過 $10^{25}$ FLOPs，強制執行對抗性紅隊測試與能耗評估。
🇬🇧 Risk Classification & GPAI Models (English Version)
3.1 Prohibited AI Practices (Article 5 - Up to €35M / 7%)
- Workplace/Educational Emotion Recognition: Strictly banned (medical/safety exemptions only).
- Subliminal Manipulation: Exploiting vulnerabilities causing physical/psychological harm.
- Social Scoring: Cross-context evaluation leading to detrimental treatment.
- Untargeted Facial Scraping: CCTV or web scraping for facial recognition databases.
- Real-time Public Biometric Identification: Prohibited for law enforcement except judicial exceptions.
3.2 Standalone High-Risk Areas (Annex III)
- Biometrics, Critical Infrastructure, Education & Admissions.
- Employment & HR: CV screening, task allocation, termination tracking.
- Essential Services: Creditworthiness assessments, life/health insurance risk pricing.
Article 6(3) Derogation: Narrow procedural tasks without profiling qualify for exemption.
3.3 GPAI Models & Systemic Risk (Article 51)
- Baseline GPAI: Downstream technical dossiers, copyright compliance, training summaries.
- Systemic Risk Models: Compute $> 10^{25}$ FLOPs requires adversarial red-teaming and energy reporting.