歐盟的AI Act 有監理沙盒設計, US 的 AI EO 沒有.

很訝異前兩天的研討會與演講, 沒有人提到AI 定義的問題與探索. 我在參與銀行公會訂定AI 自律規範的過程, 因為實務的處理過程, 讓我突然恍然大悟. 這個問題很關鍵, 所以過程很煎熬.

從8月開始的歐盟AI Act三方會談，為什麼 AI 定義重新被拿出來討論. 直到最近一次都還是激烈辯論. 我本不解, 有次FB寫到個資法的時候, 李治安老師留言提醒我主體客體, 我才突然想通. ,整個AI監理的對象(客體) 其實才是影響監理範圍的核心關鍵, 然後才會接續附錄三的高風險定義.

歐盟理事會和我國銀行各自參與討論自己的規範時，其中心境一定是很類似的, 只不過歐盟外有龐大民權團體, 側有11大全球巨頭充滿銀彈的遊說. 後有歐盟的主要數位產業. 一再延後的三方會談正反映出這種猶豫.

我國民間版的AI Act草案, 率爾採用了歐盟定義. 這件想法是超有勇氣的. 我相信若是台灣立法, 這一段一定才是關鍵中的關鍵. 應該要有更多研究投入才是. 這也是很多國家立規範都假裝沒看到, 不討論什麼是AI 或是直接空白的緣故，台大政大有幾位法律系教授有注意到. 我很佩服的努力搜尋他們的類似研究報告. 因爲我認為他們眼光忒犀利.

EU 有對開源模型處理 (但還沒有共識), 以輔助新創, 美國是用政府採購促進. EU眾皆擔心合規成本過高，不利中小型新創, 但我看數年前的人工智慧白皮書, 以及現在拜登的EO說明, 歐盟與美國都投入大資金協助. (極大資金). 台灣AI國力排名全球26. 比例來看, 我認爲台灣投入的可能要更多. 風險不僅止於發展. 規範的目的在於我們不能成為AI殖民地. 因為中國AI太強. 整個AI供應鏈未來必難擺脫影響, 中研院的訓練資料烏龍及只是很多人早有預測的狀況. 我認為引起重視是好事.

這個靠軟法自律無法防止此類風險. 我聽過幾個科技大佬的立論軟法自律是有助於創新研發, 其實硬法規範未必會干預創新, 但是人微言輕..就算看到歐美很多說明. 但想來沒用，就一旁觀察吧.

另外是有幾個最近興起的討論 (隨著越來越多專業社群參與討論), 例如別忘了歐盟還有CRA (Cyber Resilience Act). 對於開源的風險管理限制很多. 這兩者在歐盟議會有深入討論.

基本上AI act 競合最多的其他數位法律規範就是 GDPR (資料治理), CRA (開源基礎模型), DSA (演算法透明), Cybersecurity Act (驗測).

DMA (市場註冊與監督, 那個kill-switch就在這段被討論過)

我遇到的歐洲學者, 絕少單獨研究AI Act, 很多都是打包這幾個法規範一起研究差異. 關鍵處公認還是在歐洲數位單一市場. 這是盤大棋.

法資訊學 部分常被刑法部分的AI研究談起.

三年前我上王立達老師的課，老師有提到藥物管理的方法可能是AI監理可能參考的. 後來我往上追溯發現脈絡是來自德國的風險社會治理的概念. 但阿姆斯特丹大學有研究比較異同, 台灣有先進認為就是要套用, 其實這方面有細微的看法, 我認為還是要甄別選擇一下.至於說AI元件和藥物原料相比, 一大部分都說要用透明性解決黑箱問題, 這段借用藥物管理概念, 是很難套用的. 但的確很多概念借鑑是比較快速成熟低風險的做法.

德國學者有甄別AI Resilience 與 AI Robustness的差別, 我在台灣聽演講發現很多分不清. 需要更理解講者的假設. 現在不好說對不對. 我自己是分得出實際差別就是了.

換位思考最前衛的還是Lessig教授, Analog AI 還有 Digital AI, 人機共存/共享的未來, 這個概念必定有幫助. 這個很劃時代.

現在很多AI創新, 其實是AI 的 API 創新. 遠不達於需要給監理的程度, 唉太大聲, 有點像是間接宣傳, 這在歐盟很多也挺有趣.

歐美兩區最活躍的就是民權與網路治理社群, 台灣本地看不太多. 反而是AI社群多.

AI評測的方式, 牛津大學有提出過CapIT. 倫敦政經學院分類四種方式

不過論涉獵面向之廣, 被各國政策機構採納徵詢最多, 還是非史丹佛大學莫屬. 其殿堂地位難以撼動, 不過HAI 逐漸比 CodeX涉入更多．這點很有趣.

最後是預算的課題, 這個最重要. 我國最多的預算在國科會還有科專.

其實我認為各部會都應該適度的投入.

下一論的經濟競爭, AI一定是關鍵要素. 台灣真的該多花些資源在多元化人才培育, 還有媒合教育機構和中小企業, 建立成功應用故事.

大公司自然有資源可用. 國家多關注前沿AI應用的投資.

最後, AI研討會擺區塊鏈主題, 我老感覺就像穿小一號的球鞋, 怎麼體驗怎麼難受...不敢說錯, AI有太多主題直得探討. 區塊鏈就擺在Web 3吧....

希望西班牙輪值時段內通過歐盟立法, 不然歐盟六月大選, AI規範立法已經是超政治性的課題. 未來變動就難逆料了.