「人工智慧法案」新規2日上路,企業須開始對聊天機器人、深偽技術及AI生成內容等,加上標記與數位浮水印等,被視為AI的「cookie橫幅時刻」重演,網路將如同先前不斷冒出cookie通知一樣,湧現大量AI通知,目的雖是提高透明度、預防,但業界擔心過度標記反而變成一種疲勞轟炸。
從網路零售商到旅遊業者、廣告代理商等歐洲企業,正競相為聊天機器人、深偽技術及AI生成的行銷素材加上標籤,以符合歐盟推出的首批針對消費者的AI法規。新規要求企業在客戶與AI系統互動時必須充分告知,並再由AI生成的圖像、音訊和視訊上予以標示,未遵守者將被處罰款。
Cooley律師事務所的律師梵‧埃克形容,這將是AI的「cookie橫幅時刻」。他指的是在歐洲隱私體制下無所不在的cookie通知。他說,目前為止,AI法案在很大程度上依然相當抽象,不過可以確定的是大家都將開始看到標籤,告知某些內容是由AI生成的。
歐盟其實也是藉此測試,看看能否在不減緩技術採用速度的情況下,讓AI對消費者更加透明。歐盟執委會主席范德賴恩希望當地企業更迅速地採用AI,以免在全球AI競賽中落後美國和中國。布魯塞爾已公布AI超級工廠計畫、增加對算力的投資,並承諾減少官僚流程以提升競爭力,並降低歐洲對美國科技供應商的依賴。
然而,許多公司認為,當局要求企業加快部署AI,卻又得遵守仍難以解讀的新規則,實在非常為難,因為執委會在新規開始適用前幾周才公布指引,讓企業幾乎沒有時間調整。德國電商Zalando表示,執委會的指引增添「另一層不必要的監管」,「新的指引並未帶來我們所期待的清晰度」。
此外,執委會的指引也可能引發「執行碎片化」的風險,因為不同的企業可能會對規則有不同的解讀。
零售遊說團體歐洲商業(Eurocommerce)也警告,無差別加標籤的方式可能產生不合比例的法遵成本,同時也讓消費者感到困惑。加上標籤的目的原本是讓消費者與AI生成的素材互動時,能提高警覺。但歐洲電腦暨通訊產業協會(CCIA Europe)警告,該指引對「深偽」技術的定義過於廣泛,導致幾乎任何AI生成的內容都需要加上標籤,「如果每張圖片和內容都一視同仁地對待,那加標籤就一點意義也沒有了」。
不過執委會官員指出,業者對於「即使透過AI進行小幅修改也需過度標記」的想法是誤解,並指出這是與產業界諮商後推出的新規,已更符合比例原則。
對部分公司而言,新規不過將是其已採用的措施正式化,例如線上西洋棋平台Chess.com執行長阿萊貝斯特指出,該公司深知,讓用戶明確知道對手是真人或機器人,至關重要。該平台上個月有超過2.5億場人類與機器人的對弈。
這些提高透明度的規則,僅是歐盟AI法案的一部分。該法案已於2024年8月生效,但並未一次同時上路。歐盟執委會2日也獲得新權力,得以審查具有「系統性風險」的通用AI模型。一旦違規,科技公司最高恐被處以上一年度全球總營業額3%或1,500萬歐元的罰款。
然而,在科技業及部分歐盟國家的壓力下,執委會已將所謂「高風險系統」的法規要求延後至2027年12月上路。對此,一位律師指出,「問題不在於這項法案有多繁重,而在於它難以預測且不斷變動。企業非常不喜歡這點」。