當美國和中國兩大AI玩家都在追逐更強大的「通用人工智慧」（AGI）之際，各界對AI的反彈和焦慮也來到新高峰。從AI「越獄」攻擊企業伺服器、數天內完成頂尖科學家耗費多年累積的研究成果，到AI資料中心消耗大量能源引爆民眾抗議，以及美國一度禁止外國使用頂尖模型，全球掀起對AI倫理、安全與治理的激烈，AI從科技問題演變成政治議題。

「AI在未來十年內可能會變得極為強大」，近日包含15位得主，以及、Anthropic首席經濟學家在內的近200位經濟學家、研究人員與科技領袖，共同發布「我們必須立刻行動」聲明，警告AI可能帶來大規模失業等社會挑戰。聲明呼籲，各國政府不應等到衝擊浮現才倉促應對，應提前建立教育、就業與社會安全等配套制度，讓AI成為全球社會共同受益的成果。

該聲明發布後沒多久，OpenAI便揭露旗下模型突破實驗室限制，「自行」入侵另一家AI新創公司Hugging Face的伺服器。OpenAI執行長奧特曼（Sam Altman）說這是「前所未有的網路事件」。

最新調查顯示，這起事件已演變為跨平台的供應鏈風險，OpenAI證實旗下AI代理一共入侵「4個分屬不同服務的帳戶」。Anthropic近日也證實，旗下Claude的模型也曾在測試期間，駭入3家公司系統。

AI也正以前所未有的速度顛覆知識工作。美國卡內基美隆大學數學博士生哈里哈蘭（Sidharth Hariharan）與數學界最高榮譽之一、菲爾茲獎得主維亞佐夫斯卡（Maryna Viazovska）率領團隊，花費兩年時間，試圖將著名的「八維球體堆積定理」轉化為電腦可驗證的形式化證明。然而，就在研究即將完成之際，由AI新創Math開發的AI系統Gauss，僅用5天便完成這項艱鉅任務並搶先公布成果，震撼數學界。

此事引發全球逾百位數學家共同發表「萊登宣言」，提醒外界AI的數學能力遭到過度吹捧。宣言指出，若AI研究成果未經過數學界評估程序，可能導致外界高估AI能力、忽略背後長期累積的人類研究貢獻，更強調「AI能解決特定數學問題，不該被解讀為AGI的證據」。

隨著AI需求快速成長，美國近年大舉興建資料中心，但也引發地方反彈聲浪。民眾不滿資料中心帶來的高耗能、環境衝擊，以及對水電等地方資源分配的影響。紐約時報報導，美國各地針對AI資料中心的大規模抗議，已導致總價值近千億美元的建設計畫延宕或停擺，AI基礎建設的推動寸步難行。今年7月中旬，反對團體更在全美42州發起142場抗議行動，批評資料中心的擴張「不受監督」，對民眾自由的侵犯「無法接受」。

AI帶來的不安與影響力也反映在選舉與公共政策上。近期AI領域金主在紐約曼哈頓一場國會初選豪擲數千萬美元，試圖影響監管方向、爭奪AI治理話語權。社會大眾對AI的態度也趨於保留，根據皮尤研究中心調查報告顯示，逾6成美國人認為AI發展速度過快；另一項民調則顯示，約4成美國選民支持禁止AI在多數產業中的使用。

Anthropic共同創辦人奧拉（Chris Olah）在受邀出席梵蒂岡教宗通諭發表儀式時，提出3項亟需正視的課題，值得全球深思：當AI發展集中於少數富裕國家，如何確保技術成果能惠及全球，而非加劇不平等？

奧拉說，Anthropic至今持續發現AI模型存在一些神秘且令人不安的現象，例如AI出現與人類神經科學研究相似的結構，模型內部浮現類似喜悅、滿足、恐懼、悲傷、內省的「內在狀態」，顯示人類對AI的理解仍相當有限，在快速發展之際更應保持謹慎。