tu56888 NEWS

放寬色情內容限制惹議 奧特曼說OpenAI不是「世界道德警察」

放寬色情內容限制惹議 奧特曼說OpenAI不是「世界道德警察」

在計劃允許其聊天機器人出現色情內容並引起外界強烈反彈後,該公司執行長(Sam Altman)15日表示,此事所引發的關注遠超乎其預期,但OpenAI「不是民選的世界道德警察」。

OpenAI在14日宣布組成一個由八位專家組成的委員會,他們將深入探討AI如何影響使用者的心理健康、情緒和動機。奧特曼當天發布了該公司放鬆限制的計畫,他在X貼文說,OpenAI現在有了新工具並且能夠緩解「嚴重的心理健康問題」,因此可以「安全地放寬」大多數限制。

財經新聞網站CNBC報導,OpenAI此舉隨即在社群媒體上引發了一陣騷動和反彈,而奧特曼的貼文也引起美國國家性剝削中心(NCOSE)等組織的注意,這些組織呼籲OpenAI撤回允許在ChatGPT上發布色情內容的決定。

奧特曼15日在X貼文中試圖澄清這項作法,他說OpenAI「非常重視把成年用戶當成年人看待」,但仍不會容許「對他人造成傷害的內容」。他說:「就像社會區分其他合適的界線(例如限制級電影)一樣,我們也想做類似的事情。」

OpenAI近幾月來擴大安全控管範圍,因為這家(AI)新創公司在保護用戶(尤其是人)方面面臨日益嚴格的審查。今年9月美國聯邦貿易委員會(FTC)對OpenAI和其他科技公司展開調查,以了解ChatGPT等聊天機器人對兒童和青少年可能造成的負面影響。

OpenAI也捲入了一起訴訟,原告將其十幾歲兒子的自殺身亡歸咎於ChatGPT。在調查和訴訟後的數個月中,該公司已公開採取多項措施,以增強ChatGPT的安全性。

Share:

最新文章 More Posts