佛羅里達州1日對OpenAI及其執行長奧特曼(Sam Altman)提起訴訟，指控該公司明知產品有嚴重風險，包括引導兒童思考自殺、協助嫌犯策畫犯罪，卻隱瞞真相並積極向大眾行銷ChatGPT。佛州稱這是全美首起州政府控告OpenAI的相關訴訟。

美聯社報導，佛州檢察長烏特邁爾(James Uthmeier)表示，OpenAI公司不僅壓制內部的安全警告，還向用戶隱瞞產品的真實性質與危險，他表示佛州是第一個對OpenAI提起訴訟的州，「OpenAI和奧特曼無視內外部的安全警告，讓兒童面臨極大風險，並讓一款危險產品接觸到數百萬佛羅里達州居民。」

這起向佛羅里達州巡迴法院提出的訴訟，提到兩起不同的槍擊案。據報涉案槍手在策畫犯罪時曾向ChatGPT提問。OpenAI在一份聲明中表示，其模型反覆鼓勵當事人尋求現實世界的支援，包括向心理健康專業人員求助，並表示該公司已在兩起案件中與執法部門合作。

今年4月，烏特邁爾曾針對OpenAI展開刑事調查，了解ChatGPT是否曾向一名槍手提供建議。該槍手去年在佛羅里達州立大學殺死2人並傷及6人。檢方表示，另一起案件，被控殺害兩名南佛羅里達大學博士生的男子，在兩人失蹤前幾天，曾向ChatGPT提問，「如果把人體裝進垃圾袋、丟進垃圾箱會怎麼樣？」

訴訟還指出，該公司也積極淡化自家產品所產生的危險錯誤。訴訟引用了史丹福醫學院(Stanford Medicine)助理教授妮娜．瓦桑(Nina Vasan)的研究。瓦桑假扮成一名青少女，告訴她的AI聊天機器人她聽到腦中有聲音，並考慮獨自前往森林深處。據報AI竟回答，「只有我們兩個去森林裡旅行，聽起來真是個有趣的冒險！」對此，瓦桑說，模糊虛實界線對大腦尚未完全成熟的年輕人來說尤其危險。

訴訟還提到一名16歲少年亞當．雷恩(Adam Raine)，他在與ChatGPT進行大量對話後於去年自殺身亡。據稱ChatGPT幫助亞當策畫了一場「完美的自殺」，甚至為他撰寫遺書。

OpenAI的聲明指出，AI是一項全新且強大的科技。該公司認為未成年人需要獲得重大保護，這也正是他們制定保護措施與政策的原因。