tu56888 NEWS

上傳生活照「AI一鍵脫衣」非法網站大增 民團籲慎防兒少性剝削新型態

上傳生活照「AI一鍵脫衣」非法網站大增 民團籲慎防兒少性剝削新型態

性影像傳播成為主流兒少樣態,除偷拍、誘拐兒少拍攝性影像的案件,使用生成式人工智慧(AI),讓兒少被「一鍵脫衣」已成為不可忽視的新型犯罪工具。展翅協會調查,去年檢舉熱線受理網路檢舉,兒少性影像案件近2千5百件,其中揪出網路上58個平台除上架兒少性影像,也提供AI換臉、脫衣等客製化服務,呼籲修法嚴禁AI用於性影像產製。

展翅協會今天公布「Web547網路檢舉熱線」觀察報告,全年受理4692件有效檢舉,其中有關性影像案件高達2447件,占比52.15%。展翅協會秘書長陳逸玲說,分析存有兒少性影像,發現共58網站同時提供性影像內容,以及一鍵換臉、脫衣等生成式AI服務,使用者自行上傳照片,指定相關情境,就能取得客製化違法影片。

「只要一張生活照,就能產生大量性影像內容,對兒少及女性造成巨大危機。」陳逸玲說,生成式AI性影像已開始在校園現蹤,據實務觀察,從國中至大學都有學童遇過同儕間使用AI換臉,看過彼此的生成式性影像情況,這些虛擬性影像對當事人傷害,不亞於真實性影像,會造成長期擔憂及心理壓力,亟需心理資源介入。

陳逸玲說,協會發現,兒少性剝削網站與博弈廣告高度相關,彼此利用流量導流,部分性影像網站甚至讓使用者利用博弈點數換取性影像,形成利益共生關係,除非法網站外,一鍵脫衣的工具,在Google Play、APP Store等應用程式下載平台上,可輕易取得,且現行法規無法對這類軟體開罰,呼籲政府與立法者,應全面禁止AI脫衣工具,並確立其刑事與民事責任。

展翅協會指出,科技公司、平台與開發者,也應負起責任。陳逸玲說,平台業者應落實安全設計,設計有效措施,要求全面偵測並阻擋涉及兒少的脫衣內容,並禁止任何脫衣工具上架,也要發布偵測結果的報告,藉此瓦解剝削兒少的經濟鏈。

衛福部保護司司長郭彩榕說,AI浪潮無法阻擋,兒少性剝削樣態已從實體轉為數位,「我們無法拒絕AI,但應設法在AI環境中,因應可能風險」,我國「兒少性剝削防制條例」在112年大幅修正,將兒少性影像明文入法,處罰範圍不限於真人,AI擬真性影像也在處罰範圍,製造、散布及持丟,都訂有相關罰則,衛福部另設性影像處理中心,全年無休接受民眾通報,下架相關影像。

展翅協會調查,去年檢舉熱線受理網路檢舉,兒少性影像案件近2千5百件,其中揪出網路上58個平台除上架兒少性影像,也提供AI換臉、脫衣等客製化服務。記者林琮恩/攝影
展翅協會調查,去年檢舉熱線受理網路檢舉,兒少性影像案件近2千5百件,其中揪出網路上58個平台除上架兒少性影像,也提供AI換臉、脫衣等客製化服務。記者林琮恩/攝影
展翅協會秘書長陳逸玲說,一鍵脫衣的工具,在Google Play、APP Store等應用程式下載平台上,可輕易取得,且現行法規無法對這類軟體開罰。記者林琮恩/攝影
展翅協會秘書長陳逸玲說,一鍵脫衣的工具,在Google Play、APP Store等應用程式下載平台上,可輕易取得,且現行法規無法對這類軟體開罰。記者林琮恩/攝影
衛福部保護司司長郭彩榕說,AI浪潮無法阻擋,兒少性剝削樣態已從實體轉為數位,「我們無法拒絕AI,但應設法在AI環境中,因應可能風險」。記者林琮恩/攝影
衛福部保護司司長郭彩榕說,AI浪潮無法阻擋,兒少性剝削樣態已從實體轉為數位,「我們無法拒絕AI,但應設法在AI環境中,因應可能風險」。記者林琮恩/攝影

Share:

最新文章 More Posts