以色列與哈瑪斯開戰以來，加薩走廊被炸毀的房屋和街道照片中，有些畫面極度恐怖，例如浴血棄嬰，這些影像是利用AI深偽技術合成，在網路上有數以百萬計的瀏覽量。
美聯社報導，如果仔細觀察會發現一些破綻，例如手指彎得很怪，或眼睛閃爍著不自然光芒，這些都是數位欺騙的跡象。
/*.innity-apps-underlay-ad {z-index: 34 !important; }*/
.innity-apps-underlay-ad ~ .header {z-index: 35;}
.innity-apps-underlay-ad ~ .main-content .inline-ads { background: transparent;}
#eyeDiv ~ .footer{ position: relative; z-index: 2;} /* sizmek_underlay 投遞調整置底 z-index 權重 */
.article-content__abbr__text {display:inline-block;} /* to be remove */
googletag.cmd.push(function() { googletag.display(‘ads-inline’); });
然而，製造這些影像來激發的https://tu56888news.com/wp-content/uploads/2023/11/e68092-303.html火，卻是非常真實的情緒。
以色列與巴勒斯坦武裝團體「哈瑪斯」（Hamas）戰爭相關照片生動且強烈地凸顯人工智慧（AI）作為宣傳工具的潛力，被用於創造逼真的屠殺影像。自上個月以哈戰爭爆發以來，社群媒體上流傳的數位修圖被用來製造關於傷亡究責的不實說法，或欺騙民眾有暴行但實際上從未發生。
雖然網路上流傳的不實說法大多不需要動用到AI，而是來自更傳統的來源，但科技進步也讓頻率變高，而且幾乎沒有監管機制。這使得AI成為另類武器的潛力變得顯而易見，也讓人得以一窺未來衝突、選舉和其他重大事件中將會發生的情況。
總部設於舊金山和巴黎的科技公司CREOpoint利用AI評估網路說法的正確性，執行長戈登斯坦（Jean-Claude Goldenstein）表示：「情況會惡化，變得更糟，之後才會好轉。」這家公司建立一個資料庫，儲存有關加薩走廊（Gaza Strip）最瘋傳的「深偽」（deepfake）技術生成內容，「有了生成式AI，照片、影片和音檔將有前所未見的『升級』」。
在某些案例中，其他衝突或災難的照片被重新利用，冒充成新照片。另有生成式AI程式被用來「無中生有」創造新的影像，例如有個嬰兒在轟炸殘骸中哭泣的影像在衝突初期迅速流傳。
其他AI生成影像的例子包括據稱是以色列飛彈襲擊的影片，或戰車駛過被摧毀的社區、家屬在瓦礫堆中搜尋生還者的影片。
在許多案例中，假照片目的似乎是要激起強烈的情緒反應。在血腥衝突初期，以色列和哈瑪斯的支持陣營都指稱對方傷害孩童和嬰兒，哭泣嬰兒的深偽影像隨即被當成「證據」。
追蹤戰爭假消息的非營利組織「對抗網路仇恨中心」（Center for Countering Digital Hate）執行長阿邁德（Imran Ahmed）表示，製作這類影像的宣傳人員善於瞄準人們心中最深層的衝動和焦慮。
影像愈令人厭惡，網路用戶就愈有可能記住並且分享，從而在不知不覺中成為假消息傳播的幫凶。阿邁德說：「假消息目的是讓你參與其中。」
俄羅斯去年入侵烏克蘭後，網路上也開始流傳類似的AI生成欺騙性內容。一段經過修改的影片似乎顯示烏克蘭總統澤倫斯基（Volodymyr Zelenskyy）下令烏克蘭人投降。這類說法直到上週都還在持續流傳，顯示即使很容易被揭穿的錯誤資訊也可以持久存在。
每當有新的衝突或選舉季節，假消息傳播者又有機會展示最新AI進展。許多AI專家和政治學家對來年的風險發出警告，屆時有多個國家將舉行重大選舉，包括美國、台灣、印度、巴基斯坦、烏克蘭、印尼和墨西哥。
AI和社群媒體可能被用來向選民傳播謊言的風險引發美國兩黨議員擔憂。維吉尼亞州民主黨籍聯邦眾議員康諾里（Gerry Connolly）在最近有關深偽技術危險的聽證會上表示，美國必須資助研發目的在對抗其他AI的AI工具。
世界各地許多新創科技公司正在開發新程式，協助揪出深偽影像、在影像中添加浮水印以證明來源，或掃描文字以驗證任何可能有AI介入的似是而非說法。
電腦科學家多爾曼（David Doermann）表示，雖然這種技術有前景，但利用AI撒謊的不肖人士往往領先一步。多爾曼曾在美國國防先進研究計畫局（DARPA）協助因應AI操縱影像構成的國安威脅。
現為大學教授的多爾曼表示，若要有效因應AI假消息構成的政治和社會挑戰，需要更好的技術和監管機制、自願性產業標準以及對數位素養計畫的廣泛投資，以助網路用戶了解分辨真假的方式，「偵測並試圖將這些內容撤下不是辦法，我們需要更大的解決方案」。
🔸【戰火發生時間軸】以巴衝突不斷更新 一文追蹤最新戰況
🔸【故事背後的歷史】哈瑪斯突襲 看懂以色列、巴勒斯坦百年仇恨
🔸【以巴衝突懶人卡】百年仇恨難解！看現場、戰火故事、戰爭影響
哈瑪斯
巴勒斯坦
googletag.cmd.push(function() { googletag.display(‘news_txtdown’); });
(function(d,a,b,l,e,_) {
if(d[b]&&d[b].q)return;d[b]=function(){(d[b].q=d[b].q||[]).push(arguments)};e=a.createElement(l);
e.async=1;e.charset=’utf-8′;e.src=’//static.dable.io/dist/plugin.min.js’;
_=a.getElementsByTagName(l)[0];_.parentNode.insertBefore(e,_);
})(window,document,’dable’,’script’);
dable(‘setService’, ‘udn.com’);
dable(‘renderWidgetByWidth’, ‘dablewidget_Ql91Z1al_2o2KvKr7’, {ignore_items: true});
googletag.cmd.push(function() { googletag.display(‘ads-Mobile_300x250–article’); });
googletag.cmd.push(function() { googletag.display(‘udn-520×290’); });
.article-content__ads–bd { font-size: 18px; text-align: left; padding: 10px 0; line-height: 1.3; }
.article-content__ads–bd a { display: block; text-decoration: none; }
.article-content__ads–bd a:hover { text-decoration: underline; }
.article-content__ads–bd a:after { content: “”; height: 1px; border-top: 1px solid #ccc; border-bottom: 1px solid #ccc; width: 100%; display: block; margin: 3px 0 0; }
tips = new Array(3); //設定隨機顯示文字數
tips[0] =”👽 年產值5億！稀有觀賞蝦從10萬跌到10元 為何業者笑呵呵？”;
tips[1] =”📙 小紅書爆款「亞裔狼系高冷妝容」教學！精緻感+氣勢爆棚，亞洲臉也超適合！”;
tips[2] =”😱 你也是嗎？百人Google Drive雲端硬碟資料全消失”;
tips[3] =”🎴 全民問答卡牌戰！挑戰抽蘋果手錶、咖啡機、藍芽喇叭”;
index = Math.floor(Math.random() * tips.length);
document.write( tips[index] );
var tags = document.querySelectorAll(“.tag”);
for (let tag of tags) {
tag.addEventListener(“click”,function(e) {
e.preventDefault(); // 不讓他過去
var rel = tag.getAttribute(“data-rel”);
tag_url = “https://misc.udn.com/api/EventCollect”+rel;
fetch(tag_url,{cache: “no-cache”})
.then(function(response) {
location.href = tag.getAttribute(‘href’);
})
.catch(function () {
location.href = tag.getAttribute(‘href’);
})
});
}
延伸閱讀
googletag.cmd.push(function() { googletag.display(‘ads-native_extend_news-3’); });
googletag.cmd.push(function() { googletag.display(‘ads-native_extend_news-3-mobile’); });
googletag.cmd.push(function() { googletag.display(‘ads-native_extend_news-6’); });
googletag.cmd.push(function() { googletag.display(‘ads-native_extend_news-6-mobile’); });
<!–
googletag.cmd.push(function() { googletag.display(‘ads-native_extend_news-6’); });
–>
<!–
googletag.cmd.push(function() { googletag.display(‘ads-native_extend_news-6-mobile’); });
–>
window._taboola = window._taboola || [];
if (window.__UDN__.isMobile) {
_taboola.push({
mode:’alternating-mobile-1×5′,
container: ‘taboola-mobile-below-article-thumbnails’,
placement: ‘Mobile Below Article Thumbnails-Global’,
target_type: ‘mix’
});
}
相關新聞
以哈休戰第5天 哈瑪斯釋12人質、以色列釋30巴囚
以色列與哈瑪斯在加薩走廊的休戰進入第5天，以色列軍方表示，今天獲釋的12名人質，包括10名以色列人和兩名外國人，已返抵以…
以巴休兵第五天！10+2人質獲釋 部分由聖戰組織移交 以釋30巴勒斯坦人
路透報導，當地時間28日，以哈休兵進入第五天，紅十字國際委員會（ICRC）證實接收12名人質，分別為10名以色列人和兩名…
假嬰兒真恐怖 加薩戰火深偽影像助長AI誤導疑慮
以色列與哈瑪斯開戰以來，加薩走廊被炸毀的房屋和街道照片中，有些畫面極度恐怖，例如浴血棄嬰，這些影像是利用AI深偽技術合成…
以巴休戰延長 美首架軍機載援助加薩物資抵埃及
美國今天派出3架軍機中的第一架前往埃及，來運送對加薩地區而言至關重要的人道援助。美國承諾要在巴勒斯坦武裝團體哈瑪斯和美國…
以情報單位內部電郵曝光！軍方7月接獲突襲警告 被當「假想」未上傳
英國衛報報導，以色列網路情報單位8200內部電子郵件曝光，軍方和情報官員早在遇襲前三個月接獲警告，內容詳盡指出哈瑪斯模擬…
以哈休戰法國首批人質獲釋 孩童被逼看戰事心理受創
以哈休戰進入第5天，27日獲釋的第4批人質中包括3名法以雙國籍孩童。據家屬轉述，孩童身體大致良好，但透露遭擄期間被逼迫看…
window._taboola = window._taboola || [];
if (!window.__UDN__.isMobile) {
_taboola.push({
mode: ‘alternating-desktop-3×6’,
container: ‘taboola-below-article-thumbnails’,
placement: ‘Desktop Below Article Thumbnails-Global’,
target_type: ‘mix’
});
}
贊助廣告
googletag.cmd.push(function() {
var ads_SP_300x250 = googletag.sizeMapping().
addSize([768, 200], [300, 250]).
addSize([0, 0], []).
build();
googletag.defineSlot(‘/129853887/udn.com/2_News/3_News-PC/4_News-PC-a09’, [300, 250], ‘ads-SP300x259_L’).defineSizeMapping(ads_SP_300x250).addService(googletag.pubads());
googletag.display(‘ads-SP300x259_L’);
});
googletag.cmd.push(function() {
var ads_SP_300x250 = googletag.sizeMapping().
addSize([768, 200], [300, 250]).
addSize([0, 0], []).
build();
googletag.defineSlot(‘/129853887/udn.com/2_News/3_News-PC/4_News-PC-a10’, [300, 250], ‘ads-SP300x259_R’).defineSizeMapping(ads_SP_300x250).addService(googletag.pubads());
googletag.display(‘ads-SP300x259_R’);
});
商品推薦
udn討論區
- 張貼文章或下標籤，不得有違法或侵害他人權益之言論，違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論，經網友檢舉或本網站發現，聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤，聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者，請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利，聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
window._taboola = window._taboola || [];
_taboola.push({
mode: window.__UDN__.isMobile ? ‘thumbs-feed-01’ : ‘thumbs-feed-01-b’,
container: ‘taboola-below-discuss-thumbnails’,
placement: window.__UDN__.isMobile ? ‘Mobile Below Article Feed-Global’ : ‘Desktop Below Article Feed-Global’,
target_type: ‘mix’
});
FB留言