用人工智能（AI）制造的假新聞是如何運作的？它們呈現了怎樣的敘事方式？它們有多危險？在這篇文章中，德國之聲事實核查人員將回答有關人工智能圖像在以巴衝突中所扮演角色的幾個關鍵問題。
人工智能工具是如何制造假圖像的？
如今，人工智能無處不在，在戰爭中更是難以避免。人工智能應用在今年有了很大的改進，現在幾乎任何人都可以使用標准的人工智能生成器來生成圖像，這些圖像至少第一眼看上去是真實的。
/*.innity-apps-underlay-ad {z-index: 34 !important; }*/
.innity-apps-underlay-ad ~ .header {z-index: 35;}
.innity-apps-underlay-ad ~ .main-content .inline-ads { background: transparent;}
#eyeDiv ~ .footer{ position: relative; z-index: 2;} /* sizmek_underlay 投遞調整置底 z-index 權重 */
.article-content__abbr__text {display:inline-block;} /* to be remove */
googletag.cmd.push(function() { googletag.display(‘ads-inline’); });
要做到這一點，用戶只需要向Midjourney或Dall-E等人工智能工具輸入提示，包括規格和訊息。然後，這些工具會將文字提示轉換成圖像。
這些工具既能生成更具藝術性的插圖，也能生成逼真的「照片」。生成過程基於所謂的機器學習。
例如，如果要求人工智能生成器制作一位70歲的老人騎著自行車的圖像，它們就會搜索數據庫，將提示語與圖像配對。
根據現有的訊息，人工智能生成器就會生成老年騎車人的圖像。得益於越來越多的訊息輸入和技術更新，這些工具已經有了很大改進，並在不斷地學習。
所有這些技術都適用於與中東衝突有關的圖像。
根據我們的觀察，這些假場景往往是為了通過捕捉情感瞬間來傳播某些宣傳敘事。關於這一點，我們稍後再談。
人工智能專家法裡德（Hany Farid）說，在「情緒強烈高漲」的衝突中，包括通過人工智能圖像傳播的虛假訊息，異常有效。
法裡德是美國加州大學伯克利分校研究數碼鑑別學的教授。他告訴德國之聲，衝突前線是制造和傳播虛假內容、激化情緒的完美溫床。
有多少有關以巴戰爭的人工智能圖像在流傳？
人工智能輔助制作的圖像和影片已經增加了與烏克蘭戰爭有關的虛假訊息，而且還在繼續增加。
自2022年俄羅斯入侵烏克蘭以來，人工智能工具發展迅速，許多觀察家早前預計它將在以巴戰爭中扮演更重要的角色。然而，據專家稱，人工智能圖像並沒有洶湧而來。
歐洲數字媒體觀察站的專家卡內塔（Tomasso Canetta）說：「在以巴衝突及其相關的虛假訊息中，我們並沒有看到人工智能生成圖像的大規模使用。」
他說：「目前實際上是用舊圖片和舊影片傳播的虛假訊息數量較大，相比之下，人工智能生成的圖片有一些，但不是很多。」
如何識別以巴衝突中的假新聞？
不過，這並不意味著技術不是一個造假手段。法裡德解釋說，他認為人工智能造假的數量並不是關鍵因素。
「你可以只製造兩張虛假圖片，但如果它們在網上瘋傳，上億人都會看到。這就會產生巨大的影響。」他說，「因此，這不一定是一場數量游戲，我認為真正問題是訊息生態系統的污染。」
人工智能圖像在以巴戰爭中扮演了什麼角色？
在社交媒體網絡上流傳的人工智能圖像通常會引發強烈的情緒。
卡內塔認為這些虛假圖像主要有兩類：一類關注平民苦難並引起人們同情，另一類宣傳愛國情緒，誇大人們對以色列、哈瑪斯或巴勒斯坦人的支持。
例如，上圖中一位父親和他的五個孩子在一堆廢墟前的照片就屬於第一類。在以色列轟炸加薩地帶時，這張圖片在X（前Twitter）和Instagram上被多次分享，觀看量達到數十萬次。
好在至少在X上，這張圖片被標注為假造。可以通過人工智能圖像中典型的各種錯誤和不協調來識別它。
例如，男子的右肩高得不成比例。從下面伸出的兩條腿也很奇怪，好像是從他的毛衣裡長出來的一樣。
同樣讓人覺得奇怪的是，兩個男孩摟著父親脖子的手是如何交疊在一起的？此外，畫面中還有幾只手和腳，手指和腳趾不是過多就是過少。
上面這張在X上瘋傳的人工智能假圖也有類似的異常現象，圖片顯示一個巴勒斯坦大家庭在一片廢墟中一起進餐。
下面這張圖片顯示，士兵們揮舞著以色列國旗，走過一個滿是被炸毀房屋的定居點。這屬於第二類，旨在激發愛國主義情感。
在Instagram和X上分享這張圖片的賬戶似乎主要是親以色列的，並對所描述的事件表示歡迎。德國之聲還在保加利亞的一家在線媒體上發現，這張圖片被用作文章配圖，但並未標注其為人工智能生成。
這張圖片上看起來最假的地方是以色列國旗飄蕩的方式。中間的街道也顯得過於乾淨，而瓦礫看起來則非常均勻。被摧毀的建築看起來也像雙胞胎，以相當規律的間隔豎立著。
總之，視覺印象過於「整潔」，顯得不真實。這種完美無瑕讓圖像看起來像是畫出來的，這也是人工智能圖像的典型特徵。
此類人工智能圖像來自何處？
大多數人工智能生成的圖片都由社交媒體上的個人帳戶發布。這些帳戶的個人訊息既有真實的，也有明顯虛假的。
不過，人工智能生成的圖片也可用於新聞產品。目前，許多媒體公司正在討論這是否可行，在哪些情況下能用或者有效。
軟件公司Adobe於2022年底在其圖片庫中加入了人工智能生成的圖片，這引起了軒然大波。這些圖片在數據庫中都有相應的標注。
批評者認為這種做法很有問題，但一些在線網站和媒體仍在使用這些圖片，而且沒有標注人工智能生成。例如，上面這張圖片出現在「Newsbreak」網站上，但沒有任何相關標注。德國之聲通過反向圖片搜索發現了這一點。
就連歐洲議會的科學服務機構歐洲議會研究服務處也在一篇關於中東衝突的在線文章中使用了Adobe數據庫中的一張假圖，同樣沒有標明這是一張人工智能生成的圖片。
歐洲數字媒體觀察站的專家卡內塔呼籲記者和媒體專業人士在使用人工智能圖像時要非常慎重，最好不要使用人工智能圖像，尤其是在涉及加薩戰爭等真實事件時。
如果是為了說明未來技術發展，相關文章則可能適合使用人工智能生成的配圖。
人工智能圖像可能造成多大損害？
傳播人工智能生成的內容會讓讀者對他們在網上遇到的一切感到不安全。
加州大學伯克利分校研究學者法裡德解釋說：「如果我們進入了這個可以操縱圖像、音訊和影片的世界，那麼一切都會受到質疑。因此，你會看到真實的東西也會被說成是假的。」
下面的案例正是如此：以色列總理內塔尼亞胡和美國保守派評論員夏皮羅（Ben Shapiro）等人在X上分享了一張據稱顯示被燒焦的以色列嬰兒屍體的圖片。
隨後，備受爭議的反以色列網紅欣克爾（Jackson Hinkle）聲稱，這張圖片是用人工智能製作的。
作為所謂的證據，欣克爾在貼文中附上了來自人工智能檢測器「AI or not」的截圖，該檢測器將該圖片歸類為人工智能生成。
欣克爾在X上的這一指控被瀏覽了2000多萬次，並引發了激烈討論。
最後，許多人表示，這張圖片很可能是真實的，而欣克爾說法是錯誤的。法裡德告訴德國之聲，他在圖片中找不到任何不協調的地方，無法證明其為人工智能假造。
你可能會問，這怎麼可能呢？人工智能檢測器的確可以用來檢測圖片或文字是否可能是人工智能生成的，但它仍然非常容易出錯。根據所檢測圖像的不同，它們的判斷有對有錯，而且往往只能做出可能的判斷，而不是百分之百的確定。
因此，它們最適合作為檢查人工智能假圖的輔助工具，但絕對不是唯一的工具。
德國之聲的事實核查團隊也未能在這張可能顯示嬰兒屍體的圖片中發現任何明顯的人工智能制作痕跡。
奇怪的是，當我們用人工智能檢測器「AI or not」親自檢測時，它並沒有把這張圖片歸類為人工智能生成的圖片，而且還指出圖片質量很差。
另一個人工智能檢測器Hive moderation也認為該圖片是真實的。
©2023年德國之聲版權聲明：本文所有內容受到著作權法保護，如無德國之聲特別授權，不得擅自使用。任何不當行為都將導致追償，並受到刑事追究。
本文章由德國之聲授權提供】
🔸【戰火發生時間軸】以巴衝突不斷更新 一文追蹤最新戰況
🔸【故事背後的歷史】哈瑪斯突襲 看懂以色列、巴勒斯坦百年仇恨
🔸【以巴衝突懶人卡】百年仇恨難解！看現場、戰火故事、戰爭影響
哈瑪斯
巴勒斯坦
googletag.cmd.push(function() { googletag.display(‘news_txtdown’); });
(function(d,a,b,l,e,_) {
if(d[b]&&d[b].q)return;d[b]=function(){(d[b].q=d[b].q||[]).push(arguments)};e=a.createElement(l);
e.async=1;e.charset=’utf-8′;e.src=’//static.dable.io/dist/plugin.min.js’;
_=a.getElementsByTagName(l)[0];_.parentNode.insertBefore(e,_);
})(window,document,’dable’,’script’);
dable(‘setService’, ‘udn.com’);
dable(‘renderWidgetByWidth’, ‘dablewidget_Ql91Z1al_2o2KvKr7’, {ignore_items: true});
googletag.cmd.push(function() { googletag.display(‘ads-Mobile_300x250–article’); });
googletag.cmd.push(function() { googletag.display(‘udn-520×290’); });
.article-content__ads–bd { font-size: 18px; text-align: left; padding: 10px 0; line-height: 1.3; }
.article-content__ads–bd a { display: block; text-decoration: none; }
.article-content__ads–bd a:hover { text-decoration: underline; }
.article-content__ads–bd a:after { content: “”; height: 1px; border-top: 1px solid #ccc; border-bottom: 1px solid #ccc; width: 100%; display: block; margin: 3px 0 0; }
tips = new Array(3); //設定隨機顯示文字數
tips[0] =” 🤥 簡訊淪詐騙／系統被詐團利用 全台最大簡訊業者「自救」攔詐找回清白”;
tips[1] =”🎵Netflix《無人島的DIVA》朴恩斌展現驚人唱功！盤點韓國6位「被演員耽誤的歌手」”;
tips[2] =”😨 Google 12月開始刪除「閒置帳戶」！2年沒用資料全砍 “;
tips[3] =”🎁 【期間限定】不用搶優惠、搶折扣，登(加)入會員烘焙手作坊禮盒免費送”;
index = Math.floor(Math.random() * tips.length);
document.write( tips[index] );
var tags = document.querySelectorAll(“.tag”);
for (let tag of tags) {
tag.addEventListener(“click”,function(e) {
e.preventDefault(); // 不讓他過去
var rel = tag.getAttribute(“data-rel”);
tag_url = “https://misc.udn.com/api/EventCollect”+rel;
fetch(tag_url,{cache: “no-cache”})
.then(function(response) {
location.href = tag.getAttribute(‘href’);
})
.catch(function () {
location.href = tag.getAttribute(‘href’);
})
});
}
window._taboola = window._taboola || [];
if (window.__UDN__.isMobile) {
_taboola.push({
mode:’alternating-mobile-1×5′,
container: ‘taboola-mobile-below-article-thumbnails’,
placement: ‘Mobile Below Article Thumbnails-Global’,
target_type: ‘mix’
});
}
相關新聞
以巴徹夜作戰…加薩最大醫院燃料耗盡停擺 新生兒死在保溫箱內
路透報導，加薩衛生部發言人奇德拉（Ashraf al-Qidra）表示，加薩規模最大醫院西法醫院（Al-Shifa Ho…
AI圖在以巴衝突扮演什麼角色？專家回應「六大疑問」揭關鍵
用人工智能（AI）制造的假新聞是如何運作的？它們呈現了怎樣的敘事方式？它們有多危險？在這篇文章中，德國之聲事實核查人員將回答有關人工智能圖像在以巴衝突中所扮演角色的幾個關鍵問題。
學生團體反以活動屢含威脅言論 遭哥倫比亞大學停權
美國知名的哥倫比亞大學今天表示，校內2個學生團體針對以色列和哈瑪斯戰爭而發起的抗議活動「包括威脅性言論和恐嚇」，因此整個…
倫敦大批群眾上街挺巴勒斯坦 2000警力嚴陣以待
數十萬名示威群眾將走上倫敦街頭支持巴勒斯坦，由於今天是英國的國殤紀念日，英國首相蘇納克（Rishi Sunak）已批評這…
衝突逾1個月！中東國家聚沙國會商加薩戰事 伊斯蘭聖戰組織看衰
法新社報導，阿拉伯國家領袖和伊朗總統11日會齊聚沙烏地阿拉伯首都利雅德舉行峰會，預期將強調以色列應在捲入其他國家前終止加…
最大醫療機構遭轟炸…以軍逼近4間加薩醫院 院長絕望：被戰車包圍
巴勒斯坦加薩走廊一家醫院的院長10日告訴記者，以色列的戰車已經包圍了院區。同時有報導指出，加薩最大的醫療機構遭到了「轟炸…
window._taboola = window._taboola || [];
if (!window.__UDN__.isMobile) {
_taboola.push({
mode: ‘alternating-desktop-3×6’,
container: ‘taboola-below-article-thumbnails’,
placement: ‘Desktop Below Article Thumbnails-Global’,
target_type: ‘mix’
});
}
贊助廣告
googletag.cmd.push(function() {
var ads_SP_300x250 = googletag.sizeMapping().
addSize([768, 200], [300, 250]).
addSize([0, 0], []).
build();
googletag.defineSlot(‘/129853887/udn.com/2_News/3_News-PC/4_News-PC-a09’, [300, 250], ‘ads-SP300x259_L’).defineSizeMapping(ads_SP_300x250).addService(googletag.pubads());
googletag.display(‘ads-SP300x259_L’);
});
googletag.cmd.push(function() {
var ads_SP_300x250 = googletag.sizeMapping().
addSize([768, 200], [300, 250]).
addSize([0, 0], []).
build();
googletag.defineSlot(‘/129853887/udn.com/2_News/3_News-PC/4_News-PC-a10’, [300, 250], ‘ads-SP300x259_R’).defineSizeMapping(ads_SP_300x250).addService(googletag.pubads());
googletag.display(‘ads-SP300x259_R’);
});
商品推薦
udn討論區
- 張貼文章或下標籤，不得有違法或侵害他人權益之言論，違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論，經網友檢舉或本網站發現，聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤，聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者，請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利，聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
window._taboola = window._taboola || [];
_taboola.push({
mode: window.__UDN__.isMobile ? ‘thumbs-feed-01’ : ‘thumbs-feed-01-b’,
container: ‘taboola-below-discuss-thumbnails’,
placement: window.__UDN__.isMobile ? ‘Mobile Below Article Feed-Global’ : ‘Desktop Below Article Feed-Global’,
target_type: ‘mix’
});
FB留言