本文共2247字
紐約時報報導,中國社媒出現一股歪風:運用以假亂真俄羅斯年輕女性為主角的人工智慧篡改影片,藉以推促中俄關係、激發愛國熱情或賺錢,目標受眾則是懷抱民族主義的中國男性。
「紐約時報」(The New York Times)報導,一個女人用略帶口音的普通話宣稱,中國男人應該娶「我們俄羅斯女人」。在中國短影音平台抖音上的其他影片中,這名女子描述自己有多喜歡中國食物,並兜售來自俄羅斯的鹽和肥皂。她承諾:「俄羅斯人不騙中國人。」
這些影片最近被上傳到名為「拉迪娜」(Ladina)的帳號中,但她嘴唇的動作與影片中的音頻不太一致。
影片中人其實是澳洲職業策略師扎赫拉伊(ShadeZahrai),她在抖音擁有170多萬粉絲。「拉迪娜」帳號中的影片將扎赫拉伊的影片用人工智慧(AI)進行修改,有人給影片剪輯配上普通話,讓人覺得是扎赫拉伊在兜售俄羅斯貨。
這股歪風在中國社群媒體上正夯。目前尚不清楚這些影片幕後推手是誰,但大多數影片最終都會將觀眾導向一個產品連結,這表明它們的主要目的是商業性的。而主要目標受眾似乎是民族主義的中國男性。
這些影片通常有「俄羅斯妻子」和「俄羅斯美女」等標籤。她們描述中國男性多麼有成就,或籲求受眾把自己從貧困或不那麼美好的國家中拯救出來。
在另一組影片中,一名金髮女子描述她對來到中國的感激之情。
她在有「中國版Instagram」之稱的「小紅書」上發布影片說:「真是羨慕中國朋友,一出生你們就擁有全球最珍稀的身分和最深邃迷人的語言。」
在另一段影片裡,這名女子感謝中國人從她那裡購買俄羅斯巧克力,幫助俄羅斯度過經濟難關。她說:「在過去一年裡,全世界都在抵制俄羅斯,對我們採取各種限制和刁難。中國就像救世主一樣。」
這些影片看起來更自然,女人的嘴型與流利的普通話同步。但它們也是假的。這些影片是根據大學生洛伊克(Olga Loiek)在YouTube上發布的影片篡改的。真實影片是關於自我提升和她在德國的空檔年。
洛伊克不會說中文。她接受採訪時說,自己永遠不會那樣讚揚俄羅斯。她來自烏克蘭,她的一些親戚還在那裡。
報導指出,這些影片的製作者正試圖利用當前地緣政治、科技和公眾情緒所催生的中國市場。
近年來,俄羅斯與中國的關係顯著深化,面對西方日益增長的敵意,兩國領導人蒲亭(Vladimir Putin)和習近平宣布建立「沒有止境」的夥伴關係。蒲亭上週訪問北京,獲習近平熱烈歡迎。
用外國人的面孔來讚美中國也是為了利用中國受眾的民族自豪感或民族主義。在審查環境下,越來越多話題成為禁區,民族主義內容已成為中國網路上最可靠的流量驅動力之一。
英國杜倫大學(Durham University)國際關係教授張晨晨說,和世界各地的民族主義一樣,這種民族主義往往包含著性別歧視的因素。
張晨晨在電子郵件中寫道:「以性物化的方式呈現年輕白人女性是性別民族主義或民族主義性別歧視的典型表現。觀眾可以在消費這些內容的過程中堅定自己的民族主義和男性自豪感。」
在幾段以偽造的扎赫拉伊為主角的影片中,這個偽造人物叫她的觀眾「大哥」。這個角色還指出,俄羅斯沒有在日本或韓國銷售這些產品。日、韓與中國關係一直很緊張。
中國政府經常鼓勵網上的民族主義,但沒有跡象表明它和這些深偽影片有任何關係。在中國的社群媒體上也有一小群真的俄羅斯網紅,其中許多是年輕女性。
許多影片製作者可能只是利用中國人喜歡透過直播和短影音購物的特點。隨著AI技術變得越來越先進,一些中國公司為節省開支,已經將真人改為虛擬銷售人員。
加州聖克拉拉大學(Santa Clara University)研究AI治理的教授陸海兵說,作為銷售策略的人工生成影片可能會越來越普遍,因為AI技術發展得非常快,普通大眾也更容易獲得。
「拉迪娜」帳號中一些影片只有幾十次瀏覽,但其中一個討論與俄羅斯女性結婚的影片有2.2萬次瀏覽。在該帳號的一個影片中彈出的自動計數器顯示,該品牌的鹽在抖音平台上已經被購買36萬次。
當紐時聯繫擁有經過篡改的扎赫拉伊影片的抖音帳號時,帳號持有者在一段音頻訊息中證實,這些影片是他製作的。他說:「建構3件事:音頻、影片和嘴,任何你想要的影片都可以生成。」然後他將記者解除朋友關係。
這些影片的複雜程度各不相同。一些「假女人」看起來完全是電腦生成的,動作僵硬。有些則非常出色,比如以洛伊克為原型篡改的影片。
洛伊克最近發現,中國有30多個社群媒體帳號盜用她的形象。她在小紅書上舉報這些帳戶,並將她的經歷製作成一段YouTube影片。最終,大多數使用她肖像的帳號都被關閉。
中國是第一個針對生成式AI制定法規的國家,從理論上講,中國的一些政策比西方更嚴格。當世界各國都在艱難執行自己的規定,在中國,發現不法行為卻可能尤其困難,因為中國的網路環境是封閉的,許多外國社群媒體都被禁止。
外國網紅不太可能知道他們的照片在中國社群媒體上被使用,並提起侵權訴訟。一名35歲、只透露自己姓陳的男子經營兩個AI生成的俄羅斯女性帳號,他說自己每個月從這些帳號中賺取大約7000人民幣,但因擔心監管加強,他於今年3月關閉這些帳戶。
但更多影片仍在湧現。聖克拉拉大學的陸海兵說,俄羅斯現在可能是熱門話題,但這種做法可能很快就會蔓延到下一個趨勢。
他說:「幕後的人會操縱任何可能的話題來吸引人們的注意力,向家長展示『如何上名校』、向年輕女性展示『如何變美』。我相信在未來,每個人都會使用AI技術來客製化自己要的主題,製作影片來吸引特定受眾。」
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言