廣告

人人皆可換臉,眼見不再為真:深度偽造如何影響道德?

感同身受是屬於人類的智慧,而深度偽造將可能帶來更大的信任危機,對視覺文本的不信任也會深刻瓦解社會的意義和價值空間。 印度Tehelka雜誌社的記者拉娜•阿尤布(Rana Ayyub)曾臥底報導了印度古吉特拉暴亂中的教徒屠殺,揭露這一事件中官員的黑幕和不作為,沒想到,等待她的不僅是死亡威脅,還有以其為主角的偽造色情視頻。一些人利用深度偽造技術,將她的臉與色情片女主角的臉互換,合成粗糙的色情短視頻。 照片可以從受害者的社交帳戶上獲取,這無疑降低了騷擾、侵犯和侮辱他人的成本。近些年來生成虛假圖像所利用的技術發展迅速。在科技發展的暗面,犯罪的溫床也在擴大。這種輕易生成的色情視頻將很大程度上損害女性的工作前途、人際關係、名譽和心理健康,造成污名化女性、色情報復的惡果,使女性暴露在某種集體監視之中,網絡也有可能滑向隱形的性交易場所。 深度偽造很難真正被發現,並且存在法律盲區——即它是基於公開照片生成。歐盟曾提出“被遺忘權”的概念,以應對當今的資料濫用和數據暴力問題,然而,誰有權利刪除資料?違法者或侵權者的資料是否擁有同樣的權利? 深度偽造問題不僅與技術進步有關,更關乎平台的責任、傳播和言論自由、社會倫理和社會治理以及人的存在方式。