隨著AI(人工智能)技術發展,視頻換臉技術門檻降低,普通人也能制作換臉視頻。記者調查發現,這項技術被用于惡搞視頻、色情視頻合成等方面,其不良效應也引發了社會的關注和擔憂。任其“異化”,可能成為侵害他人合法權益和危害社會公共安全的工具。(見5月14日《新華每日電訊》)

　　“你要的樣子我都有”“男人瞬間變女人”,“用朋友圈視頻就可換臉”……這些“分分鐘換臉”的黑科技讓人深感不安。有網友將影視劇中不同演員的臉進行互換;有人將某平臺女主播瞬間“變臉”成不同女明星的樣貌等,這些還都只是“小兒科”,更有甚者,公開售賣換臉色情視頻。

　　可見,AI技術與很多新興技術一樣,是一柄雙刃劍。正面來看,AI換臉技術用在影視制作等領域,可以創造很多視覺盛宴,衍生出的產品可以讓我們的文化市場更加多元。而用于非法目的,不僅給不特定人群造成不良影響,還涉嫌侵權。比如用他人肖像進行AI換臉,甚至制作成違法視頻產品用于商業用途等。

　　技術無原罪,但對于使用者而言,應該遵法行事,讓技術、工具能夠在合理合法的用途和目的上使用。比如,據專家介紹,即使換臉后不是100%相似,只要換臉視頻和原視頻能達到一定相似度,經由第三方能夠識別,就可能被認作是侵權。同時,用于色情視頻并進行傳播,則涉嫌構成傳播淫穢物品罪,需承擔相應刑事責任。對此,使用者理當警醒。

　　AI技術換臉對監管也提出了新的要求。一則要強化普法工作;二則要研究制定更為細致的管理辦法;三則對于利用AI技術行不法之實的,尤其是可能造成惡劣社會影響、危害國家安全和社會公共利益的,要嚴厲懲戒。

　　對于相關平臺而言,也應積極作為。平臺應完善事前處置機制,加強對違規換臉視頻的自動研判與編審,嚴控問題視頻的分發等。當然,對于一些交易平臺,應規范商家的經營行為。比如,商家出售換臉軟件,或者提供換臉視頻制作服務,應在法律及道德框架內進行。

　　換臉“一時爽”,背后危險多。AI技術發展使普通人能享受到科技帶來的便利,但新技術應該驅動良性的文化創意更新迭代,切忌用到歪路上去,更不能突破底線挑戰公序良俗。各方要增強法律及安全風險意識,共同防范AI技術異化為助惡工具。(楊玉龍)