管住AI“魔改”視頻,讓“科技向善”落地有聲
管住AI“魔改”視頻,讓“科技向善”落地有聲
本報評論員 韓韞超
用人工智能賦能各行業(yè)各領域的發(fā)展,同時避免技術異化,引導技術向上向善,讓其真正成為推動社會進步和提升生活品質的有力工具,應該成為各方積極努力的方向。
《甄嬛傳》變身“槍戰(zhàn)片”,《紅樓夢》改成“武打戲”,孫悟空騎著摩托車揚長而去……據12月10日新華社報道,廣電總局網絡視聽司日前發(fā)布《管理提示(AI魔改)》,指出近期AI“魔改”視頻以假亂真、“魔改”經典現象頻發(fā),要求各相關省局督促轄區(qū)內短視頻平臺排查清理AI“魔改”影視劇的短視頻,限期反饋工作情況;嚴格落實生成式人工智能內容審核要求,舉一反三,對各自平臺開發(fā)的大模型或AI特效功能等進行自查,對在平臺上使用、傳播的各類相關技術產品嚴格準入和監(jiān)看,對AI生成內容做出顯著提示。
“在AI‘魔改’視頻里,你永遠不知道下一秒會發(fā)生什么”“以前是電視放什么看什么,現在是想看什么自己就用AI做什么”——社交平臺上,有網友總結了“AI魔改”視頻的“無所不能”。這類視頻大多是創(chuàng)作者腦洞大開,為經典影視劇中的名場面設置另一段離奇情節(jié),并通過提供圖片和文字描述的方式在AI視頻軟件或網站上生成,追求的多是出其不意、驚掉下巴。對此,不少網友表示“初看覺得新鮮,但沒底線地修改經典,傳遞的價值觀大都是錯誤的,是過度娛樂了”,還有網友坦言“不少人可能笑笑就過去了,但對劇粉來說感覺是毀了角色”。
如此現實下,廣電總局發(fā)布管理提示,要求對此類視頻進行規(guī)范與監(jiān)管,十分必要。提示中“相關視頻為博流量,毫無邊界褻瀆經典IP,沖擊傳統(tǒng)文化認知,與原著精神內核相悖,且涉嫌構成侵權行為”的表述,也一針見血地指出了“AI魔改”視頻的危害。
近年來,人工智能產業(yè)蓬勃發(fā)展,技術迭代升級的速度驚人,一個個新鮮且功能強大的產品,不斷拓展著技術落地的場景,改變著人們的生產生活。不過,對技術的運用也不時帶來一些隱患——“AI換臉”可以讓一輩子未走出深山的大爺開口“飆英文”,“AI復活”可以讓已經去世的明星對大家說“其實我并沒有真正離開”,“AI換聲”可以隨意克隆任何一個自然人的聲音……不難想見,這些操作之下,有心之人完全可以通過炮制名人音頻作品以假亂真,甚至可以假冒某個特定的人精準“殺熟”、實施詐騙……當親眼所見、親耳所聽都變得不足為信,后果可想而知。AI技術濫用可能帶來的道德倫理、信息安全、侵犯權利等問題,不僅會嚴重污染網絡視聽空間,也為“科技改變生活”蒙上了一層陰影。
毫無疑問,任何技術的應用和發(fā)展都應建立在符合道德倫理、社會規(guī)則和法律的前提下。用人工智能賦能各行業(yè)各領域的發(fā)展,同時避免技術異化,引導技術向上向善,讓其真正成為推動社會進步和提升生活品質的有力工具,應該成為各方積極努力的方向。
防御和抵制那些涉嫌違反法律法規(guī)、社會公德、倫理道德的AI應用,謹慎對待那些有潛在風險的AI應用,已有不少治理舉措。從《生成式人工智能服務管理暫行辦法》出臺、《人工智能生成合成內容標識辦法(征求意見稿)》發(fā)布,到相關職能部門及時“喊話”要求整治相關亂象,再到互聯網大會上各方積極探討“AI向善”、共同擘畫與人工智能共存的未來,AI技術這列高速行駛的列車,需要科學的信號指引,需要多方之力的保駕護航。與此同時,監(jiān)管過程中面臨的一些挑戰(zhàn)應該引起重視,如AI訓練時使用的算法模型存在問題、使用的數據存在侵權風險,不同級別的監(jiān)管者法律責任界限不清等。相應的監(jiān)管手段也要避免臨時性、應急性,讓“科技向善”更加有的放矢、落地有聲。
就在這幾天,有媒體報道了江蘇無錫街道上出現提醒行人或非機動車越線、闖紅燈等行為的“AI交警”,實現了交警警力的24小時守候。但愿未來的人工智能技術,不再與“惹禍”“侵權”之類相伴,而是成為賦能美好生活的代名詞,給公眾更多幸福感、獲得感、安全感。(工人日報)
社會新聞精選:
- 2024年12月22日 19:28:23
- 2024年12月22日 18:26:01
- 2024年12月22日 17:05:36
- 2024年12月22日 16:58:29
- 2024年12月22日 16:51:33
- 2024年12月22日 13:38:29
- 2024年12月22日 12:19:32
- 2024年12月22日 10:11:46
- 2024年12月22日 09:21:13
- 2024年12月22日 09:17:16