繼ChatGPT后，近日，美國(guó)OpenAI公司發(fā)布了首個(gè)視頻生成模型“Sora”。您只要輸入一段文本指令，就可以生成一段逼真的視頻。然而，視頻生成模型在推進(jìn)人工智能技術(shù)發(fā)展的同時(shí)，也引發(fā)了人們對(duì)人工智能深度偽造視頻可能加劇錯(cuò)誤信息和虛假信息傳播的擔(dān)憂(yōu)。

　　您現(xiàn)在看到的視頻，就是視頻生成模型“Sora”制作而成。據(jù)美國(guó)OpenAI官網(wǎng)介紹，此次發(fā)布的文字轉(zhuǎn)視頻模型可以依據(jù)用戶(hù)輸入的指令，生成一段時(shí)長(zhǎng)可達(dá)一分鐘的視頻。比如根據(jù)文本：“一位時(shí)尚女性走在東京街頭，街道滿(mǎn)是霓虹燈和城市標(biāo)志。她穿著紅色長(zhǎng)裙、黑色皮夾克和黑色靴子，戴著太陽(yáng)鏡、涂著紅色口紅。”就可以生成眼前這樣的視頻。模型也能獲取現(xiàn)有的靜態(tài)圖像并從中生成視頻，還能獲取現(xiàn)有視頻，進(jìn)行擴(kuò)展或填充缺失內(nèi)容。

　　在“Sora”誕生之前，美國(guó)人工智能初創(chuàng)公司Runway就曾推出過(guò)類(lèi)似的技術(shù)，但是制作的視頻時(shí)長(zhǎng)較短。

　　美國(guó)Runway公司創(chuàng)始人 巴倫蘇埃拉：讓我們做一個(gè)有云的天空，我可以選擇電影風(fēng)格或預(yù)覽角度。我真的很喜歡這張，它看起來(lái)就像光是從云里出來(lái)的。人工智能正在掃描圖片，并由此生成一段視頻。你現(xiàn)在可以看到云正在移動(dòng)，天空正在變暗，暴風(fēng)雨就要來(lái)了。

　　當(dāng)前，包括谷歌和Runway在內(nèi)的多家公司，都在積極研發(fā)此類(lèi)人工智能項(xiàng)目。但OpenAI強(qiáng)調(diào)，“Sora”的突出之處在于其圖像的真實(shí)感，以及能夠生成比其他模型更長(zhǎng)的視頻片段。不過(guò)目前，“Sora”仍然存在缺陷，例如可能混淆一些文本指令中的空間細(xì)節(jié)，例如左右方向等。

　　人工智能產(chǎn)品開(kāi)發(fā)者 莫斯塔克：我認(rèn)為這是自互聯(lián)網(wǎng)出現(xiàn)以來(lái)，我們?cè)诩夹g(shù)上取得的最大飛躍之一，它將創(chuàng)造全新的行業(yè)，將使媒體更加令人興奮和有趣。我認(rèn)為這將不可避免地創(chuàng)造大量新的工作崗位，我認(rèn)為它將改變一切。

　　不過(guò)人工智能技術(shù)帶來(lái)許多新機(jī)遇的同時(shí)，也不可避免地造成了前所未有的挑戰(zhàn)和隱患。其中，人工智能生成欺騙性?xún)?nèi)容干擾選舉被認(rèn)為是全球面臨的重要挑戰(zhàn)。

　　當(dāng)?shù)貢r(shí)間1月23日，2024年美國(guó)總統(tǒng)選舉共和黨黨內(nèi)初選在新罕布什爾州舉行。在此之前，很多美國(guó)選民都表示，自己接到了一通“來(lái)自美國(guó)總統(tǒng)拜登的電話(huà)”。

　　人工智能生成的虛假電話(huà)錄音：真是一派胡言，當(dāng)選票作數(shù)的時(shí)候，我們就能知道民主投票的價(jià)值了。你要把選票留到11月再投。

　　很快，白宮新聞秘書(shū)皮埃爾就澄清說(shuō)，這是一則偽造的電話(huà)錄音。

　　意大利《共和國(guó)報(bào)》報(bào)道說(shuō)，視頻生成模型可以讓“名人或政客說(shuō)從未說(shuō)過(guò)的話(huà)、做從未做過(guò)的事”，如果有人利用模型克隆拜登、特朗普或其他競(jìng)選美國(guó)總統(tǒng)或2024年歐洲議會(huì)席位的人，可能會(huì)加劇錯(cuò)誤信息和虛假信息的傳播。斯坦福大學(xué)研究員巴西勒·西蒙擔(dān)心，這些工具會(huì)在選舉中被濫用，并擔(dān)心公眾將“不再知道該相信什么”。

　　視頻生成模型也讓靠制作視頻謀生的人以及電影從業(yè)者感到擔(dān)憂(yōu)。Runway公司創(chuàng)始人巴倫蘇埃拉直言，未來(lái)電影制作的門(mén)檻和成本將大大降低。

　　美國(guó)Runway公司創(chuàng)始人 巴倫蘇埃拉：用手機(jī)就能拍一部被數(shù)億人觀(guān)看的電影，這將改變電影業(yè)的格局。

　　有網(wǎng)友坦言：“幸好人工智能視頻和真實(shí)視頻目前不算太難區(qū)分。”

　　但也有網(wǎng)友擔(dān)心道：“真是受夠了，我要失去我的工作了。”“捏造的政治宣傳將遍布互聯(lián)網(wǎng)。”

　　還有網(wǎng)友質(zhì)疑：“我好奇生成這些視頻的學(xué)習(xí)材料來(lái)源，為了生成有效視頻，它需要大量不同的視頻數(shù)據(jù)”“人工智能的發(fā)展就像無(wú)人駕駛的汽車(chē)，不知道會(huì)走向何方。”

　　專(zhuān)家解讀：生成式人工智能技術(shù)進(jìn)步明顯

　　全球生成式人工智能技術(shù)發(fā)展迅猛，廣泛應(yīng)用于越來(lái)越多的行業(yè)中。如何看待人工智能的發(fā)展？來(lái)聽(tīng)聽(tīng)中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專(zhuān)家曾毅的解讀。

　　中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專(zhuān)家 曾毅：人工智能“Sora”在生成數(shù)據(jù)的真實(shí)性、連續(xù)性上的進(jìn)步應(yīng)該說(shuō)是非常明顯的。最新的進(jìn)展，將視覺(jué)和聽(tīng)覺(jué)的數(shù)據(jù)跨模態(tài)的生成，產(chǎn)生的用戶(hù)體驗(yàn)可以說(shuō)是更上一層樓的。

　　現(xiàn)階段人工智能仍存在違反常識(shí)性錯(cuò)誤

　　中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專(zhuān)家 曾毅：一方面，我們國(guó)家的人工智能相關(guān)的研究和產(chǎn)業(yè)有能力，而且一定要盡快趕上。因?yàn)椤癝ora”相關(guān)的生成式人工智能技術(shù)，可以降低人工影視娛樂(lè)文化產(chǎn)品等相關(guān)的開(kāi)發(fā)的成本和門(mén)檻。另一方面，也需要指出，這并不意味著生成式人工智能已經(jīng)真正理解了我們的物理世界，并可以完全替代這些產(chǎn)業(yè)當(dāng)中傳統(tǒng)需要人類(lèi)來(lái)完成的工作。比如說(shuō)現(xiàn)在的“Sora”系統(tǒng)生成的視頻，還有很多違反生活和物理常識(shí)的錯(cuò)誤。

　　AI快速發(fā)展 監(jiān)管面臨挑戰(zhàn)

　　中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專(zhuān)家 曾毅：未來(lái)，應(yīng)當(dāng)在積極探索這些技術(shù)潛在的應(yīng)用和對(duì)人類(lèi)工作的互補(bǔ)的同時(shí)，充分地關(guān)注生成式人工智能給社會(huì)帶來(lái)的潛在的負(fù)面影響。比如說(shuō)“Sora”在連續(xù)的高精度的視頻生成方面，它所采用的這個(gè)技術(shù)，使產(chǎn)生的人工智能造假的水平，可以說(shuō)達(dá)到了一個(gè)前所未有的高度，給眼見(jiàn)為實(shí)帶來(lái)了更大的挑戰(zhàn)。

　　中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專(zhuān)家 曾毅：而對(duì)于公眾而言，區(qū)分虛假信息可以說(shuō)是難上加難，對(duì)于視覺(jué)取證、執(zhí)法等等帶來(lái)的挑戰(zhàn)也可以說(shuō)是非常顯著的。一方面，人工智能治理相關(guān)政策的發(fā)展和落實(shí)一定要跟上；但另外一方面，生成式人工智能技術(shù)發(fā)展，它的研發(fā)機(jī)構(gòu)、企業(yè)要同步地發(fā)展和推廣更高水平的自動(dòng)化鑒偽技術(shù)。只有這樣，生成式人工智能技術(shù)才能被更健康地研發(fā)和使用。