隨著大選投票進(jìn)入關(guān)鍵階段，近日，一段由人工智能（AI）技術(shù)生成的印度總理莫迪熱舞視頻在社交網(wǎng)絡(luò)上瘋傳，為莫迪的高人氣再添一把火，也顯示AI在今年印度大選中熱度不減。
今年印度大選被稱為該國(guó)首次“AI選舉”，AI技術(shù)被廣泛應(yīng)用于競(jìng)選活動(dòng)，甚至被認(rèn)為正在重塑印度的選舉生態(tài)。
不過，在選舉過程中，濫用AI也導(dǎo)致亂象叢生，為莫迪政府帶來巨大監(jiān)管挑戰(zhàn)。
首次“AI選舉”
在一段上傳于社交媒體X的AI生成視頻中，“莫迪”跟著一首動(dòng)感十足的孟加拉語歌曲盡情舞動(dòng)。
莫迪本人顯然對(duì)此感到驚喜。他在X的個(gè)人賬號(hào)上轉(zhuǎn)了這條視頻，并留言說：“和你們所有人一樣，我也喜歡看自己跳舞。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂!”
有網(wǎng)友贊莫迪是“印度有史以來最酷的總理”。
無獨(dú)有偶，上周，印度女強(qiáng)人、西孟加拉邦首席部長(zhǎng)班納吉的一段AI生成的舞蹈視頻也火爆網(wǎng)絡(luò)。
莫迪和班納吉的舞蹈視頻都是用免費(fèi)網(wǎng)站Viggle制作的。制作過程非常簡(jiǎn)單，只需一張照片，再根據(jù)教程的基本提示，就能在幾分鐘內(nèi)生成視頻。
同時(shí)，視頻的病毒式傳播十分驚人。在社交媒體X上，“莫迪”熱舞視頻的瀏覽量逾千萬次。
這些只是AI技術(shù)“滲透”今年印度大選的最新“水印”。
印度本次議會(huì)下院（人民院）選舉被稱為該國(guó)首次“AI選舉”。
從生成數(shù)字人的競(jìng)選視頻和個(gè)性化音頻消息，到“克隆”候選人的聲音給選民打電話，AI技術(shù)被認(rèn)為正在重塑印度的選舉活動(dòng)和競(jìng)選方式。
比如，一段AI生成的“莫迪”拉票視頻讓印度選民獲得全新體驗(yàn)。
視頻中，數(shù)字人“莫迪”竟然能叫出觀看視頻的選民名字。
又如，莫迪本人可以通過官方創(chuàng)建的AI翻譯工具Bhashini，將一場(chǎng)印地語的講話實(shí)時(shí)翻譯成泰米爾語、卡納達(dá)語、孟加拉語、旁遮普語等幾十種印度本土語言。
與此同時(shí)，莫迪所在的印度人民黨通過即時(shí)通訊軟件WhatsApp發(fā)送大量AI生成的拉票視頻。
在這些視頻中，印人黨成員以數(shù)字人形象現(xiàn)身，向選民宣傳莫迪的惠民政策。
通過AI技術(shù)，一些政黨為拉票還“復(fù)活”了已故具有影響力的政黨創(chuàng)始人或先驅(qū)。比如，在印度南部，一名國(guó)大黨領(lǐng)袖用AI技術(shù)制作了一段2分鐘視頻，再現(xiàn)其已故政治家父親的音容笑貌，以此喚起選民的記憶。
與競(jìng)選集會(huì)、挨家挨戶拜票等傳統(tǒng)方式相比，有AI加持的新競(jìng)選方式收獲事半功倍的效果。
一家制作競(jìng)選材料和產(chǎn)品的AI初創(chuàng)公司創(chuàng)始人賈杜恩說，他的團(tuán)隊(duì)每天可以制作1萬個(gè)AI視頻。“過去需要七八天才能完成的工作，現(xiàn)在可以在三分鐘內(nèi)搞定。”
按照專家的說法，AI還能降低溝通成本、提升民調(diào)效率。
印度政治活動(dòng)家和傳播專家維什諾伊說，過去，政黨依靠由工作人員和志愿者組成的呼叫中心，或利用交互式語音應(yīng)答系統(tǒng)進(jìn)行宣傳。如今，借助AI技術(shù)與選民溝通、互動(dòng)，成本可以降低多達(dá)50倍。民調(diào)方面，“傳統(tǒng)上需要數(shù)月才能完成的調(diào)查現(xiàn)在可以在一天內(nèi)完成”。
拉杰尼蒂政治管理咨詢公司技術(shù)主管德什潘德指出，內(nèi)容生產(chǎn)的大規(guī)模擴(kuò)張和向數(shù)字化傳播的轉(zhuǎn)變，凸顯政治信息傳遞方式的革命性變化，也標(biāo)志著選舉策略進(jìn)入新時(shí)代。
制造選舉亂象
然而，AI在成為競(jìng)選利器的同時(shí)，其以假亂真的深度偽造（deep fake）能力也在干擾這場(chǎng)全球規(guī)模最大的選舉。
上月，濫用AI的新聞?lì)l頻登上印度媒體頭條，盡顯AI在選舉中釋放的負(fù)能量。
在兩段AI生成的偽造視頻中，印度兩位寶萊塢知名演員對(duì)莫迪發(fā)起猛烈抨擊，并呼吁印度人投票給反對(duì)黨國(guó)大黨。
兩名演員表示均未授權(quán)制作相關(guān)視頻。而這兩段視頻在社交媒體上的瀏覽量都達(dá)數(shù)十萬次。
莫迪政府的兩名高級(jí)官員也遇到AI假視頻的尷尬。
其中，一個(gè)偽造視頻顯示，印度內(nèi)政部長(zhǎng)沙阿談及一個(gè)敏感議題。他說，印人黨將停止面向少數(shù)族群的部分社會(huì)保障。慮及視頻或?qū)x情造成影響，沙阿迅速辟謠。
維什諾伊表示，印度已經(jīng)面臨巨大的虛假錯(cuò)誤信息風(fēng)險(xiǎn)，有了人工智能后，這些信息更能以100倍的速度傳播。
根據(jù)世界經(jīng)濟(jì)論壇1月份發(fā)布的一項(xiàng)調(diào)查，在未來兩年內(nèi)，虛假信息將比傳染病或非法經(jīng)濟(jì)活動(dòng)給印度帶來更高的風(fēng)險(xiǎn)。
事實(shí)上，AI被濫用不僅制造了選舉亂象，也在加劇印度國(guó)內(nèi)的黨爭(zhēng)。
針對(duì)兩名政府官員“中招”假視頻一事，印度警方逮捕了9人，其中6人為國(guó)大黨成員，國(guó)大黨譴責(zé)莫迪政府“專制濫權(quán)”。
競(jìng)選活動(dòng)啟動(dòng)以來，執(zhí)政的印人黨與反對(duì)黨國(guó)大黨一直相互指責(zé)對(duì)方利用AI深度偽造與選舉有關(guān)的內(nèi)容，并在網(wǎng)上大肆傳播。
同時(shí)，兩黨也將AI作為互相攻擊的武器。比如，國(guó)大黨先前在照片墻（Instagram）上發(fā)布了一段AI生成的模仿莫迪的視頻，諷刺莫迪把大量資源投給商業(yè)富豪。
還有分析人士擔(dān)心，一些政客在競(jìng)選中可以利用AI技術(shù)達(dá)到操縱公眾輿論的目的。
監(jiān)管是難題
面對(duì)濫用AI深度造假的問題，如何有效監(jiān)管是一大挑戰(zhàn)。
印度有近10億選民、逾8億網(wǎng)民，印度人平均每天花在社交媒體上的時(shí)間超過三個(gè)小時(shí)。在此背景下，制止虛假錯(cuò)誤信息傳播是一項(xiàng)高風(fēng)險(xiǎn)工作。
分析人士稱，這需要執(zhí)法人員和選舉官員全天候監(jiān)控，并向社交平臺(tái)Facebook和X發(fā)出刪除命令。而假消息在選舉季更是泛濫成災(zāi)，要迅速甄別并及時(shí)刪除幾乎是不可能完成的任務(wù)。
專家表示，僅僅靠逮捕、懲罰造假者和傳播者只能“治標(biāo)”，印度需要制定全面的人工智能法律才能“治本”。
“根本沒有任何規(guī)則，”數(shù)據(jù)和安全研究員科達(dá)利說，“政府讓科技行業(yè)自我監(jiān)管，而不是制定法規(guī)”。
據(jù)悉，印度政府只是要求科技公司在公開推出“不可靠”或“未經(jīng)測(cè)試”的AI模型或工具之前，必須獲得政府批準(zhǔn)。
有評(píng)論指出，AI技術(shù)已融入印度的政治格局，促使競(jìng)選活動(dòng)和信息傳播方式發(fā)生重大轉(zhuǎn)變。但是，濫用AI以及相關(guān)監(jiān)管缺位也為“AI+選舉”的前景帶來重大挑戰(zhàn)。