管住AI造假,留住社會(huì)信任
關(guān)鍵詞: AI虛假?gòu)V告案 AI換臉技術(shù) AI新型違法行為 人工智能
知名央視主持人現(xiàn)身網(wǎng)絡(luò)直播間?竟然還播報(bào)起虛假?gòu)V告?近日,北京市場(chǎng)監(jiān)管部門查處了首例利用人工智能(AI)技術(shù)進(jìn)行虛假?gòu)V告宣傳的案件。北京一公司在直播中宣稱其產(chǎn)品能夠治療多種疾病,而實(shí)際該產(chǎn)品僅為普通食品,不具備疾病治療功能。此外,直播中還出現(xiàn)了知名央視主持人的形象,經(jīng)鑒定,該形象完全是利用AI技術(shù)偽造生成。 近年來(lái),人工智能技術(shù)日益成熟,“AI換臉”的技術(shù)門檻大幅降低,如今僅憑一張圖片、一段聲音,就能生成高度逼真的偽造視頻。這讓一些不法商家心生歹念,利用AI深度偽造科學(xué)家、醫(yī)生、運(yùn)動(dòng)員、演員等知名人士的面容和聲音,炮制出一個(gè)個(gè)AI“李鬼”。 這類新型違法行為不僅侵犯了被仿冒者的合法權(quán)益,營(yíng)造出“權(quán)威背書”的假象對(duì)公眾實(shí)施欺詐,給內(nèi)容安全帶來(lái)挑戰(zhàn),更蠶食著社會(huì)賴以運(yùn)轉(zhuǎn)的信任基礎(chǔ)。當(dāng)作假的圖像被AI包裝成“有鼻子有眼”的視頻肆意擴(kuò)散,當(dāng)仿冒的名人形象在直播間里一本正經(jīng)兜售偽劣商品,當(dāng)電信詐騙者的聲音和容貌竟然與受害者的家人一模一樣……在AI生成內(nèi)容紛繁復(fù)雜的今天,倘若“眼見(jiàn)為實(shí)”不復(fù)存在,社會(huì)信任又該如何維系? 為解決AI生成內(nèi)容以假亂真的問(wèn)題,今年9月,我國(guó)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式施行。該辦法明確要求所有AI生成的文字、圖片、視頻等內(nèi)容必須添加顯式標(biāo)識(shí)“亮明身份”,同時(shí)鼓勵(lì)添加數(shù)字水印等隱式標(biāo)識(shí),讓公眾明確知道哪些內(nèi)容可能源自AI生成。既然已有規(guī)定,有關(guān)部門就應(yīng)加大監(jiān)管和執(zhí)法力度,對(duì)違反相關(guān)規(guī)定的平臺(tái)和個(gè)人依法查處,形成震懾。此次北京市場(chǎng)監(jiān)管部門查處相關(guān)案件,就開(kāi)了個(gè)好頭,釋放出對(duì)“AI造”加強(qiáng)監(jiān)管的強(qiáng)烈信號(hào)。 內(nèi)容傳播平臺(tái)、AI生成服務(wù)平臺(tái)和應(yīng)用程序分發(fā)平臺(tái)則要盡到相應(yīng)的責(zé)任義務(wù),落實(shí)好有關(guān)要求,進(jìn)一步優(yōu)化AI識(shí)別技術(shù),加強(qiáng)鑒偽追溯能力,與監(jiān)管部門同向發(fā)力,守好“真實(shí)”的邊界。與此同時(shí),廣大網(wǎng)民也要保持警惕,加強(qiáng)對(duì)信息真?zhèn)蔚恼鐒e,不被虛假信息蒙蔽雙眼。 當(dāng)前,我國(guó)人工智能技術(shù)正在飛速發(fā)展,針對(duì)不同應(yīng)用場(chǎng)景的安全標(biāo)準(zhǔn)和法律準(zhǔn)則在不斷完善中。構(gòu)建良好網(wǎng)絡(luò)生態(tài),需要各方共同努力,把“眼見(jiàn)為實(shí)”的網(wǎng)絡(luò)空間還給我們每個(gè)人,守護(hù)好社會(huì)信任的根基。(文/陳可軒)
【責(zé)任編輯:朱家齊】