“知名主持人親自推薦，說是能改善記憶和視覺功能，結(jié)果竟然是AI生成的虛假帶貨視頻！”近日，江東街道居民吳美珍手機(jī)里播放的短視頻，引發(fā)了鄰里間的熱議。當(dāng)AI換臉、AI生成內(nèi)容技術(shù)門檻降低，幾分鐘即可炮制虛假信息，“眼見為實”的底線正被多元AI騙局持續(xù)沖擊。那么在義烏，市民碰到AI騙局的情況是否多見？實際情況如何呢？記者就此實地走訪調(diào)查了一番。

孰真孰假，難辨AI騙局

“群里的‘視頻’是AI偽造的，求大家別傳播！”今年8月，市民樓鑫（化名）在孩子培訓(xùn)機(jī)構(gòu)的家長群里急得直跺腳。記者見到他時，他仍難掩疲憊：“7月初收到陌生郵件，附件是AI換臉偽造的不真視頻，對方要5萬元封口費，說不給就發(fā)去單位和社交圈�！薄拔覜]給錢，視頻果然被發(fā)到了家長群，客戶也打電話來核實，那段時間我天天失眠�！敝钡綀缶�后，樓先生虛假視頻的傳播才停了下來，但名譽受損的影響持續(xù)了很久。

記者在義烏街頭走訪30位市民，19人表示刷到過疑似AI生成內(nèi)容，其中包括AI換臉短視頻，也有AI數(shù)字人帶貨視頻，12人坦言差點被騙。北苑街道一家藥店的店主陳喬翻出手機(jī)里的視頻：“畫面里是形象光鮮的AI數(shù)字人，自稱‘健康顧問’推薦保健品，說能增強(qiáng)免疫力，顧客想批量采購做促銷。我看著內(nèi)容專業(yè)又逼真，差點就聯(lián)系供貨商了，幸好女兒提醒現(xiàn)在AI生成的帶貨視頻特別多，勸我悠著點�！�

AI虛假宣傳的形式遠(yuǎn)超單一“換臉”。記者走訪義烏40余家商戶，有26家表示收到過各類AI生成的推廣內(nèi)容，既有明星“數(shù)字分身”代言，也有AI批量生成的虛假爆款測評。商戶樓偉民向記者展示了一段視頻：奧運冠軍全紅嬋的“數(shù)字分身”正在代言土雞蛋，說著和冠軍口音一致的推薦語，而這是騙子未經(jīng)授權(quán)用AI合成的�！安簧倏蛻舨铧c信以為真，和我聊天時都在感慨‘防不勝防’�！�

經(jīng)營美妝的王芳芳則遭遇了AI“偽原創(chuàng)”帶貨陷阱：“收到一條‘爆款口紅實測’視頻，畫面里的試色效果、使用反饋看起來特別真實，后面附了供貨鏈接，說‘廠家直供、日銷千單’。我差點下單進(jìn)貨，結(jié)果發(fā)現(xiàn)視頻里的產(chǎn)品細(xì)節(jié)模糊，而且多個不同賬號發(fā)了同款視頻，只是換了背景音樂。后來我才知道是AI批量生成的虛假測評，產(chǎn)品就是‘三無’產(chǎn)品�！�

老年群體是各類AI騙局的主要目標(biāo)。東洲社區(qū)居民李敏阿姨說，她老伴就曾經(jīng)被騙：“視頻里‘專家’穿白大褂，說有治高血壓的特效藥，還出示了逼真的‘檢測報告’，背景和講解邏輯都像正規(guī)科普。我老伴買了三個療程，吃了沒效果，賣家也失聯(lián)了，后來才知道‘專家’是AI合成形象，相關(guān)資質(zhì)證明都是AI生成的�！�

從事電商運營的周文強(qiáng)則遭遇了AI生成虛假訂單騙局：“‘客戶’發(fā)來視頻說要大批量訂貨，需先付定金，視頻里的人跟之前對接的工作人員長得一樣，還附上了估計是AI生成的公司資質(zhì)和訂單合同。幸好同事提醒核對賬號和公章細(xì)節(jié)，才發(fā)現(xiàn)這個賬號是陌生的，合同上的公司信息有明顯拼接痕跡，避免了損失。”

“以前‘眼見為實’，現(xiàn)在視頻、文案都可能是AI造假�！鄙虘魟�寧的感慨道出許多人的心聲。記者走訪發(fā)現(xiàn)，超七成受訪者對網(wǎng)絡(luò)信息產(chǎn)生不信任感，涉及轉(zhuǎn)賬、進(jìn)貨、消費時都會反復(fù)核實，擔(dān)心遭遇各類AI騙局。

多方共治，聯(lián)手筑牢防線

面對AI換臉、AI虛假帶貨等多元亂象，記者調(diào)查發(fā)現(xiàn)，我市正自發(fā)形成合力，用各種方式守護(hù)“真實”。

平臺技術(shù)防控不斷升級，針對多元AI生成內(nèi)容精準(zhǔn)施策。記者聯(lián)系到抖音App工作人員，據(jù)他透露，平臺已上線多維度AI內(nèi)容識別系統(tǒng)，該系統(tǒng)不僅能識別AI換臉的面部邊緣模糊、眼神呆滯等破綻，還能檢測AI數(shù)字人帶貨的動作僵硬、背景違和等特征，識別后會添加“疑似合成內(nèi)容”標(biāo)識。市民郭子銘說：“現(xiàn)在刷短視頻�？吹竭@種標(biāo)識，遇到AI批量生成的相似帶貨視頻，平臺還會彈窗提醒‘內(nèi)容可能重復(fù)或AI生成，請注意甄別’，同時增設(shè)了AI內(nèi)容舉報通道，反饋很快�！�

社區(qū)宣傳教育精準(zhǔn)覆蓋多元騙局。記者在北苑街道丹溪社區(qū)、江東街道東洲社區(qū)等地看到，社區(qū)宣傳欄都貼著AI騙局識別指南，既包含換臉詐騙特征，也有AI虛假帶貨、AI生成虛假資質(zhì)的辨別方法。不少社區(qū)組建了由社區(qū)工作者、退休教師、志愿者組成的反詐宣傳隊。在丹溪社區(qū)，志愿者孫建發(fā)正在演示：“大家看，AI合成的人臉沒有微表情，AI數(shù)字人帶貨沒有自然互動，AI生成的檢測報告往往細(xì)節(jié)模糊，還可以用反向搜索來核實產(chǎn)品信息。”

公安、司法等部門也會定期走進(jìn)企業(yè)、工地、老年大學(xué)等地，開展針對性宣傳活動�，F(xiàn)場老人們認(rèn)真記錄，市民張大爺說：“我們樓棟居民自發(fā)組建了反詐微信群，分享各種AI騙局案例，上次我看到AI數(shù)字人推薦理財?shù)囊曨l，發(fā)到群里被提醒是虛假宣傳，避開了坑�！蔽⑿湃豪镞�開展了“反詐達(dá)人”評選活動，鼓勵居民分享防騙經(jīng)驗，不少人總結(jié)的“三看原則”（看標(biāo)識、看細(xì)節(jié)、看渠道），在鄰里間廣泛傳播。

商戶們也抱團(tuán)防范多元AI騙局。不少商戶組建行業(yè)交流群，遇到可疑AI宣傳視頻、批量生成的測評內(nèi)容就互相提醒�！拔覀兗s定，明星代言要查授權(quán)，數(shù)字人帶貨要核資質(zhì)，大額訂單必須通過官方渠道核實身份，簽訂正式合同，絕不私下轉(zhuǎn)賬�！鄙虘魳莻ッ裾f，現(xiàn)在商戶們還會共享AI生成內(nèi)容的識別技巧，比如AI批量生成的帶貨視頻往往配樂、話術(shù)高度相似，很容易甄別。

市民防范意識也明顯提升。福建客商林阿豪告訴記者：“進(jìn)貨時遇到AI數(shù)字人帶貨或虛假測評視頻，我會要求其出示品牌授權(quán)證明和真實供貨憑證，沒有的一律不考慮�！背�市收銀員也會提醒老年顧客：“掃碼買保健品、理財，遇到AI推薦的，先跟兒女商量，別被虛假內(nèi)容騙了�！�

法律護(hù)航，讓AI“向善”而行

“AI技術(shù)就像一把手術(shù)刀，可救人亦會傷人，關(guān)鍵在握刀者的選擇和使用邊界�！闭憬瓥|邦律師事務(wù)所律師樓璟倩在接受采訪時表示，AI換臉濫用、AI生成虛假帶貨內(nèi)容等行為，可能侵犯肖像權(quán)、名譽權(quán)，甚至構(gòu)成刑事犯罪，受害者要學(xué)會依法維權(quán)。

樓璟倩介紹：“未經(jīng)授權(quán)使用他人肖像進(jìn)行AI換臉，或用AI生成虛假內(nèi)容進(jìn)行商業(yè)宣傳，都是侵權(quán)行為，受害者可要求停止侵害、消除影響、賠償損失。像AI數(shù)字人虛假帶貨、AI生成虛假測評誤導(dǎo)消費的，還構(gòu)成虛假宣傳，涉事方需承擔(dān)相應(yīng)法律責(zé)任。”

對于AI換臉詐騙、AI生成虛假訂單實施詐騙等行為，樓璟倩指出：“這已觸犯刑法，詐騙金額較大的構(gòu)成詐騙罪，會面臨刑事處罰。受害者要第一時間截屏、錄屏固定證據(jù)，不僅要保存虛假內(nèi)容本身，還要記錄發(fā)布平臺、賬號、傳播范圍等信息，及時向平臺投訴、報警�！�

樓璟倩呼吁：“技術(shù)開發(fā)者要堅守倫理，不開發(fā)傳播非法AI生成工具；平臺要加強(qiáng)全品類AI內(nèi)容審核，不讓虛假帶貨、虛假宣傳等內(nèi)容傳播；市民要提高警惕，發(fā)現(xiàn)各類AI虛假內(nèi)容及時舉報。只有多方合力，才能讓AI回歸服務(wù)人類的本質(zhì)�！�

從社區(qū)反詐講座到商戶抱團(tuán)防騙，從平臺技術(shù)防控到法律護(hù)航，一場守護(hù)真實的行動在義烏持續(xù)推進(jìn)。AI技術(shù)本無善惡，無論是換臉還是內(nèi)容生成，只要全社會堅守法律和倫理底線，就能遏制亂象蔓延，讓“眼見為實”的信任重回生活，讓AI成為賦能商貿(mào)發(fā)展、便利市民生活的正能量。