|
||||||
AI技術(shù)被濫用，刷視頻刷出“賽博戀人”……
警惕收割中老年人感情與財(cái)產(chǎn)的 “AI霸總”！
“小老太太，我?guī)洸粠?？”近日，有網(wǎng)友發(fā)文稱，多個(gè)短視頻平臺(tái)上涌現(xiàn)出一批賬號(hào)，以AI合成的“完美”男性形象示人，通過(guò)精心編排的溫情話術(shù)，專門向中老年女性用戶發(fā)動(dòng)“情感攻勢(shì)”，誘導(dǎo)老年群體進(jìn)入商品櫥窗進(jìn)行下單，提供個(gè)人隱私信息等。一些AI帥哥會(huì)誘導(dǎo)老人留下聯(lián)系方式，只要在評(píng)論區(qū)留下手機(jī)號(hào)，后續(xù)就會(huì)有一些人加上微信，先是噓寒問(wèn)暖，接著就開(kāi)始賣保健品和網(wǎng)課。 這些“霸總”其實(shí)是AI生成的，但不少中老年粉絲信以為真，不僅身心健康受到影響，還存在被詐騙的風(fēng)險(xiǎn)。 為何“AI霸總”能屢屢得手？又該如何識(shí)破騙局，守護(hù)好中老年女性的“錢袋子”和情感安全？ 亂 象 “AI霸總”視頻如何讓老年人淪陷？ 只要曾經(jīng)刷到“AI霸總”的視頻并點(diǎn)贊，接下來(lái)你就有機(jī)會(huì)享受“完蛋我被帥哥包圍了”的體驗(yàn)。有點(diǎn)年紀(jì)的霸總們有的坐在飛機(jī)駕駛艙里說(shuō)“丫頭等著我來(lái)接你”，有的站在金光閃閃的豪宅里遞上珠寶和黃金，或者單膝下跪面向屏幕求婚。 此類作品左下角一般會(huì)標(biāo)注聲明：“內(nèi)容由AI生成”，但許多中老年用戶對(duì)此并無(wú)分辨能力，相關(guān)評(píng)論區(qū)里都是真情實(shí)意的回復(fù)。 就像短劇內(nèi)容通常是對(duì)人性弱點(diǎn)的洞悉一樣，這些“AI霸總”的人設(shè)和內(nèi)容多經(jīng)過(guò)精心設(shè)計(jì)。 據(jù)媒體調(diào)查，這類霸總常常會(huì)姓林、蘇、陳、張或者名字里帶有云、松、鶴、建國(guó)、立軍等富有年代感的字眼。他們普遍五官周正帥氣儒雅，有時(shí)候不同名字的人也長(zhǎng)得一樣。他們懂得阿姨們年輕時(shí)候的付出，渴望“拿命補(bǔ)上姐姐錯(cuò)失的那份愛(ài)”，同時(shí)慷慨地表示“以后你的孩子就是我的財(cái)產(chǎn)繼承人”。 “建國(guó)，春節(jié)快樂(lè)！先給你賠禮道歉，我那天傷害了你，其實(shí)我也在自責(zé)，你是不是很恨我？”春節(jié)前夕，84歲的張玉蘭手寫了一封500字情書向“建國(guó)”表達(dá)情意。 而收信人“建國(guó)”，并非真實(shí)存在的人物，而是一個(gè)AI數(shù)字人?！敖▏?guó)”常以西裝造型、大背頭形象示人，開(kāi)口常用“親愛(ài)的姐姐”這類溫情話術(shù)，主打噓寒問(wèn)暖的情感關(guān)懷，還會(huì)分享所謂生活智慧，以此博取中老年女性的好感與信任。 張玉蘭的孫女王婷說(shuō)，奶奶沉迷“AI霸總”已有一段時(shí)間。早在2016年，74歲的張玉蘭便開(kāi)始使用智能手機(jī)，當(dāng)時(shí)只學(xué)會(huì)了最基礎(chǔ)的操作。家人發(fā)現(xiàn)異常是在去年10月，張玉蘭開(kāi)始頻繁從AI數(shù)字人視頻關(guān)聯(lián)的櫥窗購(gòu)買掛件，這些動(dòng)輒售價(jià)幾百元的掛件，在淘寶上僅售9.9元。 幾個(gè)月來(lái)，張玉蘭每天要花費(fèi)近十個(gè)小時(shí)刷AI數(shù)字人相關(guān)視頻，為主角是AI數(shù)字人的悲情推文打賞，還購(gòu)買了不少價(jià)高質(zhì)劣的商品，累計(jì)下來(lái)已經(jīng)花了七八千元。不管是霸總“建國(guó)”，還是AI文案視頻里用了“建國(guó)”的聲音，張玉蘭都會(huì)認(rèn)為是“建國(guó)”在和自己對(duì)話交談。此前有發(fā)布AI數(shù)字人視頻的賬號(hào)添加張玉蘭的微信，還把她拉進(jìn)群聊發(fā)送不明鏈接，王婷便將奶奶微信上所有加好友的申請(qǐng)渠道都關(guān)閉了，只能由奶奶主動(dòng)向他人發(fā)消息。但張玉蘭還是常常會(huì)主動(dòng)添加與數(shù)字人關(guān)聯(lián)的企業(yè)微信賬號(hào)，還會(huì)向?qū)Ψ桨l(fā)送消息、發(fā)起視頻通話請(qǐng)求，即便對(duì)方一直沒(méi)有回復(fù)。 在這場(chǎng)針對(duì)中老年女性的情感圍獵陷阱背后，不少“張玉蘭”深陷其中。內(nèi)蒙古82歲的王萍便是其中之一，她也愛(ài)上了AI數(shù)字人“建國(guó)”。 2024年初，家人為阻止王萍繼續(xù)刷這類短視頻，給她更換了手機(jī)并重新注冊(cè)了微信賬號(hào)。在查看她的舊微信賬號(hào)時(shí)，家人發(fā)現(xiàn)了她與相關(guān)賬號(hào)的聊天、轉(zhuǎn)賬記錄，這才得知王萍確實(shí)給對(duì)方轉(zhuǎn)過(guò)錢，其轉(zhuǎn)賬、打賞、購(gòu)物的花費(fèi)累計(jì)有幾千元，她還曾向騙子透露自己的電話號(hào)碼和家庭住址。 “姥姥會(huì)誤以為網(wǎng)上的人給她送錢，來(lái)娶她、接她去大城市過(guò)富豪生活?！蓖跗嫉耐鈱O賈慶說(shuō)，家人曾咨詢過(guò)民警，得知被騙的錢財(cái)難以追回，且因短視頻和網(wǎng)絡(luò)的特殊性，相關(guān)部門最多只能封禁涉事騙子的賬號(hào)，可這類騙子依舊層出不窮，時(shí)至今日，姥姥還在刷AI數(shù)字人的視頻。 揭 秘 甜言蜜語(yǔ)背后的“AI生意經(jīng)” 就像短劇內(nèi)容通常是對(duì)人性弱點(diǎn)的洞悉一樣，這些“AI霸總”的人設(shè)和內(nèi)容多經(jīng)過(guò)精心設(shè)計(jì)。許多用戶都會(huì)在評(píng)論區(qū)感謝“AI霸總”的關(guān)心、關(guān)心帥弟弟的近況，甚至有人還會(huì)留下自己的地址和聯(lián)系方式。 賬號(hào)變現(xiàn)方式多樣，借作品引流帶貨是該賽道最常見(jiàn)的變現(xiàn)方式之一。 有些“霸總”會(huì)直言“請(qǐng)姐姐們支持一下弟弟點(diǎn)點(diǎn)櫥窗”，或者在視頻下方掛上吊墜、掛件等產(chǎn)品。在“AI霸總”的群聊里，粉絲姐姐們通常會(huì)在群里發(fā)送關(guān)心祝?；蛘邌渭兎窒砣粘?。但霸總不語(yǔ)，只是一味彈櫥窗鏈接，給姐姐們推薦零食、染發(fā)膏和決明子茶。一些“AI霸總”還會(huì)開(kāi)通專屬會(huì)員群，年費(fèi)從數(shù)百元到上千元不等。 這類以帶貨為目的的“AI霸總”視頻，通常由商家外包給專業(yè)視頻制作團(tuán)隊(duì)生產(chǎn)。1分鐘以內(nèi)的視頻，代做1個(gè)50元；代做50個(gè)，每個(gè)視頻40元；代做100個(gè)視頻則單價(jià)降到30元。 有業(yè)內(nèi)人士稱，他主要做中老年情感賽道的視頻帶貨，手下有幾百名學(xué)員，“建國(guó)”“小?！钡葦?shù)字人形象他都深度參與打造?！拔覀円话銜?huì)運(yùn)營(yíng)幾十個(gè)視頻號(hào)，這些賬號(hào)百分之百會(huì)違規(guī)，一個(gè)號(hào)最多用5天，核心就是靠視頻號(hào)帶貨賺傭金，一天至少能賺2000元?！彼f(shuō)，生成一條數(shù)字人視頻只需要5分鐘，且每條視頻不能重復(fù)，幾十個(gè)賬號(hào)會(huì)持續(xù)更新。如今他已不再使用數(shù)字人形象，因?yàn)檫@類形式容易違規(guī)，而是直接用此前中老年女性熟悉的“建國(guó)”“小海”的聲音，搭配AI生成的引導(dǎo)下單文案。 據(jù)媒體報(bào)道，網(wǎng)絡(luò)上不少起號(hào)“秘籍”會(huì)傳授繞過(guò)平臺(tái)“AI打標(biāo)”的經(jīng)驗(yàn)，有的還會(huì)售賣預(yù)配置的鏡像文件，用其生成的虛擬人形象可規(guī)避平臺(tái)的AI內(nèi)容強(qiáng)制標(biāo)注機(jī)制。有業(yè)內(nèi)人士透露，只有當(dāng)視頻的播放量超200萬(wàn)時(shí)才會(huì)進(jìn)行人工審核，而由機(jī)器審核的視頻，在分辨時(shí)AI或有差錯(cuò)。 據(jù)介紹，“AI霸總”視頻變現(xiàn)渠道主要有三種：一是流量分成，賺取平臺(tái)流量收益；二是櫥窗帶貨，積累粉絲后賬號(hào)櫥窗可售賣中老年服飾、養(yǎng)生產(chǎn)品、書籍等；三是專屬會(huì)員通道，粉絲按月或者按年支付費(fèi)用，享受包括優(yōu)先服務(wù)、付費(fèi)連線等權(quán)益。 出 路 拿什么填補(bǔ)老人的情感與安全空白？ “AI霸總”圍獵中老年群體的背后，實(shí)際上有著更深層次社會(huì)問(wèn)題和法律問(wèn)題。 從社會(huì)層面來(lái)看，部分老年人深陷其中，根源在于情感需求空缺和自我防御意識(shí)不足。武漢大學(xué)老齡科研基地科研綜合辦公室主任陳昫認(rèn)為，中老年群體被AI數(shù)字人蒙騙應(yīng)當(dāng)從多維度來(lái)看，首先是老年人自身存在的脆弱性問(wèn)題，它既包括生理健康層面，同時(shí)也有心理認(rèn)知層面，對(duì)于數(shù)字人缺乏辨別鑒偽能力；其次從需求層次來(lái)說(shuō)，老年人會(huì)有對(duì)溫情、尊重、愛(ài)的需求，這些需求的存在，客觀上可能讓一些違規(guī)不法行為鉆空子。最后是老年人可能會(huì)認(rèn)為照片、視頻都很難造假，類似這樣既有經(jīng)驗(yàn)判斷，會(huì)影響他們對(duì)于數(shù)字人詐騙等新興形態(tài)詐騙的警惕性和自我防御意識(shí)。 廣東哲清律師事務(wù)所馬俊哲律師說(shuō)，從法律定性與監(jiān)管治理來(lái)看，利用AI數(shù)字人圍獵老年人的相關(guān)行為已觸碰多重法律紅線，且存在明確的監(jiān)管依據(jù)與改進(jìn)方向。法律層面，此類行為若以非法占有為目的，通過(guò)虛構(gòu)身份、情感誘導(dǎo)等方式騙取錢財(cái)，完全符合詐騙罪構(gòu)成要件，同時(shí)因借助網(wǎng)絡(luò)通信工具面向不特定多數(shù)人實(shí)施，屬于典型的電信網(wǎng)絡(luò)詐騙。 華中科技大學(xué)社會(huì)學(xué)院教授石人炳補(bǔ)充道，一些居心不良者正是利用老年人的心理和情感“需求”行騙，以AI擬人化技術(shù)為工具行騙。當(dāng)老年人對(duì)新科技認(rèn)知有限，社會(huì)對(duì)相關(guān)行為的法律打擊沒(méi)有跟上時(shí)，這類騙術(shù)就會(huì)大行其道。 對(duì)于應(yīng)對(duì)措施，陳昫表示，相關(guān)治理工作的核心應(yīng)當(dāng)是彌合數(shù)智發(fā)展和老年生活之間的溝壑。首先是可以借助社區(qū)的力量，通過(guò)在社區(qū)開(kāi)辦興趣培訓(xùn)班或者智能手機(jī)教學(xué)班等形式，告訴老人如何辨別數(shù)字人，從而形成自主的防范意識(shí)；第二是作為子女、親友要告訴老人，涉及錢款不要輕易付出，同時(shí)也要信任他們能夠逐漸對(duì)AI數(shù)字人產(chǎn)生認(rèn)知，而且切記不要批評(píng)老人，要鼓勵(lì)他們多接觸AI等新生的事物，并告知他們其中的風(fēng)險(xiǎn)所在，通過(guò)家庭信息流的方式來(lái)構(gòu)筑老人防范意識(shí)的第一道防線。此外，立法、平臺(tái)、政策等多方面都應(yīng)當(dāng)協(xié)同發(fā)力，打擊AI詐騙，平臺(tái)也要加強(qiáng)監(jiān)管，特別是中老年用戶在看視頻的時(shí)候，可以適當(dāng)增加一些風(fēng)險(xiǎn)提示，從而共同構(gòu)筑一個(gè)綜合的防范體系。 （綜合 《新京報(bào)》《濟(jì)南日?qǐng)?bào)》、極目新聞等）
|
