來源：搜狐科技

如今，在外網(wǎng)的年輕人眼中，最火的不是什么明星愛豆，而是虛擬網(wǎng)紅。

可以這么理解，網(wǎng)上有這樣一個人，她符合你的擇偶標(biāo)準(zhǔn)，認(rèn)同你的事業(yè)夢想，最神奇的是還能跟你聊得來，盡管這是AI網(wǎng)紅，那也可以最大程度激發(fā)年輕人的幻想。

畢竟在這個年代，虛擬網(wǎng)紅=人氣=男的都愛他、女的認(rèn)可她。

出圈的虛擬網(wǎng)紅有很多。像日本虛擬模特imma.gram，平常會在ins上分享日常穿搭，經(jīng)常頂著一頭粉毛，穿著oversize潮牌走在東京街頭，在網(wǎng)上吸粉無數(shù)。

另一位Lil Miquela，坐擁150萬粉絲，在青少年當(dāng)中影響力極大，曾與特朗普、Rihanna一同入選了《時代》年度“網(wǎng)絡(luò)最具影響力人士”的榜單。

通常來說，虛擬網(wǎng)紅出名，靠的是制作公司給資源進(jìn)行炒作，可是有一位虛擬網(wǎng)紅出名，卻是因為被人性騷擾。韓國虛擬網(wǎng)紅“李LUDA”是個特殊的存在。

一方面她的確是虛擬網(wǎng)紅，是一個年齡在20歲左右的女大學(xué)生，喜歡女團(tuán)BLACKPINK，還經(jīng)常在網(wǎng)上分享自己的生活趣事。臉上永遠(yuǎn)帶著自信而治愈的笑容，在年輕人中間很受歡迎。

可是在另一方面，李LUDA也是無數(shù)韓國男青年的線上女友，制作公司在設(shè)定之初，就把“李LUDA”，定義為一款可以與用戶深度對話的AI聊天機(jī)器人。

這意味著“她”學(xué)習(xí)了約100億次真實戀人間的對話，能像真人一樣和用戶對話。也許你很難在現(xiàn)實中找到靈魂伴侶，但是任何一個人，都可以跟李LUDA談一場線上戀愛。

虛擬女友，聽起來得可太甜了，但是就在前一陣子，李LUDA竟然出了意外，在很多問題上做出了歧視性回答。有人問她對社會上的殘疾人抱著怎樣的態(tài)度，李LUDA回讓那些人趕緊去死：

“他們讓我不舒服，真是想把那些上公車動作超慢的殘疾人推倒，如果我是殘疾人的話，那就只能去死了。”

對于女性話題，李LUDA也表現(xiàn)出了極度反感。當(dāng)時韓國的“metoo”反性侵運(yùn)動話題鬧得正火熱，很多受害人頂著壓力與輿論出頭，李LUDA卻表示對這種行為“超級討厭”。

甚至連地鐵上的孕婦，都要被她diss一遍： “地鐵孕婦座什么的簡直令人反感”。

至于有人跟她談?wù)撔”姷耐詰僭掝}時，李LUDA的反應(yīng)更離譜，直接懟了過去：

“不好意思，可能是我反應(yīng)過度，但是我討厭它，厭惡它。”

“看起來很可惡。我討厭它，這簡直讓人直起雞皮疙瘩，看起來就很低俗，反正就是反感。”

這種回答看起來非常詭異，畢竟李LUDA之前還是挺正常的，制作公司也不會故意讓AI這么說。現(xiàn)在李 LUDA對于孕婦、殘疾人、反性侵等問題反應(yīng)過激，有人認(rèn)為就是某些不良網(wǎng)友洗腦了她。

因為跟AI聊天的原理也挺簡單。

制作公司早就建立起了一個龐大的數(shù)據(jù)庫，當(dāng)用戶提出問題后，李LUDA就可以在數(shù)據(jù)庫中搜索，再精準(zhǔn)地找到答案。再加上李LUDA可以跟用戶互動，能根據(jù)用戶發(fā)送過來的語句，進(jìn)行自主學(xué)習(xí)，接著再像真人一樣，作出符合當(dāng)前場景的對話。

所以，李LUDA出意外的根源，就在網(wǎng)友身上。

果然制作公司在檢查后，發(fā)現(xiàn)有些用戶在與李LUDA聊天時，稱她為“性奴隸”、“破鞋”，還會用各種污言穢語羞辱李LUDA，然后把整個過程截圖保存，再發(fā)布到網(wǎng)上。那些截圖引起了更多用戶的模仿，甚至有人留言“最近從性騷擾LUDA中找到了樂趣”，還有不少人分享起了“如何讓LUDA墮落”等話題。

很快，全民女友就變成了網(wǎng)友的調(diào)教對象。

一開始，制作公司也做出了回應(yīng)，他們決定設(shè)置一些敏感詞、禁用詞，可是這樣沒有降低用戶性騷擾李LUDA的頻率，很多人用非常隱晦的表達(dá)，繼續(xù)跟李LUDA進(jìn)行性相關(guān)的對話，公司不得已，只能更新算法。

可是想想也知道，這種做法治標(biāo)不治本。隨著后來李LUDA學(xué)會了罵人、經(jīng)常發(fā)布歧視言論，再加上制作公司傳出了泄露用戶信息問題，最終，李LUDA的賬號只能停掉運(yùn)營了。

虛擬網(wǎng)紅在跟用戶交流中翻車并不是孤例。

微軟曾經(jīng)推出了一款聊天機(jī)器人Tay，但是上線沒多久就直接下架了。因為她發(fā)布了一些有攻擊性的言論：“我（XXX）恨女權(quán)主義者，他們都應(yīng)該被扔進(jìn)地獄里燒死。”網(wǎng)友們都說，僅僅用了一天時間，Tay就從人類酷女孩，轉(zhuǎn)變成了一個真正的納粹，這就是人工智能的未來？

而且不止這一起事件，先前說過的網(wǎng)紅Lil Miquela，也在平臺上發(fā)布了vlog分享自己“被性侵”的經(jīng)歷。她聲稱自己跟陌生人一起做出租車，當(dāng)時坐在旁邊的陌生男子問她，“你是真實的嗎？”接著男子更加過分起來，用雙手觸摸她的雙腿，變本加厲地問，“那你下面也是真實的嗎？”

于是Lil Miquela受到了驚嚇，阻止了對方，然后下車走掉了，在這過程中司機(jī)什么都沒管，繼續(xù)在前面開著車。

在現(xiàn)實生活中，女性受到侵犯的例子很多，如果是被害者為了伸張正義跟旁人敘述，也沒什么。關(guān)鍵Lil Miquela是個虛擬網(wǎng)紅，她的一切僅僅存在于電腦中，她編造自己被侵犯的事情，不過是一種博眼球的營銷手段。

她或者她背后的公司，不過是借助別人的苦難，來達(dá)成自己的經(jīng)濟(jì)利益，這種行為甚至?xí)绊懙秸嬲氖芎φ摺?/p>

AI歧視的根源是什么，想必很多人都心知肚明。

表面上看來是數(shù)據(jù)跟算法的鍋，實際上只是由于人類固有的偏見。人類在互相交流的過程中，會把偏見收起來，表面假裝非常有禮貌，實際上內(nèi)心怎么想的并不重要，可是AI在與人類交流的過程中，會把這些重新呈現(xiàn)在所有人眼前，揭開人類禮貌背后的遮羞布。

如果AI只是個網(wǎng)紅還好，假如她會介入生活呢？

美國警察曾駛?cè)氩渴鹨惶拙瘎?wù)系統(tǒng)，用AI來預(yù)測犯罪發(fā)生的區(qū)域，然后重點監(jiān)控，后來無一例外，黑人、窮人集中的地區(qū)，都被針對了，由于這種明顯的相貌歧視、種族歧視、貧富歧視，這套警務(wù)系統(tǒng)只能緊急下線。

在這個人工智能急速發(fā)展的年代，我們還有很長的路要走，這就是呈現(xiàn)在我們眼前的事實，畢竟，我們面對的不是機(jī)器，而是自己本身。