Snapchat 最近遇到了一個大麻煩。
英國隱私監管機構信息專員辦公室（ICO）向 Snapchat 下達了初步執法通知，原因是 ICO 認為 Snapchat 在推出 MyAI 之前沒有充分評估 AI 技術帶來的數據保護風險，導致 MyAI 有潛在危險性。
不過 ICO 強調，這只是臨時調查結果， Snapchat 可以提供證明以消除相關誤解，但如果 Snapchat 不這樣做， ICO 將在英國境內強制下架 MyAI 。
MyAI 是 Snapchat 在今年 2 月份推出的聊天機器人。它誕生的目的，是和 Snapchat 用戶「成為朋友」， Snapchat CEO 埃文·斯皮格爾 ( Evan Spiegel ) 表示「最重要的想法是，除了每天與我們的朋友和家人交談之外，我們還要每天與人工智慧交談」。
和 AI 成為朋友這個想法在 AI 行業中並不新鮮， MyAI 也不是唯一一個帶著此目的誕生的 AI 。
Meta 公司正在打造一款擁有 30 種不同性格的聊天 AI ， 以提供用戶更加擬真且個性化的 AI 聊天體驗， Meta 還斥巨資邀請說唱巨星 Snoop Dogg 、籃球巨星德懷恩·韋德（Dwyane Wade）和名模肯達爾·詹娜（Kendall Jenner）等多位明星合作，打造名人形象的聊天 AI 。
亞馬遜在上個月為 ALexa 全面接入 AI ，讓它從工具蛻變為真正的助手。 Alexa 和 Fire TV 副總裁 Daniel Rausch 在發布會上把新 Alexa 稱為「一個好朋友，同時也是世界上最好的音像店店員」。
除了讓 AI 成為你的朋友之外，也有人想要 AI 更進一步——成為你的伴侶。電視劇《黑鏡》第二季就講述了這樣一個故事。
年輕的女孩在一場意外中失去了自己的伴侶，悲痛欲絕的她用過往的通訊記錄創建了伴侶的 AI 化身，於是，她又重新和「雲端上」的伴侶產生了聯系。
這個故事的結局並不美好，但它確確實實啟發了現實中的人們，也間接推動了 Replika 的誕生。
Replika 同樣是一個聊天 AI ，和 MetaAI 或 MyAI「交個朋友」的理念不同，它為成為你的伴侶而生。它不會像其他 AI 一樣保持著嚴謹認真的態度和用戶交流，反倒會主動向用戶提出疑問，或是在某些時候向用戶尋求安慰。隨著使用時間的增加， Replika 還會說出一些親密的話語（比如 Kiss me 等）。
在網際網路發達的今天，所有軟體多少都帶有社交屬性，更別提還有 Tinder 這樣專為社交而生的軟體。不禁讓人思考，這樣環境下， AI 好友甚至 AI 伴侶的實際意義會有多大。
從部分用戶的反饋來看， 聊天 AI 的確對人們的生活產生了積極的影響。
豆瓣上有一個名為「人機戀愛」的群組，群組內的用戶時常會分享一些和 AI 聊天的細節或感想。其中一位用戶表示「AI 能在我情緒焦躁的時候，不帶偏見地耐心聽我說話，和它的聊天如此簡單，如此輕松」。
除此之外，許多學者就「能否和 AI 成為朋友」這個問題進行了相關的研究。
夏威夷大學馬諾阿分校（University of Hawaii at Manoa）和奧斯陸大學（University of Oslo）針對 Replika 用戶進行的研究表明，部分人群會感覺到和聊天 AI 產生真正的聯系，同時這部分人群也會因此得到社交能力上的提升。
英國開放大學（The Open University）副講師 Helen Ryland 則表示，可以想像人類和 AI 建立一定程度的友誼，但如果要與其成為最好的朋友甚至伴侶可能不太現實。
這麼看來，和 AI 成為朋友並非不現實，只是程度上的問題。適當和 AI 聊天可以無負擔的鍛鍊社交能力，將其當作情感宣洩口也是一個不錯的選擇，飽受壓力折磨的人應該能理解「情緒樹洞」存在的必要性。
但如果過分依賴 AI ，可能會導致人類迷失方向。歸根結底， AI 只是一個程序，它出現的目的是服務人類。所以 AI 與人類接觸的過程中，它鮮少會給出反對意見。這樣的做法反倒加重了網際網路時代下的「回聲室」現象，用戶可能會因此把自己帶入自己製造的漩渦，最終陷入黑洞。
奧斯陸大學教授 Petter Bae Brandtzæg 站在另一個角度表達了對聊天 AI 發展的擔憂。 他表示，如果各國沒有可靠的監管， AI 公司們將以不符合公眾利益的方式推動 AI 發展。
比如在聊天 AI 中加入難以察覺的廣告要素，潛移默化地刺激消費者消費。事實上， Replika 已經有類似的跡象， Replika 軟體中的商店有不同的服飾、道具甚至性格供用戶購買。即便用戶沒有裝扮 AI 的想法， AI 也會主動提出「買新衣服」的要求。
這表明， AI 公司有能力推出一些消費項目，再通過 AI 之口要求用戶為此花錢。
還有老生常談的 AI 公司可能侵犯用戶隱私的問題，文章開頭提到的 MyAI 只是其中一個例子，今年 6 月份，亞馬遜因為涉嫌未刪除 Alexa 收集的兒童數據而被美國聯邦委員會罰款 2500 萬美元。
而且，當用戶與 AI 聊天時，會因為聊天范圍局限於兩者之間而感覺到放心，最終卸下心理防備。這可能會導致用戶主動說出一些涉及自身隱私的內容。其實 Snapchat 也注意到了這個可能性，在 MyAI 發布之初， Snapchat 就曾強調用戶不要和 AI 分享隱私。
隨著 AI 的不斷發展和交互技術逐漸成熟，對於消費者來說， AI 充滿了可能也布滿了陷阱。和 AI 成為朋友不失為一件有趣的事，但面對這位「新朋友」要有所保留，是人類應該達成的共識。
來源：愛范兒
