約會App驚現4700個AI「戀人」：真人竟然只是來幫忙驗證？

假如有一天你在交友軟件上認識了一個人 兩個人聊得很投緣 幾個星期後你甚至已經開始琢磨 要不找個時間見一面 可就在這個時候 一家AI公司發佈了一份威脅報告 緊接着你的約會APP下架了 再打開手機 那個每天陪你聊天 眼看就要奔線的人找不到了 而且更讓人傷心的是 這個銷社它可能從一開始就沒有存在過 Hello 大家好 我是佳琪 歡迎來到你聽說了嗎 最近Cloud的母公司Anthropic 發佈了一份威脅報告 其中一個案例畫風相當清奇 Anthropic發現一家位於中國的APP工作室 同時運營着20多款約會APP 它們表面上是不同的交友軟件 但背後使用的是同一套系統 這些APP有不同的名字 看起來跟普通的交友軟件沒什麼區別 可當Anthropic對其中的一款APP 進行了爲期兩週的追蹤之後發現 這些APP裏竟然活躍着超過4700個AI人格 而且在短短兩個星期之內 它們至少跟25000名真人用戶聊過天 一共發出了大約236萬條消息 這件事被Anthropic曝光之後 The Verge一家專門報道科技、互聯網 和數字文化的美國媒體來了精神 他們的記者真的順着這條線索 把其中的一些APP找了出來 那這些APP費這麼大勁 用幾千個AI陪人談戀愛是想幹嘛呢 賺錢 而且賺錢的方法也不是什麼高深的騙局 就是付費聊天 比如你打開APP刷着刷着 哎,這個人不錯,聊得也挺好 可是聊着聊着你會發現 發消息是會消耗額度的 額度沒了,還想繼續聊天怎麼辦 那就得買金幣 所以它的運行方式和傳統的愛情詐騙不一樣 這些AI是不會跟你借錢的 它們主打一個陪伴 只要你還想和它說話 那整個生意就能進行下去 但是它有一個非常明顯的漏洞 那就是太像AI了 於是整個騙局裏最荒誕的設計出現了 平臺真的僱了真人 Antarctic發現 這些APP的AI和真人大約是3比1 這些真人是平臺賺來的零工 它們一個很重要的作用就是驗證身份 比如和用戶視頻通話 讓用戶相信這個人是真的存在 而他們自己則會通過這些行爲獲得報酬 所以現在整套流程就變得非常魔幻了 從製造人物,維持聊天 製造有人喜歡你的感覺 到發現你開始懷疑 在想辦法降低你的戒心 它已經變成了一套完整的生意 而且爲了讓這些APP能順利上線 它們還專門研究怎麼通過 Apple和Google應用商店的審覈 不過在這次被發現之後 Antarctic信封了與這些行動有關的賬號 並把相關信息分享給了其他AI公司 這批APP也陸續遭到下架 唉,事情到這裏就告一段落了 可是我們反過來思考一下 這件事真正可怕的地方 是AI可以模仿真人談戀愛嗎 不是,而是現在的詐騙成本已經跌到這種程度 以前一個騙子想同時跟100個人談戀愛 恐怕早安都要累出個好歹 現在光一個平臺上就有4700多個AI人格 兩個星期能發236萬條消息 再加上AI的同行輔助 一條工業化網鏈流水線就製造出來了 所以現在如果你在交友軟件上認識了一個人 問他你的照片是不是P的都已經過時了 你還要多懷疑一下陪伴你的還是不是真人 好,今天的節目就到這裏 感謝大家的收看 我們下期節目再見,謝謝