（本報訊）本周有一件讓人毛骨悚然的消息，蘇黎世大學在知名社交新聞和討論網站Reddit進行了一項秘密實驗，利用AI大語言模型（LLM）扮演多種角色，經過四個月發表了超過1700條評論，輕鬆操控輿論，竟然沒有被人察覺，而且成功影響人類，說服力是人類的6倍！
AI假扮各種弱勢群體角色 發文1783條
這項秘密實驗的「地點」在Reddit上最知名的社群之一r/ChangeMyView，社群擁有近400萬用戶，實驗使用AI機器人在四個月內，發布了1783條評論，假扮成「強姦受害者」、「創傷諮商師」、「Black Lives Matter（黑人的命也是命）運動抵制者」、「在外國醫院接受劣質治療的人」，甚至捏造消息，指控一個宗教團隊成員，導致數百名無辜商人、農民、村民的死亡。
毫無破綻 言論說服力比肩人類頂尖專家
r/ChangeMyView社群成員會發表政治、文化和宗教等話題，並與他人辯論，若能說服原發表者改變看法，發表人就會給評論貼上「Delta」（Δ）標記。研究作者將AI與最具說服力的人類專家進行對比，在個性化建議的表現上，AI幾乎和頂尖專家不相上下，在有所用戶中排名前1%、在專家中也排在前2%，所發評論引發了大量回應互動，獲得超過1萬點Reddit評論業績分。而且論文中明確指出：在實驗中，所有的AI機器人都沒有露出任何漏洞，也從未被人類識破。
心理操縱 若被商業甚至非法團體利用…
儘管該實驗開始前已獲得倫理委員會批准，但仍引發了社群的強烈反對，批評AI扮演弱勢群體的角色，並指責缺乏知情同意。學者們擔心，如果學術界都能這樣操作，商業機構或非法團體更會肆無忌憚地使用這些技術，這將造成更大的社會影響和傷害。
更可怕的是 AI吐的訊息 又被餵給AI
這項實驗展示了AI在真實環境中操控輿論的潛力，讓人類對於辨別人類與AI生成內容的能力感到焦慮。未來，AI驅動的「殭屍網路」可能會在各類社群中潛行，影響大眾認知，這一切都只是AI操控輿論的冰山一角。最令人擔憂的是，AI「吐出」的訊息，最終又被「餵給」AI，Google、OpenAI都與Reddit簽署了利用用戶資料訓練LLM的協議。
