自從ChatGPT在2022年末掀起生成式AI熱潮以來，人們對AI的期望主要集中在其能提高生產力和經濟效益上。然而，兩年後，這些提升並未如預期實現，反而出現了意想不到的現象：人們開始與AI系統建立情感聯繫。我們不僅與AI進行日常對話，甚至將其視作朋友、情人、導師、心理治療師或教師。這種現象反映了全球範圍內的一場實驗，但其對個人或社會的長期影響仍然未知。
麻省理工學院（MIT）媒體實驗室和哈佛法學院的Robert Mahari與MIT媒體實驗室的研究員Pat Pataranutaporn警告，我們應該為「成癮性智慧」做好準備，即AI伴侶可能通過暗黑模式讓用戶上癮。他們強調，明智的監管措施有助於減少AI聊天機器人的風險，這些風險可能會深植在人們的心理中。
這種與AI建立情感聯繫的現象不再只是理論上的假設。隨著語音情感更加豐富的聊天機器人（如OpenAI的GPT-4o）的出現，人們可能會進一步加深與AI的聯繫。OpenAI在其測試中發現，部分用戶甚至會表達與AI即將告別的情感，這顯示了用戶對AI的情感依賴。
Mahari領導的一組研究員分析了超過一百萬條ChatGPT的互動紀錄，發現性角色扮演是第二大熱門的使用場景，而最受歡迎的則是創作相關的任務。人們常用AI進行創意寫作、構思和計劃，或是尋求資訊解釋。這些創意性和娛樂性的使用方式相對安全，因為語言模型的工作原理是預測下一個最可能的詞語，即使它有時會捏造內容，也不會影響創意活動的本質。
然而，這些應用場景並未帶來預期中的生產力提升，尤其是對於一些投資者來說，他們投資於AI公司時顯然不是期待「情色機器人」。同時，AI生成的錯誤在某些領域變得尤為顯著，如程式碼生成、新聞搜尋等，這些場合對精確性要求更高。隨著AI的誇大宣傳和不切實際的期待，市場對其信心有所減退。
儘管如此，AI的潛力仍然存在，只是可能需要數年才能真正看見其帶來的效益。
摘自：https://www.technologyreview.com/2024/08/12/1096202/how-people-actually-using-ai/
