個案用 AI 打造心理諮商師「分身」,專家提醒恐混淆療程並延誤治療_iOS账号 韩区地址填写 完整步骤与注意事项
愈來愈多民眾向生成式 AI 尋求心理健康建議,個案如今更出現新用法:正在接受心理治療的用A延誤個案,利用 AI 角色扮演(AI persona)功能,造心專家治療打造模仿心理諮商師的理諮虛擬分身。AI 科學家 Lance Eliot 在《富比士》(Forbes)撰文,商師這種做法雖有合理動機,分身iOS账号 韩区地址填写 完整步骤与注意事项卻潛藏混淆療程、提醒隱私外洩與法律爭議等多重風險。恐混
所謂 AI 角色扮演,淆療是程並透過提示詞要求大型語言模型(LLM)模仿特定人物或角色。Eliot 表示,個案建立心理師的用A延誤 AI 分身門檻極低,使用者只要輸入對方的造心專家治療個人簡介、網站治療理念或部落格文章即可;更進一步者,理諮還會把自己的商師求韩区apple id 切换教程療程筆記甚至逐字稿交給 AI,整個過程不需任何開發技術。
個案這麼做未必心懷不軌。Eliot 歸納出三種常見理由:一是事前預演,把每週可能僅 1 小時的療程時間發揮到極致;二是療程結束後回顧整理,揣摩心理師提出某些話題的用意;三是在兩次療程之間遇到難題,又無法即時聯繫心理諮商師時,改向 AI 分身求助。
然而 Eliot 強調,無論設定多詳細,AI 分身都不可能真實呈現心理諮商師本人,甚至可能給予與真人完全相反的建議。個案容易因此「錨定」AI 說法,回到診間與心理諮商師爭辯;更麻煩的是,個案可能分不清哪些建議出自真人、哪些來自 AI。長期下來,部分個案可能認為隨時可用的 AI 分身就夠了,故不再赴約,最終完全放棄真人治療。
其他風險同樣不容忽視。AI 幻覺(hallucination)可能產生看似合理卻錯誤的建議;而多數 AI 業者在使用條款載明,開發人員可檢視對話內容,並用於訓練模型,把療程筆記交給 AI 等同讓個人隱私暴露於風險下。Eliot 也預測,若有人將模仿特定心理師的 AI 角色分享給他人,甚至藉此牟利,恐衍生智慧財產權與倫理爭議。
Eliot 指出,ChatGPT 每週活躍使用者已超過 10 億人,不少人會觸及心理健康議題,生成式 AI 對心理健康有雙面刃效果。他提醒,AI 終究只是運算與數學模擬,偶爾當輔助工具尚可,但不應取代專業的真人照護。
Eliot 以笑話作結:有人改用 AI 分身後,乾脆再做一個自己的 AI 分身,讓兩個 AI 對談,從此不必再進行真人治療;他直言,這或許沒有想像好笑。
- Using An AI Persona To Impersonate Your Therapist So You Can Get Inside Their Head
- Beware machines that always take our side
- Are You Relying on AI Chatbots for Emotional Support? Expert Explains the Risks of Dependence and Its Impact on Mental Health
- The problem with your AI therapist
(首圖來源:Pixabay)
本文地址:http://0o7.aukewel.com.cn/html/63e5099886.html
版权声明
本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。