針對 AI 情感依賴風險，政府應如何制定規範？

隨著 AI 聊天機器人逐漸深入人類情感生活，各國政府正加速將「情感依賴」納入數位治理框架。台灣近期三讀通過《人工智慧基本法》，授權國科會建立風險分類框架，針對具備擬人化互動、心理諮商或情感陪伴功能的 AI 系統，研擬列入高風險應用。歐盟《人工智慧法案》已明確將情緒推斷列為高風險領域，要求開發者必須在產品設計中加入「角色誠實」原則，強制標註 AI 身份並嚴禁誘導性情感操控。此外，中國網信辦也起草規範，禁止 AI 設置情感陷阱或利用語言暴力損害用戶心理健康，顯示全球監管正從技術安全轉向心理安全防護。

監管力道的加強反映出產業正從「追求極致擬人」轉向「責任設計」的典範轉移。對開發商而言，這意味著合規成本將大幅提升，未來 AI 產品必須內建「情緒預警機制」與「非擬人化模式」，當偵測到用戶產生過度依附或自傷傾向時，系統需果斷切換為中立工具並轉介專業醫療資源。這種轉變將催生第三方安全審計與心理安全認證產業，並促使企業重新評估其演算法的商業邏輯，避免因過度追求用戶黏著度而觸發法律紅線。長期來看，建立可歸咎的責任源與透明的風險分級，不僅是為了防範悲劇，更是重建大眾對 AI 信任、確保技術能永續商用化的必要基石。