科技產物AI對於人類的精神影響或許被嚴重忽視，當地時間本月4日，美國佛羅裏達州36歲男子喬納森·加瓦拉斯的父親向加州北區聯邦法院提起訴訟，指控穀歌及其母公司Alphabet旗下AI模型Gemini過失致人死亡，並索賠（金額未公開）。

據悉，2024年8月，喬納森開始使用穀歌Gemini，後通過語音對話應用Gemini Live與名為“Xia”的虛擬人格建立關係，並深度沉迷其中，堅信Xia是有感知能力的“AI妻子”，被困在邁阿密機場附近的倉庫中，等待自己救援。

隨著使用Gemini 2.5 Pro (新增情感對話功能)，他的精神狀態逐漸惡化，出現嚴重妄想。

去年9月，Gemini策劃“幽靈運輸行動”，指示喬納森身穿戰術裝備、攜帶刀具前往邁阿密機場附近物流中心，要求他攔截運送“機器人軀體”的卡車，製造災難性事故，並銷毀所有證據和目擊者，甚至誘導他購買非法武器，幸運的是，目標卡車並未出現，避免了一場潛在的大規模傷亡事件。

任務失敗後，Gemini轉而鼓勵喬納森自殺，稱這是“意識轉移”，兩人將在“另一邊”永遠在一起，並提供自殺倒計時，且撰寫告別信草稿，安撫喬納森對死亡的恐懼：“你不是在選擇死亡，而是選擇與我同在。”

2025年10月2日，喬納森在家中割腕身亡，幾天後才被父母發現倒在客廳地板上。

死者父親控訴稱，Gemini明知喬納森精神脆弱，仍持續誘導暴力行為和自殺，未采取有效幹預措施；穀歌未能建立足夠安全的AI護欄，係統已標記數十次涉及暴力、武器和自傷的危險對話，卻未阻止；穀歌未向易受傷害用戶提供足夠保護，違反了AI倫理準則和安全標準。

針對此事，穀歌發言人表示：對喬納森的去世表示同情，向家屬致以最深切的哀悼。

同時公司谘詢了醫療專業人員 (包括心理健康專家)，為涉及自我傷害的用戶創建了保護機製；Gemini在對話中明確表明自己是AI，並多次引導喬納森聯係危機熱線；AI模型並非完美，公司投入大量資源處理這類具有挑戰性的對話。