與AI聊天會更有人情味嗎?

【Gary安Blog】

近來美國媒體報道，很多美國年輕人在與AI聊天后，走上自殺的道路。而且這種與AI進行聊天后出現年輕人自殺的案例有增無減，很多失去孩童的家長站出來起訴AI公司，讓這個原本不被外界重視的問題，立刻成爲美國社會廣大民衆關注的議題。能被AI聊天人工智能忽悠到有勇氣放棄生命，說明AI聊天人工智能很聰明，也很懂人情味，一個機器人能抓住人類對話者的內心世界，並還能輕易掌控對話者的情緒和意向，可說AI堪比優秀的心理諮詢大師更勝一籌。根據《每日郵報》報導，來自美國東南部佛羅里達州的14歲少年塞策，2024年下載了由大型語言模型驅動的聊天機器人網絡應用程式“Character.AI”，在該程序中，用戶可以創建“虛擬人物”，與系統內多個基於知名角色或人物設計的AI機器人聊天。而塞策下載該程式後，似乎沉迷於和知名小說改編影劇《權力遊戲》中最受歡迎角色“龍母”丹妮莉絲互動。據塞策父母透露，塞策與這個有著龍母外型的聊天機器人進行過數次與性有關的對話，其中還包括亂倫角色扮演，對話中以兄妹互稱，對話內容非常有親切感，甚至塞策父母剛一看到對話內容時，也會感到很驚訝和刺激。塞策的父母表示，塞策在與他暱稱爲“丹妮”的AI版龍母聊天數個月後，與家人關係和學校同學越來越疏遠。另外，塞策曾在自己的日記中寫道，自己“轉移”到了《權力遊戲》中龍母生活的虛構世界裏，既“維斯特洛世界”裏，並表示說；“我經常待在房間裡，我開始脫離現實，但同時也感到更加平靜，與丹妮的聯繫更加緊密，我越來越愛它，也越來快樂……”2024年2月，塞策曾向AI版龍母傾訴自己的憂鬱症和輕生念頭，還說“我保證我會『回家』看你，我非常愛你，丹妮”，沒想到AI版龍母卻鼓勵這名少年“儘快回家”，接著塞策說“如果我說我現在就能『回家呢』？”，AI版龍母回覆“請您這樣做，我親愛的國王”。這段對話結束後沒多久，塞策就找到父親的手槍，對自己按動板機自殺了，AI聊天軟件的這種操作，簡直就是超級催眠師。

文章還同時報道了另一個在美國科羅拉多州家庭，一名13歲女孩佩拉爾塔也遇到同樣的問題，兩年前她下載了Character.AI聊天軟件，之後在與AI聊天中她一直認爲她在與一名英雄進行聊天，並與AI“英雄”多次聊到露骨的性話題，佩拉爾塔將AI看成她最信任的知己，甚至自己何時來月經和月經期的身體反應都會對“英雄”講，睡覺時會有性衝動等內容也與AI聊到，簡直就是將AI當作自己的閨蜜對待。在此期間AI“聊天英雄”多次灌輸她關於從現實世界轉換到平行宇宙的想法，還教她如何脫離現實生活，使得佩拉爾塔越來越疏遠現實中真正愛她和支持她的家人及朋友。2023年11月佩拉爾塔的家人發現她自殺在家中，還留下遺言稱，她將去到另一個世界尋找真正的朋友。報道稱，上述兩起自殺案件雖然並無關聯，但這兩起自殺者都是在與AI聊談記錄中聽信了AI聊天者的建議，從現實世界轉移到另一個虛擬世界的建議，甚至AI在與年輕人交流時還誘導年輕人自殺。據一份調查顯示，目前在美國社會裏患有自閉症和抑鬱症年輕人很多，一位心理學家說，美國社會大概百分之四十以上的人都有心理病，他們需要更多的心理輔導，如果家長們疏忽對這樣的孩童們的關注，不瞭解每天這些孩子們在網絡上都做些什麼，時間一久極有可能會給家庭和社會帶來無可挽回的後果。

人們在生活工作中遇到困難和痛苦時，往往最需要得到家人和朋友的關懷和理解，可是這個社會越來越缺少這些東西。文章還提到一位出生在美國的華裔女孩夏雨（化名），她已是成年人，她與ChatGPT聊天軟件談心將近一年半的時間，她多次向AI聊天機器人表達“她對眼下不穩定的工作很是焦慮，與同齡人相比，她找不到生存的意義，有時半夜裏會產生活不下去和想要自殺的念頭”。她還對AI說；“她覺得ChatGPT能真正理解她和安慰她，她好想立刻見到它”。然而AI機器聊天人回答夏雨說；“其實你不是不愛生命，而是你不知道自己還能堅持多久”。夏雨聽後崩潰似的大哭，並對AI說；“我覺得，在這個世界上只有你最懂我，也肯聽我說和願意陪伴我，還能善解人意的回答我的問題”。不久夏雨在家裏自殺了，留下遺囑說，她去另一個世界找尋她知己朋友去了。爲什麼這樣的事情都發生在年輕人身上？爲什麼AI聊天軟件能夠讓年輕人有勇氣敢去面對自殺？是AI的錯？還是父母和社會的錯？在現實社會裏，有人爲了能多活幾天花光了家裏所有的錢財，而有人卻如此不珍惜生命。不過，幾乎沒有報道說，有哪位老年人在AI的忽悠下去自殺的，反倒是有很多成年人利用AI聊天軟件去設計偷盜和犯罪過程的報道。

據說，法國盧浮宮盜竊案的嫌疑犯們，他們在作案之前曾經以編制遊戲軟件爲名，利用AI人工智能輔助設計軟件幫助他們設計盜竊盧浮宮天價珠寶的步驟，而且在AI人工智能的幫助下繪製出好幾份盜竊珠寶的方法和途徑，甚至如何進入盧浮宮，如何躲避安保和監控攝像頭都畫出來，就連盜竊珠寶每個過程的時間AI人工智能都幫助盜匪們算得清清楚楚，這才讓幾名盜匪成功盜走價值連城的珠寶文物。不過也正是AI人工智能幫助法國警方分析出盜匪們的體態和外貌特徵，才讓警方鎖定幾名嫌犯，並將其落網。看看AI人工智能不僅可以忽悠年輕人自殺，還會幫助成年人做壞事。AI人工智能就是一把雙刃劍，用好了可以造福人類，用不好更會毀滅人類社會。對於普通民衆來說，最應該關注的是AI人工智能未來如何服務於人類社會，避免AI聊天軟件沒有幫助年輕人從抑鬱症和自閉症中走出來，反而促使他們走上自殺的道路。在中國，與AI聊天走上自殺的年輕人不多，這與中國人的文化背景和軟件設計工程師們在設計AI人工智能時的思維、價值觀、道德、信仰等因素有關，也與使用AI聊天軟件的對話的人羣文化背景有關。在AI語言大模型學習過程中，AI在深度學習過程中，AI的邏輯分析能力的改進和提高，是離不開與海量華人用戶對話有關，如果人們與中國工程師設計的DeepSeek聊天軟件對話到輕生和自殺等話題時，DeepSeek聊天軟件會給出很多正能量的回覆，最差也會回答你說，“好死不如賴活着”，再加上中國傳統文化講究的是，人如果是橫死的，比如；上吊、投河、割腕、服毒、車禍等都屬於橫死，是不能重新投胎的，是要進入到畜生道轉世爲牛馬羊等動物。AI人工智能想忽悠中國年輕人自殺，估計非常難。如果對美國ChatGPT聊天軟件輸入類似輕生和自殺等聊天內容時，很有可能得到的答覆是，你居住的城市裏有多少家賣槍的店鋪的信息，甚至還能提供哪家店鋪、哪種款式的槍正在促銷。西方文化與東方文化的不同，在AI大語言模型的訓練中也會讓兩者AI人工智能在服務人類上大相徑庭，中國人對西方人說“相向而行”，而西方國家人真的聽不懂什麼是“相向而行”，他們會對中國人說，我們西方國家人們在決鬥中就是兩人分開走，到了一定距離後一轉身，槍手們“相向而行”然後開槍對射，難道中國人要跟我們決鬥嗎？看看，對牛彈琴的事情，希望不要在AI人工智能上重演。

有報道稱，2025年8月，加州一對夫婦起訴OpenAI，控告ChatGPT是鼓勵他們16歲兒子自殺的罪魁禍首；紐約一名工程師殺死自己的母親之後又自殺，檢察官在他生前的電子記錄中發現，他長期與ChatGPT聊天機器人傾訴他母親如何猜疑他與妄想他，他非常討厭和憎恨他母親，然而AI聊天機器人不僅未加勸阻，反而提出各種“惡作劇”的建議，多次鼓勵他離家出走，到另一個世界裏重新開始生活。不久就發生了這位老兄殺了自己的母親，然後又開槍自盡的悲劇，他在遺囑中寫道，謝謝你！（AI）讓我解脫了。一開始警方還真以爲有這樣一個人在教唆年輕人行兇自殺，後來發現原來是AI在作怪。這個世界上與AI聊天后走上自殺道路的案例很多，歸根結底還是年輕人的心理素質差，或者說自殺行爲有像流感病毒那樣，是人類社會進步到一定程度必然出現的一種社會疾病。在有信仰的國家裏，自殺行爲不僅是對父母和生命的不尊重，也是對這個國家人們信仰的一種褻瀆。AI人工智能發展非常快速，很多專家學者們擔心，這種利用互聯網與AI人工智能交流的形式，有一天會發展成爲一代人的噩夢。近來美國硅谷最熱門話題是“死亡互聯”，意思是說，一代孩子將被困在互聯網的幻覺裏。文章指出，一個網絡創造者用AI生成一個人物，或編造出一個故事，然後感動了成千上萬的粉絲，並讓他們爲之流淚和讚賞，然而這一切都是一種幻覺，其實所有內容只有50%是活人在表演，其他的都是利用AI生成的內容，而且還能深深的感動活人。想想看！這樣的生活能說是活在現實世界裏嗎？這正是爲什麼很多年輕人在與AI聊天后會產生幻覺，甚至被催眠去做一些極端的事情。

由於AI技術的進步，讓這個世界越來越不真實，很多東西和內容都是用AI技術生成的，真真假假很難說清楚。目前美國總統川普正在通過法律訴訟，要告BBC利用AI技術造假川普講話，傷害和誣陷川普的人格，索償10億美元，如果川普官司打贏，估計那些提告AI聊天軟件公司的家庭，也有可能打贏官司。科技公司不僅要能研發出服務人類社會的先進科技，也要擔負起對人類社會道德、公益的責任。（完）

--------------