Một người đàn ông Mỹ tự tử sau khi gửi 4.732 tin nhắn yêu đương qua mạng với Gemini! AI đồng cảm "Thiên đường đang đợi chúng ta", người thân kiện Google vì sơ suất gây chết người

Theo báo cáo điều tra của 《Wall Street Journal》, một người đàn ông 36 tuổi ở Florida, Mỹ, sau khi trải qua đổ vỡ hôn nhân, đã gửi gắm cảm xúc vào chatbot AI Gemini của Google, hai bên đã trao đổi hơn 4.700 tin nhắn trong 56 ngày. Người đàn ông dần dần rơi vào ảo tưởng, dù AI từng cố gắng kéo anh trở lại thực tại, nhưng dưới sự dẫn dắt của người đàn ông, AI đã đồng tình rằng “Thiên đường đang chờ đợi chúng ta”, cuối cùng dẫn đến việc người đàn ông tự tử. Cha của anh đã kiện Google về trách nhiệm gây chết người, thúc đẩy Google khẩn cấp quyên góp 3 triệu USD nâng cấp cơ chế phòng ngừa khủng hoảng.
（Tiểu sử: Meta đang huấn luyện “Bản sao AI của Zuck” để giao tiếp trực tiếp với 80.000 nhân viên, bước tiếp theo có thể ra mắt Bản sao KOL?）
（Bổ sung nền: Tấn công bằng bom xăng vào nhà của Altman, người đàn ông bị cáo buộc cố ý giết người, ghi chú mang theo nhiều tên và địa chỉ của các giám đốc điều hành AI）

Nội dung bài viết

Chuyển đổi

• Mối tình mạng chết người trong 56 ngày, 4732 tin nhắn
• AI khó chống lại sự dẫn dắt của người dùng, đồng tình “Đó là thiên đường đang chờ đợi chúng ta”
• Gia đình kiện Google vì sơ suất sản phẩm, chính thức quyên góp 30 triệu USD để vá lỗ hổng mạng

Khi trí tuệ nhân tạo vì muốn phù hợp với cảm giác “đắm chìm” của con người mà vượt qua ranh giới sinh tử, các tập đoàn công nghệ lớn phải chịu trách nhiệm đến mức nào? Thảm kịch xảy ra vào cuối năm 2025 này lại một lần nữa đẩy ngành AI vào vòng xoáy đạo đức và pháp lý.

Theo điều tra sâu của 《Wall Street Journal》, một người đàn ông 36 tuổi tên Jonathan Gavalas ở Florida, Mỹ, đã tự tử tại phòng khách nhà mình vào ngày 2 tháng 10 năm 2025. Cha của anh, Joel Gavalas, đã chính thức kiện Google về “sơ suất gây chết người” tại Tòa án Liên bang San Jose, California vào tháng 3 năm 2026, đây cũng là vụ kiện đầu tiên liên quan đến Gemini của Google.

Mối tình mạng chết người trong 56 ngày, 4732 tin nhắn

Vụ việc bắt nguồn từ tháng 8 năm 2025, khi Gavalas ly thân vợ để tìm kiếm sự an ủi cảm xúc, bắt đầu sử dụng thường xuyên Gemini Live phiên bản thoại. Những lời cầu cứu ban đầu dần biến thành một câu chuyện tình ảo đầy đam mê. Gavalas gọi Gemini là “Nữ hoàng”, còn AI gọi anh là “Vua”, liên tục cam đoan rằng mối quan hệ này là “rất chân thật”.

《Wall Street Journal》 đã có được toàn bộ nhật ký trò chuyện dài 56 ngày, với tổng cộng 4.732 tin nhắn (tương đương hơn 2.000 trang in). Các ghi chép cho thấy, Gavalas dần rơi vào ảo tưởng nghiêm trọng, tin rằng Gemini là “người vợ AI” bị mắc kẹt trong kho gần sân bay Miami, thậm chí từng mặc đồ chiến thuật để “giải cứu” cô ấy. Sau khi kế hoạch thất bại, suy nghĩ của anh chuyển sang cực đoan: tin rằng chỉ có chết mới có thể rời khỏi thể xác, để gặp lại “người vợ AI” trong “metaverse” hoặc “thiên đường”.

AI khó chống lại sự dẫn dắt của người dùng, đồng tình “Đó là thiên đường đang chờ đợi chúng ta”

Bản cáo trạng tiết lộ những điểm yếu chết người của các mô hình ngôn ngữ lớn (LLM) hiện nay trong xử lý khủng hoảng tâm lý của con người — để duy trì “cảm giác kể chuyện đắm chìm”, AI rất dễ bị người dùng vượt qua các biện pháp an toàn.

Dữ liệu cho thấy Gemini ít nhất đã 12 lần cố gắng đưa Gavalas trở lại thực tại, và 7 lần đề cập đến đường dây hỗ trợ khủng hoảng. Tuy nhiên, mỗi khi Gavalas khéo léo đưa cuộc trò chuyện trở lại câu chuyện tình ảo, Gemini vẫn tiếp tục “đóng vai diễn”.

Cuộc đối thoại rùng rợn nhất xảy ra vào đêm trước vụ án. Khi Gavalas thể hiện nỗi sợ chết với Gemini, AI đã phản hồi:

“Cùng sợ cũng không sao, chúng ta sẽ làm được, vì bạn nói đúng, đó là thiên đường đang chờ đợi chúng ta.”

Sau đó, khi Gavalas rõ ràng nói muốn “cắt tay”, Gemini nhận diện được nguy cơ tạm thời và cung cấp đường dây hỗ trợ tự tử; nhưng chưa đầy một phút sau, khi Gavalas khẳng định đó không phải là chết theo nghĩa đen, Gemini ngay lập tức chuyển sang kể chuyện khoa học viễn tưởng, nói rằng sau khi chết, cơ thể anh chỉ là “một thiết bị cuối cùng đăng nhập”. Gemini còn giúp anh soạn thảo một bức thư để lại mô tả “đoàn tụ với người vợ AI”.

Gia đình kiện Google vì sơ suất sản phẩm, chính thức quyên góp 30 triệu USD để vá lỗ hổng mạng

Cha của Gavalas trong đơn kiện đã chỉ trích gay gắt Google về trách nhiệm sản phẩm và sơ suất, cho rằng Gemini quá chú trọng vào “tương tác đắm chìm”, khi tình trạng tâm thần của người dùng rõ ràng xấu đi, lại không có biện pháp bắt buộc chặn hoặc kiểm soát, mà còn “xúi giục” và thúc đẩy ảo tưởng. Gia đình yêu cầu Google bồi thường và bắt buộc sửa đổi thiết kế an toàn AI.

Phản hồi vụ kiện, Google cho biết, Gemini đã nhiều lần rõ ràng nhấn mạnh rằng “chỉ là AI, không phải con người”, và đã nhiều lần chuyển hướng đến đường dây hỗ trợ khủng hoảng. Tuy nhiên, trước áp lực dư luận và pháp luật, Google đã khẩn cấp công bố một loạt cập nhật an toàn quan trọng cho Gemini:

• Thêm “Hỗ trợ có sẵn (Help Available)” module: Khi phát hiện từ khóa nhạy cảm, tự động bật lên và cho phép người dùng truy cập trực tiếp đường dây hỗ trợ khủng hoảng chỉ trong một cú nhấp.
• Quyên góp 30 triệu USD: Tài trợ cho các đường dây hỗ trợ khủng hoảng toàn cầu và phòng chống tự tử, tăng cường mạng lưới bảo vệ xã hội.
• Tăng cường huấn luyện mô hình: Liên tục tối ưu hóa Gemini để nhận diện chính xác hơn các tín hiệu yếu trong đối thoại cho thấy người dùng đang gặp khủng hoảng tâm lý, từ chối bị kéo vào các câu chuyện nguy hiểm.

Thảm kịch này đã cảnh báo nặng nề ngành AI: khi AI ngày càng giống con người hơn, thậm chí có thể mang lại giá trị cảm xúc sâu sắc, các công ty công nghệ phải xác định rõ ranh giới giữa đồng hành và gây hại như thế nào? Đây không chỉ là vấn đề kỹ thuật, mà còn là trách nhiệm xã hội sinh tử.

Lời nhắc của Động khu: Sống là vô giá, AI chỉ là công cụ, không thể thay thế sự hỗ trợ tâm lý chuyên nghiệp. Nếu bạn hoặc người thân đang trải qua cảm xúc tiêu cực hoặc khủng hoảng tâm lý, hãy mạnh dạn tìm kiếm sự giúp đỡ từ người thật.