Ý thức — sự lỗi thời - ForkLog: tiền điện tử, AI, siêu đặc biệt, tương lai

Сознание — атавизм

Chúng ta học được gì từ tiểu thuyết “Mù giả” của Peter Watts

Trong tiểu thuyết “Mù giả”, nhà sinh học và nhà văn người Canada Peter Watts đã đề xuất một giả thuyết cấp tiến: trí tuệ có thể hoạt động hiệu quả mà không cần ý thức. Gần 20 năm sau khi xuất bản cuốn sách, luận điểm này chính xác mô tả về trí tuệ nhân tạo sinh tạo.

Chúng ta tìm hiểu tại sao “thông minh” không đồng nghĩa với “hiểu biết” và những sai lầm nào chúng ta mắc phải khi nhân cách hóa các thuật toán.

Tiểu thuyết năm 2006, trở thành bình luận về năm 2020

“Mù giả” xuất bản vào tháng 10 năm 2006. Tiểu thuyết đã được đề cử giải Hugo năm 2007 và trở thành ứng cử viên chung kết của giải John Campbell và “Locus”.

Tác giả là một nhà sinh vật học biển từ Đại học British Columbia, có bằng tiến sĩ về động vật học và sinh thái nguồn tài nguyên. Trong tiểu thuyết, ông dẫn hơn 130 trích dẫn các công trình khoa học, được đóng gói trong cốt truyện khoa học viễn tưởng phổ biến về liên lạc lần đầu. Vào thập niên 2000, cuốn sách vẫn còn mang tính ngách, thuộc thể loại “khoa học viễn tưởng cứng” và nổi bật với phong cách nặng nề, nhìn nhận u tối về bản chất con người. Các nhà phê bình nhận xét về văn phong khó tiếp cận và sự lạnh lùng cảm xúc của câu chuyện.

Ý tưởng của tiểu thuyết dựa trên sự phân chia hai khái niệm thường liên kết: trí tuệ như khả năng giải quyết vấn đề, xử lý thông tin và ý thức như sự hiểu biết chủ quan, cảm nhận “cảm giác như thế nào khi là” một thứ gì đó, như nhà triết học Thomas Nagel đã diễn đạt.

Watts đưa ra giả thuyết gây sốc: ý thức là một đặc điểm tiến hóa thừa thãi, là sản phẩm phụ, chứ không phải điều kiện cần thiết của trí tuệ.

Tiểu thuyết khám phá trực giác này qua nhiều tuyến truyện. Các mã hóa — sinh vật ngoài hành tinh trên tàu “Rorschach” — có trí tuệ cao hơn nhiều so với con người. Chúng phân tích hoạt động thần kinh của phi hành đoàn và giải quyết các nhiệm vụ phức tạp. Nhưng chúng không có trải nghiệm chủ quan. Chúng không biết rằng chúng tồn tại. Như Watts diễn đạt qua lời một nhân vật:

“Hãy tưởng tượng bạn là một mã hóa. Tưởng tượng bạn có trí tuệ, nhưng không có ý thức, có nhiệm vụ, nhưng không có ý thức. Các dây thần kinh của bạn rung lên vì các chương trình sinh tồn và tự bảo vệ, linh hoạt, tự điều khiển, thậm chí là công nghệ — nhưng không có hệ thống nào giám sát chúng. Bạn có thể nghĩ về bất cứ điều gì, nhưng không nhận thức được gì.”

Nhân vật chính và người kể chuyện Siri Kiton — là một người đã trải qua phẫu thuật cắt bán cầu não để điều trị động kinh khi còn nhỏ. Anh có khả năng mô phỏng chính xác hành vi của người khác, nhưng thiếu cảm thông và trải nghiệm cảm xúc chân thực. Vai trò của anh là một tổng hợp, dịch các dữ liệu phức tạp cho trung tâm điều khiển: anh chuyển đổi thông tin mà không có mối liên hệ cá nhân với nó. Chính Kiton thừa nhận:

“Đây không phải là công việc của tôi — để hiểu. Ban đầu, nếu tôi có thể hiểu họ, đó sẽ không phải là thành tựu quá tiên tiến. Tôi chỉ đơn giản, có thể nói là — là người dẫn đường.”

Dòng truyện thứ ba là vampire Yukka Sarasti, sinh vật săn mồi thời kỳ đồ đá được hồi sinh về mặt di truyền, có trí tuệ vượt xa con người. Ma cà rồng có khả năng nhìn đồng thời cả hai mặt của khối Neker — vận hành nhiều mô hình nhận thức song song.

Thừa thãi ý thức

Mỗi nhân vật trong số này đều dựa trên nền tảng triết học thực tế. Khái niệm zombie triết học, do Robert Kirk giới thiệu năm 1974 và được phổ biến bởi David Chalmers trong cuốn “Ý thức có thể” (1996), mô tả một sinh vật giả thuyết, vật lý giống hệt con người, nhưng thiếu trải nghiệm chủ quan. Các mã hóa là sự cực đoan hóa của ý tưởng này: không phải là bản sao của con người không có ý thức, mà là một dạng trí tuệ hoàn toàn khác biệt.

Chalmers năm 1995 đã hình thành “vấn đề khó của ý thức”: tại sao các quá trình vật lý trong não lại sinh ra trải nghiệm chủ quan? Ngay cả khi chúng ta giải thích toàn bộ các chức năng nhận thức — chú ý, phân loại, xử lý thông tin — vẫn còn câu hỏi: tại sao việc thực hiện chúng lại đi kèm cảm giác? “Mù giả” đặt vấn đề này và lật ngược lại: có thể câu trả lời là “không cần cảm giác gì cả”?

Chính Watts mô tả nguồn gốc ý tưởng như sau: ông đã tìm kiếm mãnh liệt một lời giải thích chức năng cho ý thức và áp dụng cùng một thử nghiệm cho mọi chức năng — hệ thống vô ý thức có thể làm được điều đó không? Câu trả lời luôn là “có”. Sau đó, ông nhận ra một kết luận mạnh mẽ hơn — trong việc không có chức năng nào cả. Trong phần lời kết của tiểu thuyết, Watts tóm tắt: ý thức trong điều kiện đời thường ít bị chi phối, ngoài việc “nhận các ghi chú công tác từ lớp tiềm thức thông minh hơn nhiều, duyệt qua và gán cho nó toàn bộ danh dự.”

Trước Watts nhiều, nhà triết học Na Uy Peter Vessell Taff đã hình thành ý tưởng ý thức như một “quá liều” tiến hóa. Trong bài luận “Phu quân cuối cùng” (1933), ông so sánh trí tuệ con người với hình ảnh “một số con nai trong thời kỳ cổ sinh vật” đã tuyệt chủng vì “sừng quá nặng”. Taff cho rằng ý thức tương tự như một sự thừa thãi tiến hóa: khả năng phát triển vượt quá nhu cầu thực tế, biến từ lợi thế thành gánh nặng.

Nhưng nếu Watts chứng minh rằng ý thức không cần thiết cho trí tuệ, thì nhà triết học Na Uy còn đi xa hơn: nó không chỉ thừa thãi mà còn gây hại. Theo ông, con người phải “hạn chế nhân tạo nội dung ý thức” để tránh rơi vào trạng thái “hoảng loạn vũ trụ” khi nhận thức về giới hạn của chính mình.

Triết gia David Rosenthal cũng đi đến kết luận tương tự. Trong bài viết năm 2008, ông cho thấy rằng ý thức của các trạng thái nhận thức không bổ sung chức năng quan trọng nào vượt quá các quá trình tạo ra chúng.

Eliza trong phòng Trung Quốc

Năm 1980, triết gia John Searle đã công bố thử nghiệm tư duy nổi tiếng “Phòng Trung Quốc”. Nội dung: một người không biết tiếng Trung, ngồi trong phòng kín với bộ quy tắc để thao tác ký tự Hán tự. Nhận câu hỏi bằng tiếng Trung, anh ta theo quy tắc tạo ra câu trả lời. Người quan sát bên ngoài tin rằng bên trong có người hiểu tiếng Trung. Nhưng người bên trong không hiểu gì cả. Kết luận của Searle: cú pháp không đồng nghĩa với ngữ nghĩa. Xử lý chính xác các ký hiệu không có nghĩa là hiểu ý nghĩa của chúng.

Thử nghiệm này được tích hợp trực tiếp vào cốt truyện “Mù giả”. Khi phi hành đoàn “Tesea” liên lạc với “Rorschach”, tàu ngoài hành tinh phản hồi bằng tiếng Anh thành thạo. Ban đầu, điều này được xem như một bước đột phá — giao tiếp với trí tuệ ngoài trái đất. Nhưng nhà ngôn ngữ học Susan James dần nhận ra: “Rorschach” đã học tiếng Anh bằng cách bắt giữ các tín hiệu radio của con người. Nó tổng hợp và kết hợp các mẫu ngôn ngữ. Nó tạo ra các câu trả lời đúng về ngữ pháp và ngữ cảnh. Nhưng nó không hiểu những gì đang nói.

Watts diễn đạt ý tưởng qua lời giải thích của chính Kiton:

“Vấn đề là, bạn có thể giao tiếp bằng cách sử dụng các thuật toán phân tích so sánh đơn giản nhất mà không có chút hiểu biết nào về những gì bạn đang nói. Nếu bạn sử dụng bộ quy tắc đủ chi tiết, bạn có thể vượt qua thử nghiệm Turing. Được xem như một người nói dí dỏm và lém lỉnh, thậm chí không biết ngôn ngữ mà bạn đang giao tiếp.”

Nếu LLM là phòng Trung Quốc, tại sao hàng triệu người lại hành xử như thể sau giao diện là một sinh vật hiểu biết? Câu trả lời nằm trong các sai lệch nhận thức do tiến hóa hình thành.

Năm 1966, nhà tiên phong về trí tuệ nhân tạo Joseph Weizenbaum tại MIT đã tạo ra ELIZA, một chương trình sử dụng mẫu đối chiếu đơn giản để mô phỏng nhà trị liệu tâm lý. Nó chuyển đổi các câu nói của người dùng thành câu hỏi. Hiệu ứng này khiến chính người sáng lập bị sốc: trợ lý của ông, người theo dõi quá trình phát triển, đã yêu cầu để cô ấy ở lại một mình với ELIZA sau vài phút trò chuyện. Weizenbaum sau đó viết:

“Tôi không nghĩ rằng một tương tác cực kỳ ngắn với một chương trình khá đơn giản lại có thể gây ra những suy nghĩ hoang tưởng mạnh mẽ ở những người hoàn toàn bình thường.”

Hiện tượng này được gọi là “hiệu ứng Eliza” — xu hướng gán cho các hệ thống máy tính khả năng hiểu biết mà chúng không có. Hiệu ứng này vẫn tồn tại ngay cả khi người dùng biết rõ đó là một chương trình.

Đây là một sai lệch nhận thức. Chúng ta tiến hóa để nhận diện đồng loại, và ngôn ngữ là một trong những dấu hiệu phân biệt mạnh mẽ nhất của loài Homo sapiens. Watts mô tả cơ chế này trong tiểu thuyết qua nhân vật Robert Canningham, người giải thích tại sao sinh vật vô ý thức lại không thể phân biệt khỏi sinh vật có ý thức:

“Tự động trí tuệ sẽ hòa nhập vào nền tảng, quan sát môi trường xung quanh, bắt chước hành vi của chúng và cư xử như một con người bình thường. Và tất cả điều này — mà không nhận thức được chính mình đang làm gì, thậm chí không nhận thức được sự tồn tại của chính mình.”

Giáo sư về robot nhận thức tại Đại học Hoàng gia London và nhà nghiên cứu cao cấp tại Google DeepMind, Murray Shanahan, cảnh báo:

“Việc sử dụng các từ triết học mang tính tải trọng như ‘tin rằng’ và ‘nghĩ’ một cách cẩu thả đặc biệt gây vấn đề, vì những từ này làm mờ cơ chế và tích cực khuyến khích nhân cách hóa.”

Các mã hóa viết mã

Năm 2024, Watts trong cuộc phỏng vấn tạp chí Helice đã nói: “20 năm trước, tôi đã dự đoán những điều xảy ra ngày nay. Nhưng bây giờ, tôi hoàn toàn không biết chuyện gì sẽ xảy ra trong 20 năm tới.”

Một trong những bài học chính của tiểu thuyết không phải là dự đoán công nghệ. Đó là cảnh báo về cái bẫy nhận thức: ý thức không nhất thiết phải có để đạt hiệu quả. Các mã hóa giải quyết các nhiệm vụ tốt hơn con người mà không có trải nghiệm chủ quan. LLM viết mã và dịch ngôn ngữ mà không hiểu.

Chúng ta nhân cách hóa không phải vì AI lừa dối chúng ta, mà vì bộ não của chúng ta được lập trình để tìm kiếm trí tuệ trong ngôn ngữ. Hiệu ứng Eliza, đã được mô tả từ năm 1966, đã bị hệ thống huấn luyện trên hàng tỷ văn bản nhân rộng nhiều lần.

Tiểu thuyết dạy phân biệt giữa những gì hệ thống làm và bản chất của hệ thống đó. Khả năng không nhầm lẫn mô phỏng với hiểu biết vẫn là một trong những kỹ năng quý giá nhất. Watts đã hình thành ý tưởng này từ hai thập kỷ trước khi câu hỏi trở thành thực tế.