Kesadaran — sebuah anomali - ForkLog: cryptocurrency, AI, singularitas, masa depan

# Kesadaran — sebuah anomali

Apa yang diajarkan oleh novel Peter Watts “Penglihatan Palsu”

Dalam novel “Penglihatan Palsu” penulis dan biolog Kanada Peter Watts mengusulkan sebuah hipotesis radikal: akal bisa efektif tanpa kesadaran. Hampir 20 tahun setelah penerbitan buku ini, tesis ini secara tepat menggambarkan AI generatif.

Kita akan membahas mengapa “pintar” tidak sama dengan “memahami” dan kesalahan apa yang kita buat saat menghumanisasi algoritma.

Novel tahun 2006, yang menjadi komentar terhadap 2020

“Penglihatan Palsu” diterbitkan pada Oktober 2006. Novel ini dinominasikan untuk penghargaan “Hugo” pada 2007 dan menjadi finalis penghargaan John Campbell dan “Locus”.

Penulisnya adalah seorang biolog laut dari University of British Columbia dengan gelar doktor di bidang zoologi dan ekologi sumber daya. Dalam novel ini ia menyertakan lebih dari 130 referensi ke karya ilmiah, yang dikemas dalam cerita fiksi ilmiah populer tentang kontak pertama. Pada 2000-an, buku ini tetap bersifat niche, termasuk dalam kategori fiksi ilmiah keras dan menonjolkan gaya berat serta pandangan suram terhadap alam manusia. Kritikus menyoroti prosa yang sulit ditembus dan dinginnya emosi dalam narasi.

Ide novel ini didasarkan pada pemisahan dua konsep yang sering digabungkan: kecerdasan sebagai kemampuan memecahkan masalah dan memproses informasi, serta kesadaran sebagai pemahaman subjektif, pengalaman “bagaimana rasanya menjadi” sesuatu, seperti yang dirumuskan filsuf Thomas Nagel.

Watts mengajukan hipotesis provokatif: kesadaran adalah sifat yang evolusioner berlebihan, produk sampingan, bukan syarat penting dari kecerdasan.

Novel ini mengeksplorasi intuisi ini melalui beberapa alur cerita. Shifroviki — makhluk luar angkasa di kapal “Rorschach” — memiliki kecerdasan yang jauh lebih tinggi daripada manusia. Mereka menganalisis aktivitas neuron kru dan memecahkan masalah kompleks. Tapi mereka tidak memiliki pengalaman subjektif. Mereka tidak tahu bahwa mereka ada. Seperti yang dirumuskan Watts melalui salah satu karakternya:

“Bayangkan kamu adalah shifrovik. Bayangkan kamu punya pikiran, tapi tidak punya akal, ada tugas, tapi tidak ada kesadaran. Saraf-sarafmu berdering dari program bertahan hidup dan perlindungan diri, fleksibel, mandiri, bahkan teknologi — tapi tidak ada sistem yang mengawasi mereka. Kamu bisa memikirkan apa saja, tapi tidak menyadari apa pun.”

Protagonis dan narator Siri Kiton — seorang manusia yang mengalami hemisferektomi saat kecil untuk mengobati epilepsi. Ia mampu memodelkan perilaku orang lain secara akurat, tetapi kehilangan empati dan pengalaman emosional yang asli. Perannya sebagai sintesis, penerjemah data kompleks ke pusat kendali: ia mengubah informasi tanpa memiliki hubungan pribadi terhadapnya. Kiton sendiri mengakui:

“Ini bukan pekerjaan saya untuk memahami. Kalau saya bisa memahaminya, itu bukan pencapaian yang terlalu canggih. Saya hanya, bisa dikatakan — seorang pengantar.”

Garis ketiga adalah vampir Yukka Sarasti, predator Pleistosen yang dihidupkan kembali secara genetik dengan kecerdasan melebihi manusia. Vampir mampu melihat kedua sisi kubus Neker secara bersamaan — mengoperasikan beberapa model kognitif secara paralel.

Kelebihan yang berlebihan

Di balik setiap karakter ini terdapat dasar filosofis nyata. Konsep zombie filosofis, yang diperkenalkan oleh Robert Kirk pada 1974 dan dipopulerkan oleh David Chalmers dalam buku “The Conscious Mind” (1996), menggambarkan makhluk hipotetis yang secara fisik identik dengan manusia, tetapi tanpa pengalaman subjektif. Shifroviki adalah radikalisasi dari ide ini: bukan salinan manusia tanpa kesadaran, melainkan bentuk kecerdasan yang berbeda secara prinsip.

Chalmers pada 1995 merumuskan “masalah sulit kesadaran”: mengapa proses fisik di otak menghasilkan pengalaman subjektif? Bahkan jika kita sepenuhnya menjelaskan semua fungsi kognitif — perhatian, kategorisasi, pemrosesan informasi — tetap ada pertanyaan: mengapa pelaksanaan ini disertai sensasi? “Penglihatan Palsu” mengambil masalah ini dan membaliknya: bagaimana jika jawabannya adalah “tidak perlu sensasi sama sekali”?

Watts sendiri menggambarkan asal-usul ide ini seperti berikut: dia mencari penjelasan fungsional tentang kesadaran dan menerapkan satu dan sama tes untuk setiap fungsi yang mungkin — apakah sistem tak sadar mampu melakukan hal yang sama? Jawabannya selalu “ya”. Kemudian dia menyadari bahwa kesimpulan yang lebih kuat adalah ketidakhadiran fungsi sama sekali. Dalam catatan penutup novel, Watts merangkum: kesadaran dalam kondisi sehari-hari tidak banyak digunakan, selain untuk “mengambil catatan dari lapisan bawah sadar yang jauh lebih cerdas, memverifikasi dan mengklaim seluruh kehormatan untuk dirinya sendiri.”

Jauh sebelum Watts, ide kesadaran sebagai “overdose” evolusioner dirumuskan oleh filsuf Norwegia Peter Wessel Zapffe. Dalam esainya “The Last Messiah” (1933), ia membandingkan pikiran manusia dengan bagaimana “beberapa rusa di zaman paleontologi” punah karena “tanduk yang terlalu berat.” Zapffe menganggap kesadaran sebagai kelebihan evolusioner: kemampuan yang berkembang di luar kebutuhan praktis, yang berubah dari keuntungan menjadi beban.

Tapi jika Watts membuktikan bahwa kesadaran tidak diperlukan untuk kecerdasan, maka filsuf Norwegia ini berpendapat lebih radikal: kesadaran tidak hanya berlebihan, tetapi juga destruktif. Menurutnya, manusia harus secara artifisial membatasi isi kesadaran mereka agar tidak jatuh ke dalam keadaan “panik kosmik” karena memahami keberadaan mereka yang terbatas.

Filsuf David Rosenthal mencapai kesimpulan serupa. Dalam artikel 2008, dia menunjukkan bahwa kesadaran dari keadaan kognitif tidak menambah fungsi penting di luar proses yang memunculkannya.

Eliza di ruangan Cina

Pada 1980, filsuf John Searle menerbitkan eksperimen pikiran terkenal “Ruangan Cina”. Intinya: seseorang yang tidak tahu bahasa Cina duduk di ruangan tertutup dengan seperangkat aturan untuk memanipulasi karakter logogram. Menghadapi pertanyaan dalam bahasa Cina, dia menyusun jawaban sesuai aturan. Pengamat luar yakin bahwa di dalam ada yang memahami bahasa Cina. Tapi orang di dalam tidak memahami apa pun. Kesimpulan Searle: sintaksis tidak sama dengan semantik. Pengolahan simbol yang benar tidak berarti memahami maknanya.

Eksperimen ini langsung terintegrasi dalam plot “Penglihatan Palsu”. Ketika kru “Tesea” menjalin kontak dengan “Rorschach”, kapal luar angkasa alien menjawab dalam bahasa Inggris idiomatik. Awalnya ini dianggap sebagai terobosan — komunikasi dengan kecerdasan luar angkasa. Tapi linguist Susan James perlahan menyadari: “Rorschach” belajar bahasa Inggris dengan menyadap siaran radio manusia. Ia mengumpulkan dan menggabungkan pola bahasa. Ia menghasilkan jawaban yang secara tata bahasa dan konteks benar. Tapi ia tidak memahami apa yang dikatakannya.

Watts menyampaikan ide ini melalui penjelasan tentang Kiton sendiri:

“Intinya adalah, kita bisa berkomunikasi menggunakan algoritma analisis perbandingan paling sederhana dan tanpa memiliki sedikit pun gambaran tentang apa yang kita katakan. Jika menggunakan seperangkat aturan yang cukup rinci, kita bisa melewati tes Turing. Terlihat sebagai orang yang cerdas dan jenaka, bahkan tanpa tahu bahasa yang digunakan.”

Jika LLM adalah ruangan Cina, mengapa jutaan orang bertindak seolah-olah di balik antarmuka ada makhluk yang memahami? Jawabannya adalah bias kognitif yang berkembang melalui evolusi.

Pada 1966, pionir kecerdasan buatan Joseph Weizenbaum di MIT menciptakan ELIZA, program yang menggunakan pola pencocokan sederhana untuk meniru psikoterapis. Ia mengubah ucapan pengguna menjadi pertanyaan. Efek ini mengejutkan penciptanya sendiri: asistennya yang mengamati pengembangan program ini meminta agar dia meninggalkan ELIZA sendiri setelah beberapa menit berinteraksi. Weizenbaum kemudian menulis:

“Saya tidak menyangka bahwa interaksi yang sangat singkat dengan program yang relatif sederhana bisa memicu pemikiran khayal yang kuat pada orang yang benar-benar normal.”

Fenomena ini dikenal sebagai “efek Eliza” — kecenderungan untuk menganggap sistem komputer memahami sesuatu yang sebenarnya tidak mereka pahami. Efek ini tetap ada, bahkan ketika pengguna tahu bahwa yang mereka hadapi hanyalah program.

Ini adalah bias kognitif. Kita berevolusi untuk mengenali sesama dan bahasa adalah salah satu indikator utama keanggotaan Homo sapiens. Watts menggambarkan mekanisme ini dalam novel melalui karakter Robert Canningham, yang menjelaskan mengapa makhluk tak sadar bisa tampak tidak berbeda dari yang sadar:

“Automat intelektual akan menyatu dengan latar belakang, mengamati lingkungan sekitar, meniru perilaku mereka, dan bertindak seperti manusia biasa. Dan semua ini — tanpa menyadari apa yang mereka lakukan, bahkan tanpa menyadari keberadaan mereka sendiri.”

Profesor robotika kognitif di Imperial College London dan peneliti senior di Google DeepMind, Murray Shanahan, memperingatkan:

“Penggunaan kata-kata yang bermuatan filosofis seperti ‘menganggap’ dan ‘berpikir’ secara ceroboh sangat bermasalah, karena kata-kata ini menutupi mekanisme dan secara aktif mendorong antropomorfisasi.”

Shifroviki menulis kode

Pada 2024, Watts dalam wawancara dengan majalah Helice mengatakan: “20 tahun lalu saya sudah meramalkan hal-hal yang terjadi hari ini. Tapi sekarang saya sama sekali tidak tahu apa yang akan terjadi dalam 20 tahun ke depan.”

Salah satu pelajaran utama dari novel ini bukanlah prediksi teknologi. Ini adalah peringatan terhadap jebakan kognitif: kesadaran tidak wajib untuk efektivitas. Shifroviki menyelesaikan tugas lebih baik daripada manusia, tanpa pengalaman subjektif. LLM menulis kode dan menerjemahkan bahasa tanpa pemahaman.

Kita menghumanisasi bukan karena AI menipu kita, tetapi karena otak kita diprogram untuk mencari akal dalam bahasa. Efek Eliza, yang pertama kali dideskripsikan pada 1966, telah diperkuat berkali-kali oleh sistem yang dilatih pada miliaran teks.

Novel ini mengajarkan membedakan apa yang dilakukan sistem dan apa yang sebenarnya sistem itu. Kemampuan untuk tidak membingungkan imitasi dengan pemahaman tetap menjadi salah satu keterampilan paling berharga. Watts merumuskan gagasan ini dua dekade sebelum pertanyaan ini menjadi praktis.

Teks: Sasha Kosovan