要说Billions ini seperti proyek yang tidak peduli dengan agen AI, memang akan sangat aneh.

Baru-baru ini melihat sebuah analisis yang banyak dibahas oleh para profesional di industri, inti topiknya adalah—identitas dan akuntabilitas agen AI.

Masalah ini sebenarnya sangat nyata. Saat ini agen AI bertebaran di mana-mana, mulai dari chatting pengguna hingga mengeksekusi transaksi, bahkan pengambilan keputusan penting, hampir tidak ada tempat yang tidak terpengaruh. Tapi "agen cerdas" ini sering kali kekurangan identifikasi yang jelas dan rantai akuntabilitas saat beroperasi, inilah yang menjadi risiko utama.

Berikut beberapa contoh yang bisa dilihat:

**ChatGPT dari OpenAI**—identitas perusahaan yang jelas dan perjanjian layanan, jika pengguna mengalami masalah, mereka bisa menemukan pihak yang bertanggung jawab secara spesifik. Transparansi semacam ini sangat mengurangi biaya kepercayaan.

**Sistem autopilot Tesla**—ketika kendaraan dalam mode otomatis mengalami kecelakaan, ada jejak data lengkap, tanggung jawab kecelakaan bisa dilacak, dan perusahaan bertanggung jawab secara hukum.

**Asisten AI medis**—harus mendapatkan sertifikasi dari FDA dan lembaga pengawas lainnya, sebelum bisa terlibat dalam pengambilan keputusan medis. Ini bukan formalitas, melainkan batas minimal untuk memastikan tidak membahayakan.

Dari sudut pandang lain, masalah ini juga memunculkan beberapa pertanyaan yang tidak bisa diabaikan:

**Bagaimana merancang sistem otentikasi identitas agen AI yang berlaku secara global, sekaligus tidak melanggar privasi?** Ini adalah ujian dari sisi teknologi dan etika.

**Ketika keputusan agen AI salah, siapa yang harus bertanggung jawab?** Apakah perusahaan pengembang yang harus menanggung, atau pengguna yang harus menanggung sendiri, atau keduanya bersama? Regulasi yang ada saat ini hampir tidak membahas hal ini.

**Saat ini, daerah dan industri mana saja yang sudah menerapkan mekanisme akuntabilitas agen AI?** Ini bisa memberi petunjuk arah masa depan.

Secara sederhana: agen AI saat ini seperti pedagang kecil di jalanan yang tidak punya izin, mungkin barang yang dijual bagus, tapi begitu terjadi masalah, sulit menemukan orang yang bertanggung jawab. Daripada menunggu regulasi diterapkan secara pasif, lebih baik kita aktif memberi diri kita "izin usaha".