AI di Eropa: Apa yang Mungkin Diturunkan oleh Undang-Undang AI

Foto oleh Maico Amorim di Unsplash

Undang-Undang AI masih sebatas draf, tetapi investor dan pemilik bisnis di Uni Eropa sudah merasa cemas tentang kemungkinan hasilnya.

Akankah hal ini mencegah Uni Eropa menjadi pesaing yang berharga di kancah global?

Menurut regulator, itu tidak terjadi. Tapi mari kita lihat apa yang sedang berlangsung.

Undang-Undang AI dan Penilaian Risiko

Undang-Undang AI membagi risiko yang ditimbulkan oleh kecerdasan buatan ke dalam berbagai kategori risiko, tetapi sebelum melakukannya, ia mempersempit definisi kecerdasan buatan untuk hanya mencakup sistem berbasis pembelajaran mesin dan logika.

Ini tidak hanya bertujuan membedakan sistem AI dari perangkat lunak yang lebih sederhana, tetapi juga membantu kita memahami mengapa UE ingin mengkategorikan risiko.

Penggunaan AI yang berbeda diklasifikasikan ke dalam risiko tidak dapat diterima, risiko tinggi, dan risiko rendah atau minimal. Praktik yang termasuk dalam kategori risiko tidak dapat diterima dianggap sebagai dilarang.

Jenis praktik ini meliputi:

• Praktik yang melibatkan teknik yang bekerja di luar kesadaran manusia,
• Praktik yang ingin mengeksploitasi bagian-bagian rentan dari populasi,
• Sistem berbasis AI yang digunakan untuk mengklasifikasikan orang berdasarkan karakteristik atau perilaku pribadi,
• Sistem berbasis AI yang menggunakan identifikasi biometrik di ruang publik.

Ada beberapa kasus penggunaan, yang harus dipertimbangkan serupa dengan beberapa praktik yang termasuk dalam kegiatan yang dilarang, yang termasuk dalam kategori praktik “berisiko tinggi”.

Ini termasuk sistem yang digunakan untuk merekrut pekerja atau untuk menilai dan menganalisis kelayakan kredit orang (dan ini bisa berbahaya bagi fintech). Dalam kasus ini, semua bisnis yang membuat atau menggunakan jenis sistem ini harus menghasilkan laporan rinci untuk menjelaskan cara kerja sistem dan langkah-langkah yang diambil untuk menghindari risiko bagi orang dan untuk sebaik mungkin transparan.

Segalanya tampak jelas dan benar, tetapi ada beberapa masalah yang harus ditangani regulator.

Undang-Undang Terlihat Terlalu Umum

Salah satu aspek yang paling membuat pemilik bisnis dan investor khawatir adalah kurangnya perhatian terhadap sektor AI tertentu.

Misalnya, perusahaan yang memproduksi dan menggunakan sistem berbasis AI untuk tujuan umum bisa dianggap sebagai yang menggunakan kecerdasan buatan untuk kasus penggunaan berisiko tinggi.

Ini berarti mereka harus menghasilkan laporan rinci yang memakan waktu dan biaya. Karena UKM tidak terkecuali, dan karena mereka membentuk bagian terbesar dari ekonomi Eropa, mereka bisa menjadi kurang kompetitif seiring waktu.

Dan perbedaan antara perusahaan AI AS dan Eropa yang menjadi perhatian utama: sebenarnya, Eropa tidak memiliki perusahaan AI besar seperti di AS, karena lingkungan AI di Eropa sebagian besar dibentuk oleh UKM dan startup.

Menurut survei yang dilakukan oleh appliedAI, mayoritas besar investor akan menghindari investasi di startup yang diberi label “berisiko tinggi”, tepat karena kompleksitas yang terlibat dalam klasifikasi ini.

ChatGPT Mengubah Rencana UE

Regulator UE seharusnya menutup dokumen ini pada 19 April, tetapi diskusi terkait definisi berbeda dari sistem berbasis AI dan kasus penggunaannya menunda pengiriman draf akhir.

Selain itu, perusahaan teknologi menunjukkan bahwa tidak semua dari mereka setuju dengan versi dokumen saat ini.

Poin yang paling menyebabkan penundaan adalah diferensiasi antara model dasar dan AI tujuan umum.

Contoh model dasar AI adalah ChatGPT dari OpenAI: sistem ini dilatih menggunakan data dalam jumlah besar dan dapat menghasilkan berbagai jenis output.

AI tujuan umum mencakup sistem yang dapat disesuaikan untuk berbagai kasus penggunaan dan sektor.

Regulator UE ingin mengatur secara ketat model dasar, karena mereka bisa menimbulkan risiko lebih besar dan berdampak negatif pada kehidupan orang.

Bagaimana AS dan China Mengatur AI

Jika kita melihat bagaimana regulator UE memperlakukan AI, ada sesuatu yang menonjol: tampaknya regulator kurang bersedia bekerja sama.

Di AS, misalnya, pemerintahan Biden mencari komentar publik tentang keamanan sistem seperti ChatGPT, sebelum merancang kerangka regulasi yang mungkin.

Di China, pemerintah telah mengatur AI dan pengumpulan data selama bertahun-tahun, dan kekhawatiran utamanya tetap stabilitas sosial.

Sejauh ini, negara yang tampaknya berada dalam posisi baik dalam regulasi AI adalah Inggris, yang memilih pendekatan “ringan” — tetapi tidak rahasia lagi bahwa Inggris ingin menjadi pemimpin dalam adopsi AI dan fintech.

Fintech dan Undang-Undang AI

Ketika menyangkut perusahaan dan startup yang menyediakan layanan keuangan, situasinya bahkan lebih rumit.

Faktanya, jika Undang-Undang ini tetap seperti versi saat ini, fintech tidak hanya harus mematuhi regulasi keuangan yang ada, tetapi juga kerangka regulasi baru ini.

Fakta bahwa penilaian kelayakan kredit bisa diberi label sebagai kasus penggunaan berisiko tinggi hanyalah contoh beban yang harus dipikul fintech, yang mencegah mereka menjadi lebih fleksibel seperti sebelumnya, untuk mengumpulkan investasi dan tetap kompetitif.

Kesimpulan

Seperti yang dikatakan Peter Sarlin, CEO Silo AI, masalahnya bukan regulasi, tetapi regulasi yang buruk.

Terlalu umum bisa merugikan inovasi dan semua perusahaan yang terlibat dalam produksi, distribusi, dan penggunaan produk serta layanan berbasis AI.

Jika investor UE khawatir tentang risiko potensial yang ditimbulkan oleh label yang menyatakan bahwa startup atau perusahaan termasuk dalam kategori “berisiko tinggi”, lingkungan AI di Uni Eropa bisa terdampak negatif, sementara AS mencari komentar publik untuk meningkatkan teknologinya dan China sudah memiliki pendapat yang jelas tentang cara mengatur kecerdasan buatan.

Menurut Robin Röhm, salah satu pendiri Apheris, salah satu skenario yang mungkin adalah startup akan pindah ke AS — negara yang mungkin memiliki banyak hal untuk kehilangan dalam hal blockchain dan cryptocurrency, tetapi yang bisa memenangkan perlombaan AI.