Pemasok model dasar akan diminta untuk menyatakan apakah mereka menggunakan materi berhak cipta untuk melatih AI. Untuk perusahaan teknologi seperti Google dan Microsoft, denda bisa mencapai miliaran dolar karena pelanggaran.
• Langkah selanjutnya adalah negosiasi tripartit yang melibatkan negara anggota, parlemen dan Komisi Eropa. Area perdebatan utama adalah penggunaan pengenalan wajah. Parlemen Eropa memilih untuk melarang penggunaan pengenalan wajah waktu nyata, tetapi masih ada pertanyaan apakah pengecualian harus diizinkan untuk keamanan nasional dan tujuan penegakan hukum lainnya.
Pada 14 Juni waktu setempat, pada sesi pleno Parlemen Eropa yang diadakan di Strasbourg, Prancis, para anggota berpartisipasi dalam rapat pemungutan suara tentang "RUU Kecerdasan Buatan".
Pada tanggal 14 Juni, waktu setempat, "Undang-Undang Kecerdasan Buatan (AI)" Uni Eropa mengambil langkah penting untuk menjadi undang-undang: Parlemen Eropa memilih untuk mengesahkan RUU tersebut, melarang pengenalan wajah waktu nyata dan memberlakukan pembatasan pada alat kecerdasan buatan generatif seperti ChatGPT. Persyaratan transparansi baru diperkenalkan.
RUU AI sekarang akan memasuki tahap akhir sebelum regulasi diluncurkan di UE. Pejabat akan mencoba untuk mencapai kompromi pada rancangan undang-undang dengan eksekutif UE dan negara anggota, di mana perbedaan tetap ada. Proses legislatif harus diselesaikan pada bulan Januari jika RUU tersebut akan mulai berlaku sebelum pemilihan Uni Eropa tahun depan.
“Momen ini sangat penting,” kata Daniel Leufer, seorang analis kebijakan senior yang berfokus pada kecerdasan buatan di kantor Access Now di Brussel, kepada TIME. “Apa yang dikatakan UE menimbulkan risiko yang tidak dapat diterima terhadap hak asasi manusia akan dilihat sebagai cetak biru untuk dunia."
Versi undang-undang yang disetujui UE mengusulkan bahwa AI apa pun yang diterapkan pada kasus penggunaan "berisiko tinggi" seperti pekerjaan, kontrol perbatasan, dan pendidikan harus mematuhi serangkaian persyaratan keamanan, termasuk penilaian risiko, memastikan transparansi, dan mengirimkan penebangan. RUU tersebut tidak akan secara otomatis menganggap AI "tujuan umum" seperti ChatGPT sebagai risiko tinggi, tetapi akan memberlakukan persyaratan transparansi dan penilaian risiko pada "model dasar", atau sistem AI yang kuat yang dilatih pada data dalam jumlah besar. Misalnya, pemasok model dasar, termasuk OpenAI, Google, dan Microsoft, akan diminta untuk menyatakan apakah mereka menggunakan materi berhak cipta untuk melatih AI. Namun, tidak ada persyaratan serupa untuk menyatakan apakah data pribadi digunakan selama pelatihan.
** Bagaimana aturan ini bekerja? **
Pertama kali diusulkan pada tahun 2021, "Undang-Undang Kecerdasan Buatan" Uni Eropa akan berlaku untuk produk atau layanan apa pun yang menggunakan sistem kecerdasan buatan.
RUU mengklasifikasikan sistem AI berdasarkan 4 tingkat risiko, dari minimal hingga tidak dapat diterima. Aplikasi berisiko tinggi, seperti perekrutan dan teknologi yang menargetkan anak-anak, akan menghadapi persyaratan yang lebih ketat, termasuk transparansi yang lebih besar dan penggunaan data yang akurat.
Salah satu tujuan utama UE adalah untuk melindungi dari segala ancaman terhadap kesehatan dan keselamatan yang ditimbulkan oleh kecerdasan buatan, dan untuk melindungi hak dan nilai fundamental.
Ini berarti bahwa penggunaan AI tertentu benar-benar dilarang, seperti sistem "penilaian sosial" yang menilai orang berdasarkan perilakunya, dan AI yang mengeksploitasi kelompok rentan (termasuk anak-anak) atau menggunakan manipulasi bawah sadar yang dapat membahayakan, seperti mendorong perilaku berbahaya secara interaktif alat dialog. Alat kepolisian prediktif yang digunakan untuk memprediksi siapa yang melakukan kejahatan juga akan dilarang.
Selain itu, sistem AI yang digunakan dalam kategori seperti pekerjaan dan pendidikan yang memengaruhi jalan hidup seseorang akan menghadapi persyaratan yang ketat, seperti transparan kepada pengguna dan mengambil langkah untuk menilai dan mengurangi risiko bias yang ditimbulkan oleh algoritme.
Sebagian besar sistem AI, seperti video game atau filter spam, termasuk dalam kategori berisiko rendah atau tanpa risiko, kata Komisi Eropa.
Area perdebatan utama adalah penggunaan pengenalan wajah. Parlemen Eropa memilih untuk melarang penggunaan pengenalan wajah waktu nyata, tetapi masih ada pertanyaan apakah pengecualian harus diizinkan untuk keamanan nasional dan tujuan penegakan hukum lainnya. Aturan lain akan melarang perusahaan mengorek data biometrik dari media sosial untuk membangun basis data.
Pada hari yang sama, sekelompok anggota parlemen sayap kanan di Parlemen Eropa mencoba pada menit terakhir untuk membatalkan larangan pengenalan wajah waktu nyata yang diusulkan oleh RUU tersebut, tetapi anggota parlemen menolaknya.
Penegakan aturan akan bergantung pada 27 negara anggota UE. Regulator dapat memaksa perusahaan untuk menarik aplikasi dari pasar. Dalam kasus ekstrim, pelanggaran dapat mengakibatkan denda hingga 30 juta euro (sekitar $33 juta) atau 6 persen dari pendapatan global tahunan perusahaan, dan untuk perusahaan teknologi seperti Google dan Microsoft, denda dapat mencapai miliaran dolar.
Apa hubungan antara ** dan ChatGPT? **
Ukuran awal RUU itu tidak banyak bicara tentang chatbots, hanya mengharuskan mereka diberi label sehingga pengguna tahu mereka berinteraksi dengan mesin. Negosiator kemudian menambahkan ketentuan untuk mencakup AGI populer seperti ChatGPT, membuat teknologi tersebut memenuhi beberapa persyaratan yang sama dengan sistem berisiko tinggi.
Tambahan utama adalah bahwa RUU tersebut membutuhkan dokumentasi menyeluruh dari setiap materi berhak cipta yang digunakan untuk melatih sistem AI untuk menghasilkan teks, gambar, video, dan musik yang mirip dengan karya manusia. Ini akan memberi tahu pembuat konten jika posting blog, e-book, makalah ilmiah, atau lagu mereka telah digunakan untuk melatih algoritme yang mendukung sistem seperti ChatGPT. Mereka kemudian dapat memutuskan apakah karya mereka dapat disalin dan meminta kompensasi.
Beberapa ahli yang prihatin dengan risiko keamanan yang ditimbulkan oleh model AI berpendapat bahwa RUU tersebut tidak membatasi daya komputasi yang dapat digunakan oleh sistem AI. Dengan setiap rilis baru, jumlah perhitungan yang digunakan oleh model bahasa besar seperti ChatGPT meningkat secara eksponensial, yang akan sangat meningkatkan kemampuan dan kinerjanya. "Semakin banyak komputasi yang digunakan untuk melatih sistem AI, semakin kuat AI tersebut. Semakin besar kemampuannya, semakin besar potensi risiko dan bahayanya." Andrea Mee, direktur strategi dan tata kelola di startup keamanan AI Dugaan Andrea Miotti kepada Time.
Miotti mencatat bahwa relatif mudah bagi peneliti untuk mengukur daya komputasi total suatu sistem karena chip yang digunakan untuk melatih sebagian besar AI mutakhir adalah sumber daya fisik.
**Mengapa peraturan UE penting? **
"Waktu" menunjukkan bahwa UE bukanlah pemain penting dalam pengembangan kecerdasan buatan mutakhir. Peran ini dimainkan oleh Amerika Serikat dan China, tetapi UE sering memainkan peran sebagai pengatur arus. .
Besarnya ukuran pasar tunggal UE, dengan 450 juta konsumen, memudahkan perusahaan untuk mematuhinya, daripada mengembangkan produk yang berbeda untuk wilayah yang berbeda, kata para ahli. Dengan menetapkan aturan umum untuk AI, UE juga berusaha menumbuhkan pasar dengan menanamkan kepercayaan di kalangan pengguna.
"Ini adalah peraturan yang dapat ditegakkan dan fakta bahwa perusahaan akan dimintai pertanggungjawaban sangat penting" karena tempat-tempat seperti AS, Singapura, dan Inggris Raya hanya memberikan "panduan dan saran", kata Chris Shree, rekan senior di Komisi Kebebasan Sipil Irlandia. .. "Negara lain mungkin ingin menyesuaikan dan menyalin" aturan UE, kata Kris Shrisak, kepala eksekutif negara itu.
Beberapa negara lain juga meningkatkan kecepatan regulasi. Misalnya, Perdana Menteri Inggris Rishi Sunak berencana mengadakan pertemuan puncak dunia tentang keamanan AI musim gugur ini. "Saya ingin Inggris tidak hanya menjadi rumah intelektual, tetapi juga rumah geografis untuk peraturan keamanan AI global," kata Sunak pada konferensi teknologi minggu ini. KTT Inggris akan menyatukan orang-orang "akademisi, bisnis, dan Pemerintah", bekerja sama pada "Kerangka Kerja Multilateral".
Francine Bennett, penjabat direktur Ada Lovelace Institute, mengatakan kepada The New York Times: "Teknologi yang berkembang pesat dan digunakan kembali dengan cepat tentu saja sulit untuk diatur karena bahkan perusahaan yang mengembangkan teknologi tidak tahu bagaimana hal itu akan terjadi. Tapi tentu akan lebih buruk bagi kita semua jika mereka terus beroperasi tanpa regulasi yang memadai."
Namun, Asosiasi Industri Komputer dan Komunikasi berpendapat bahwa UE harus menghindari peraturan yang terlalu luas yang akan menghambat inovasi. Boniface de Champris, manajer kebijakan Eropa agensi tersebut, mengatakan, "Aturan AI baru Eropa perlu secara efektif mengatasi risiko yang terdefinisi dengan baik sambil memberi pengembang fleksibilitas yang cukup untuk menghadirkan aplikasi AI untuk kepentingan orang Eropa."
**Apa berikutnya? **
Butuh waktu bertahun-tahun agar RUU itu berlaku sepenuhnya. Langkah selanjutnya adalah pembicaraan tripartit yang melibatkan negara-negara anggota, parlemen dan Komisi Eropa, yang dapat menghadapi lebih banyak perubahan sebelum mereka mencoba menyepakati kata-kata.
Dalam fase mendatang dari dialog tripartit, Dewan Eropa, yang mewakili pemerintah negara-negara anggota, diharapkan untuk sangat mengadvokasi alat AI yang digunakan oleh penegak hukum dan pasukan perbatasan dari persyaratan untuk sistem "berisiko tinggi", menurut Ruffo.
RUU tersebut diharapkan menerima persetujuan akhir pada akhir tahun, diikuti dengan masa tenggang bagi bisnis dan organisasi untuk beradaptasi, biasanya sekitar dua tahun. Tetapi Brando Benifei, seorang Italia anggota Parlemen Eropa yang memimpin pekerjaan pada RUU tersebut, mengatakan mereka akan mendorong aturan yang memungkinkan adopsi lebih cepat dari teknologi yang tumbuh cepat seperti AI generatif.
Untuk mengisi kekosongan sebelum undang-undang tersebut berlaku, Eropa dan Amerika Serikat sedang menyusun kode etik sukarela yang dijanjikan para pejabat pada akhir Mei untuk disusun dalam beberapa minggu dan berpotensi diperluas ke "negara-negara yang berpikiran sama" lainnya.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Parlemen Eropa Menyetujui RUU Kecerdasan Buatan yang Mensyaratkan Pengungkapan Hak Cipta atas Data Pelatihan AI Generatif
Sumber: Makalah
Reporter Fang Xiao
Pemasok model dasar akan diminta untuk menyatakan apakah mereka menggunakan materi berhak cipta untuk melatih AI. Untuk perusahaan teknologi seperti Google dan Microsoft, denda bisa mencapai miliaran dolar karena pelanggaran.
• Langkah selanjutnya adalah negosiasi tripartit yang melibatkan negara anggota, parlemen dan Komisi Eropa. Area perdebatan utama adalah penggunaan pengenalan wajah. Parlemen Eropa memilih untuk melarang penggunaan pengenalan wajah waktu nyata, tetapi masih ada pertanyaan apakah pengecualian harus diizinkan untuk keamanan nasional dan tujuan penegakan hukum lainnya.
Pada tanggal 14 Juni, waktu setempat, "Undang-Undang Kecerdasan Buatan (AI)" Uni Eropa mengambil langkah penting untuk menjadi undang-undang: Parlemen Eropa memilih untuk mengesahkan RUU tersebut, melarang pengenalan wajah waktu nyata dan memberlakukan pembatasan pada alat kecerdasan buatan generatif seperti ChatGPT. Persyaratan transparansi baru diperkenalkan.
RUU AI sekarang akan memasuki tahap akhir sebelum regulasi diluncurkan di UE. Pejabat akan mencoba untuk mencapai kompromi pada rancangan undang-undang dengan eksekutif UE dan negara anggota, di mana perbedaan tetap ada. Proses legislatif harus diselesaikan pada bulan Januari jika RUU tersebut akan mulai berlaku sebelum pemilihan Uni Eropa tahun depan.
“Momen ini sangat penting,” kata Daniel Leufer, seorang analis kebijakan senior yang berfokus pada kecerdasan buatan di kantor Access Now di Brussel, kepada TIME. “Apa yang dikatakan UE menimbulkan risiko yang tidak dapat diterima terhadap hak asasi manusia akan dilihat sebagai cetak biru untuk dunia."
Versi undang-undang yang disetujui UE mengusulkan bahwa AI apa pun yang diterapkan pada kasus penggunaan "berisiko tinggi" seperti pekerjaan, kontrol perbatasan, dan pendidikan harus mematuhi serangkaian persyaratan keamanan, termasuk penilaian risiko, memastikan transparansi, dan mengirimkan penebangan. RUU tersebut tidak akan secara otomatis menganggap AI "tujuan umum" seperti ChatGPT sebagai risiko tinggi, tetapi akan memberlakukan persyaratan transparansi dan penilaian risiko pada "model dasar", atau sistem AI yang kuat yang dilatih pada data dalam jumlah besar. Misalnya, pemasok model dasar, termasuk OpenAI, Google, dan Microsoft, akan diminta untuk menyatakan apakah mereka menggunakan materi berhak cipta untuk melatih AI. Namun, tidak ada persyaratan serupa untuk menyatakan apakah data pribadi digunakan selama pelatihan.
** Bagaimana aturan ini bekerja? **
Pertama kali diusulkan pada tahun 2021, "Undang-Undang Kecerdasan Buatan" Uni Eropa akan berlaku untuk produk atau layanan apa pun yang menggunakan sistem kecerdasan buatan.
RUU mengklasifikasikan sistem AI berdasarkan 4 tingkat risiko, dari minimal hingga tidak dapat diterima. Aplikasi berisiko tinggi, seperti perekrutan dan teknologi yang menargetkan anak-anak, akan menghadapi persyaratan yang lebih ketat, termasuk transparansi yang lebih besar dan penggunaan data yang akurat.
Salah satu tujuan utama UE adalah untuk melindungi dari segala ancaman terhadap kesehatan dan keselamatan yang ditimbulkan oleh kecerdasan buatan, dan untuk melindungi hak dan nilai fundamental.
Ini berarti bahwa penggunaan AI tertentu benar-benar dilarang, seperti sistem "penilaian sosial" yang menilai orang berdasarkan perilakunya, dan AI yang mengeksploitasi kelompok rentan (termasuk anak-anak) atau menggunakan manipulasi bawah sadar yang dapat membahayakan, seperti mendorong perilaku berbahaya secara interaktif alat dialog. Alat kepolisian prediktif yang digunakan untuk memprediksi siapa yang melakukan kejahatan juga akan dilarang.
Selain itu, sistem AI yang digunakan dalam kategori seperti pekerjaan dan pendidikan yang memengaruhi jalan hidup seseorang akan menghadapi persyaratan yang ketat, seperti transparan kepada pengguna dan mengambil langkah untuk menilai dan mengurangi risiko bias yang ditimbulkan oleh algoritme.
Sebagian besar sistem AI, seperti video game atau filter spam, termasuk dalam kategori berisiko rendah atau tanpa risiko, kata Komisi Eropa.
Area perdebatan utama adalah penggunaan pengenalan wajah. Parlemen Eropa memilih untuk melarang penggunaan pengenalan wajah waktu nyata, tetapi masih ada pertanyaan apakah pengecualian harus diizinkan untuk keamanan nasional dan tujuan penegakan hukum lainnya. Aturan lain akan melarang perusahaan mengorek data biometrik dari media sosial untuk membangun basis data.
Pada hari yang sama, sekelompok anggota parlemen sayap kanan di Parlemen Eropa mencoba pada menit terakhir untuk membatalkan larangan pengenalan wajah waktu nyata yang diusulkan oleh RUU tersebut, tetapi anggota parlemen menolaknya.
Penegakan aturan akan bergantung pada 27 negara anggota UE. Regulator dapat memaksa perusahaan untuk menarik aplikasi dari pasar. Dalam kasus ekstrim, pelanggaran dapat mengakibatkan denda hingga 30 juta euro (sekitar $33 juta) atau 6 persen dari pendapatan global tahunan perusahaan, dan untuk perusahaan teknologi seperti Google dan Microsoft, denda dapat mencapai miliaran dolar.
Apa hubungan antara ** dan ChatGPT? **
Ukuran awal RUU itu tidak banyak bicara tentang chatbots, hanya mengharuskan mereka diberi label sehingga pengguna tahu mereka berinteraksi dengan mesin. Negosiator kemudian menambahkan ketentuan untuk mencakup AGI populer seperti ChatGPT, membuat teknologi tersebut memenuhi beberapa persyaratan yang sama dengan sistem berisiko tinggi.
Tambahan utama adalah bahwa RUU tersebut membutuhkan dokumentasi menyeluruh dari setiap materi berhak cipta yang digunakan untuk melatih sistem AI untuk menghasilkan teks, gambar, video, dan musik yang mirip dengan karya manusia. Ini akan memberi tahu pembuat konten jika posting blog, e-book, makalah ilmiah, atau lagu mereka telah digunakan untuk melatih algoritme yang mendukung sistem seperti ChatGPT. Mereka kemudian dapat memutuskan apakah karya mereka dapat disalin dan meminta kompensasi.
Beberapa ahli yang prihatin dengan risiko keamanan yang ditimbulkan oleh model AI berpendapat bahwa RUU tersebut tidak membatasi daya komputasi yang dapat digunakan oleh sistem AI. Dengan setiap rilis baru, jumlah perhitungan yang digunakan oleh model bahasa besar seperti ChatGPT meningkat secara eksponensial, yang akan sangat meningkatkan kemampuan dan kinerjanya. "Semakin banyak komputasi yang digunakan untuk melatih sistem AI, semakin kuat AI tersebut. Semakin besar kemampuannya, semakin besar potensi risiko dan bahayanya." Andrea Mee, direktur strategi dan tata kelola di startup keamanan AI Dugaan Andrea Miotti kepada Time.
Miotti mencatat bahwa relatif mudah bagi peneliti untuk mengukur daya komputasi total suatu sistem karena chip yang digunakan untuk melatih sebagian besar AI mutakhir adalah sumber daya fisik.
**Mengapa peraturan UE penting? **
"Waktu" menunjukkan bahwa UE bukanlah pemain penting dalam pengembangan kecerdasan buatan mutakhir. Peran ini dimainkan oleh Amerika Serikat dan China, tetapi UE sering memainkan peran sebagai pengatur arus. .
Besarnya ukuran pasar tunggal UE, dengan 450 juta konsumen, memudahkan perusahaan untuk mematuhinya, daripada mengembangkan produk yang berbeda untuk wilayah yang berbeda, kata para ahli. Dengan menetapkan aturan umum untuk AI, UE juga berusaha menumbuhkan pasar dengan menanamkan kepercayaan di kalangan pengguna.
"Ini adalah peraturan yang dapat ditegakkan dan fakta bahwa perusahaan akan dimintai pertanggungjawaban sangat penting" karena tempat-tempat seperti AS, Singapura, dan Inggris Raya hanya memberikan "panduan dan saran", kata Chris Shree, rekan senior di Komisi Kebebasan Sipil Irlandia. .. "Negara lain mungkin ingin menyesuaikan dan menyalin" aturan UE, kata Kris Shrisak, kepala eksekutif negara itu.
Beberapa negara lain juga meningkatkan kecepatan regulasi. Misalnya, Perdana Menteri Inggris Rishi Sunak berencana mengadakan pertemuan puncak dunia tentang keamanan AI musim gugur ini. "Saya ingin Inggris tidak hanya menjadi rumah intelektual, tetapi juga rumah geografis untuk peraturan keamanan AI global," kata Sunak pada konferensi teknologi minggu ini. KTT Inggris akan menyatukan orang-orang "akademisi, bisnis, dan Pemerintah", bekerja sama pada "Kerangka Kerja Multilateral".
Francine Bennett, penjabat direktur Ada Lovelace Institute, mengatakan kepada The New York Times: "Teknologi yang berkembang pesat dan digunakan kembali dengan cepat tentu saja sulit untuk diatur karena bahkan perusahaan yang mengembangkan teknologi tidak tahu bagaimana hal itu akan terjadi. Tapi tentu akan lebih buruk bagi kita semua jika mereka terus beroperasi tanpa regulasi yang memadai."
Namun, Asosiasi Industri Komputer dan Komunikasi berpendapat bahwa UE harus menghindari peraturan yang terlalu luas yang akan menghambat inovasi. Boniface de Champris, manajer kebijakan Eropa agensi tersebut, mengatakan, "Aturan AI baru Eropa perlu secara efektif mengatasi risiko yang terdefinisi dengan baik sambil memberi pengembang fleksibilitas yang cukup untuk menghadirkan aplikasi AI untuk kepentingan orang Eropa."
**Apa berikutnya? **
Butuh waktu bertahun-tahun agar RUU itu berlaku sepenuhnya. Langkah selanjutnya adalah pembicaraan tripartit yang melibatkan negara-negara anggota, parlemen dan Komisi Eropa, yang dapat menghadapi lebih banyak perubahan sebelum mereka mencoba menyepakati kata-kata.
Dalam fase mendatang dari dialog tripartit, Dewan Eropa, yang mewakili pemerintah negara-negara anggota, diharapkan untuk sangat mengadvokasi alat AI yang digunakan oleh penegak hukum dan pasukan perbatasan dari persyaratan untuk sistem "berisiko tinggi", menurut Ruffo.
RUU tersebut diharapkan menerima persetujuan akhir pada akhir tahun, diikuti dengan masa tenggang bagi bisnis dan organisasi untuk beradaptasi, biasanya sekitar dua tahun. Tetapi Brando Benifei, seorang Italia anggota Parlemen Eropa yang memimpin pekerjaan pada RUU tersebut, mengatakan mereka akan mendorong aturan yang memungkinkan adopsi lebih cepat dari teknologi yang tumbuh cepat seperti AI generatif.
Untuk mengisi kekosongan sebelum undang-undang tersebut berlaku, Eropa dan Amerika Serikat sedang menyusun kode etik sukarela yang dijanjikan para pejabat pada akhir Mei untuk disusun dalam beberapa minggu dan berpotensi diperluas ke "negara-negara yang berpikiran sama" lainnya.