Nghị viện Châu Âu thông qua Dự luật trí tuệ nhân tạo yêu cầu tiết lộ bản quyền đối với dữ liệu đào tạo AI sáng tạo

Nguồn: The Paper

Phóng viên Fang Xiao

Các nhà cung cấp mô hình cơ bản sẽ được yêu cầu khai báo liệu họ có sử dụng tài liệu có bản quyền để đào tạo AI hay không. Đối với các công ty công nghệ như Google và Microsoft, tiền phạt có thể lên tới hàng tỷ đô la nếu vi phạm.

• Bước tiếp theo là đàm phán ba bên có sự tham gia của các quốc gia thành viên, nghị viện và Ủy ban châu Âu. Một lĩnh vực gây tranh cãi chính là việc sử dụng nhận dạng khuôn mặt. Nghị viện Châu Âu đã bỏ phiếu cấm sử dụng nhận dạng khuôn mặt theo thời gian thực, nhưng vẫn còn câu hỏi liệu có nên cho phép miễn trừ vì an ninh quốc gia và các mục đích thực thi pháp luật khác hay không.

Ngày 14/6 theo giờ địa phương, tại phiên họp toàn thể của Nghị viện châu Âu tổ chức ở Strasbourg, Pháp, các thành viên đã tham gia phiên họp bỏ phiếu về "Dự luật Trí tuệ nhân tạo".

Vào ngày 14 tháng 6, giờ địa phương, "Đạo luật trí tuệ nhân tạo (Đạo luật AI)" của Liên minh châu Âu đã tiến một bước quan trọng để trở thành luật: Nghị viện châu Âu đã bỏ phiếu thông qua dự luật, cấm nhận dạng khuôn mặt theo thời gian thực và áp đặt các hạn chế đối với các công cụ trí tuệ nhân tạo tổng quát. chẳng hạn như ChatGPT. Các yêu cầu mới về tính minh bạch được đưa ra.

Dự luật AI hiện sẽ bước vào giai đoạn cuối cùng trước khi quy định được đưa ra tại EU. Các quan chức sẽ cố gắng đạt được thỏa hiệp về dự thảo luật với cơ quan hành pháp EU và các quốc gia thành viên, nơi vẫn còn sự khác biệt. Quá trình lập pháp phải được hoàn thành vào tháng 1 nếu dự luật có hiệu lực trước cuộc bầu cử EU vào năm tới.

Daniel Leufer, một nhà phân tích chính sách cấp cao tập trung vào trí tuệ nhân tạo tại văn phòng Access Now ở Brussels, nói với TIME: "Thời điểm này rất quan trọng. Những gì EU cho rằng gây ra rủi ro không thể chấp nhận được đối với nhân quyền sẽ được coi là kế hoạch chi tiết cho thế giới."

Phiên bản luật được EU phê duyệt đề xuất rằng bất kỳ AI nào được áp dụng cho các trường hợp sử dụng "rủi ro cao" như việc làm, kiểm soát biên giới và giáo dục đều phải tuân thủ một loạt yêu cầu bảo mật, bao gồm đánh giá rủi ro, đảm bảo tính minh bạch và gửi nhật ký. Dự luật sẽ không tự động coi AI "có mục đích chung" như ChatGPT là rủi ro cao, nhưng sẽ áp đặt các yêu cầu đánh giá rủi ro và minh bạch đối với "mô hình cơ sở" hoặc hệ thống AI mạnh mẽ được đào tạo trên lượng dữ liệu khổng lồ. Ví dụ: các nhà cung cấp mô hình cơ bản, bao gồm OpenAI, Google và Microsoft, sẽ phải khai báo liệu họ có sử dụng tài liệu có bản quyền để đào tạo AI hay không. Tuy nhiên, không có yêu cầu tương tự để khai báo liệu dữ liệu cá nhân có được sử dụng trong quá trình đào tạo hay không.

** Các quy tắc này hoạt động như thế nào? **

Lần đầu tiên được đề xuất vào năm 2021, "Đạo luật trí tuệ nhân tạo" của Liên minh châu Âu sẽ áp dụng cho bất kỳ sản phẩm hoặc dịch vụ nào sử dụng hệ thống trí tuệ nhân tạo.

Dự luật phân loại các hệ thống AI dựa trên 4 cấp độ rủi ro, từ tối thiểu đến không thể chấp nhận được. Các ứng dụng có rủi ro cao hơn, chẳng hạn như tuyển dụng và công nghệ nhắm mục tiêu đến trẻ em, sẽ phải đối mặt với các yêu cầu khắt khe hơn, bao gồm tính minh bạch cao hơn và sử dụng dữ liệu chính xác.

Một trong những mục tiêu chính của EU là bảo vệ chống lại mọi mối đe dọa đối với sức khỏe và sự an toàn do trí tuệ nhân tạo gây ra, đồng thời bảo vệ các quyền và giá trị cơ bản.

Điều này có nghĩa là việc sử dụng AI nhất định bị cấm tuyệt đối, chẳng hạn như hệ thống "điểm xã hội" đánh giá mọi người dựa trên hành vi của họ và AI khai thác các nhóm dễ bị tổn thương (bao gồm cả trẻ em) hoặc sử dụng thao túng tiềm thức có thể gây hại, chẳng hạn như khuyến khích tương tác hành vi nguy hiểm công cụ hộp thoại. Các công cụ kiểm soát dự đoán được sử dụng để dự đoán ai phạm tội cũng sẽ bị cấm.

Ngoài ra, các hệ thống AI được sử dụng trong các danh mục như việc làm và giáo dục ảnh hưởng đến cuộc sống của một người sẽ phải đối mặt với các yêu cầu nghiêm ngặt, chẳng hạn như minh bạch với người dùng và thực hiện các bước để đánh giá và giảm rủi ro sai lệch do thuật toán gây ra.

Ủy ban châu Âu cho biết hầu hết các hệ thống AI, chẳng hạn như trò chơi điện tử hoặc bộ lọc thư rác, đều thuộc loại có rủi ro thấp hoặc không có rủi ro.

Một lĩnh vực gây tranh cãi chính là việc sử dụng nhận dạng khuôn mặt. Nghị viện Châu Âu đã bỏ phiếu cấm sử dụng nhận dạng khuôn mặt theo thời gian thực, nhưng vẫn còn câu hỏi về việc liệu có nên cho phép miễn trừ vì lý do an ninh quốc gia và các mục đích thực thi pháp luật khác hay không. Một quy tắc khác sẽ cấm các công ty lấy dữ liệu sinh trắc học từ phương tiện truyền thông xã hội để xây dựng cơ sở dữ liệu.

Cùng ngày, một nhóm các nhà lập pháp cánh hữu trong Nghị viện Châu Âu đã cố gắng vào phút cuối để hủy bỏ lệnh cấm nhận dạng khuôn mặt theo thời gian thực do dự luật đề xuất, nhưng các nhà lập pháp đã bác bỏ.

Việc thực thi các quy tắc sẽ phụ thuộc vào 27 quốc gia thành viên của EU. Các cơ quan quản lý có thể buộc các công ty rút ứng dụng khỏi thị trường. Trong những trường hợp nghiêm trọng, hành vi vi phạm có thể bị phạt tới 30 triệu euro (khoảng 33 triệu đô la) hoặc 6% doanh thu toàn cầu hàng năm của công ty và đối với các công ty công nghệ như Google và Microsoft, tiền phạt có thể lên tới hàng tỷ đô la.

Mối quan hệ giữa ** và ChatGPT là gì? **

Biện pháp ban đầu của dự luật nói rất ít về chatbot, chỉ yêu cầu chúng được gắn nhãn để người dùng biết rằng họ đang tương tác với máy. Các nhà đàm phán sau đó đã thêm các điều khoản để bao gồm các AGI phổ biến như ChatGPT, khiến công nghệ này đáp ứng một số yêu cầu giống như các hệ thống có rủi ro cao.

Một bổ sung quan trọng là dự luật yêu cầu tài liệu kỹ lưỡng về bất kỳ tài liệu có bản quyền nào được sử dụng để huấn luyện hệ thống AI tạo văn bản, hình ảnh, video và âm nhạc tương tự như tác phẩm của con người. Điều này sẽ cho những người tạo nội dung biết liệu các bài đăng trên blog, sách điện tử, bài báo khoa học hoặc bài hát của họ có được sử dụng để đào tạo các thuật toán cung cấp năng lượng cho các hệ thống như ChatGPT hay không. Sau đó, họ có thể quyết định liệu tác phẩm của họ có thể bị sao chép hay không và yêu cầu bồi thường.

Một số chuyên gia lo ngại về rủi ro bảo mật do các mô hình AI gây ra lập luận rằng dự luật không đặt ra giới hạn về sức mạnh tính toán mà các hệ thống AI có thể sử dụng. Với mỗi bản phát hành mới, lượng tính toán được sử dụng bởi một mô hình ngôn ngữ lớn như ChatGPT sẽ tăng theo cấp số nhân, điều này sẽ cải thiện đáng kể khả năng và hiệu suất của nó. "Càng nhiều tính toán được sử dụng để đào tạo một hệ thống AI, AI sẽ càng mạnh mẽ. Khả năng càng lớn thì khả năng rủi ro và nguy hiểm càng lớn", Andrea Mee, giám đốc chiến lược và quản trị của startup bảo mật AI Phỏng đoán Andrea Miotti nói với Time.

Miotti lưu ý rằng các nhà nghiên cứu tương đối dễ dàng đo lường tổng sức mạnh tính toán của một hệ thống vì các con chip được sử dụng để đào tạo hầu hết AI tiên tiến nhất là một tài nguyên vật lý.

**Tại sao quy định của EU lại quan trọng? **

"Thời gian" chỉ ra rằng EU không phải là một bên đóng vai trò quan trọng trong việc phát triển trí tuệ nhân tạo tiên tiến, vai trò này do Hoa Kỳ và Trung Quốc đảm nhận, nhưng EU thường đóng vai trò thiết lập làn sóng. .

Các chuyên gia cho biết, quy mô lớn của thị trường chung EU, với 450 triệu người tiêu dùng, giúp các công ty dễ dàng tuân thủ hơn là phát triển các sản phẩm khác nhau cho các khu vực khác nhau. Bằng cách đặt ra các quy tắc chung cho AI, EU cũng đang cố gắng phát triển thị trường bằng cách tạo niềm tin cho người dùng.

"Đây là quy định có thể thi hành được và việc các công ty phải chịu trách nhiệm là rất quan trọng" vì những nơi như Mỹ, Singapore và Vương quốc Anh chỉ cung cấp "hướng dẫn và lời khuyên", Chris Shree, thành viên cấp cao tại Ủy ban Quyền tự do Dân sự Ailen, cho biết. "Các quốc gia khác có thể muốn điều chỉnh và sao chép" các quy tắc của EU, Kris Shrisak, giám đốc điều hành của đất nước cho biết.

Một số quốc gia khác cũng đang đẩy mạnh tốc độ điều chỉnh. Ví dụ, Thủ tướng Anh Rishi Sunak có kế hoạch tổ chức hội nghị thượng đỉnh thế giới về an ninh AI vào mùa thu này. "Tôi muốn Vương quốc Anh không chỉ là ngôi nhà trí tuệ mà còn là ngôi nhà địa lý cho quy định an toàn AI toàn cầu", Sunak nói tại một hội nghị công nghệ tuần này. về "Khuôn khổ đa phương".

Francine Bennett, quyền giám đốc của Viện Ada Lovelace, nói với The New York Times: "Các công nghệ phát triển nhanh chóng và được tái sử dụng nhanh chóng tất nhiên rất khó điều chỉnh bởi vì ngay cả các công ty phát triển công nghệ cũng không biết mọi thứ sẽ diễn ra như thế nào. Nhưng chắc chắn sẽ tồi tệ hơn cho tất cả chúng ta nếu họ tiếp tục hoạt động mà không có quy định đầy đủ."

Tuy nhiên, Hiệp hội Công nghiệp Máy tính và Truyền thông lập luận rằng EU nên tránh quy định quá rộng có thể kìm hãm sự đổi mới. Boniface de Champris, giám đốc chính sách châu Âu của cơ quan, cho biết: "Các quy tắc AI mới của châu Âu cần giải quyết hiệu quả các rủi ro được xác định rõ ràng đồng thời mang lại cho các nhà phát triển đủ linh hoạt để cung cấp các ứng dụng AI vì lợi ích của người châu Âu."

**Cái gì tiếp theo? **

Có thể mất nhiều năm để dự luật có hiệu lực đầy đủ. Bước tiếp theo là các cuộc đàm phán ba bên liên quan đến các quốc gia thành viên, quốc hội và Ủy ban châu Âu, có thể phải đối mặt với nhiều thay đổi hơn trước khi họ cố gắng thống nhất về cách diễn đạt.

Theo Ruffo, trong giai đoạn sắp tới của cuộc đối thoại ba bên, Hội đồng Châu Âu, đại diện cho chính phủ các quốc gia thành viên, dự kiến sẽ ủng hộ mạnh mẽ việc miễn trừ các công cụ AI được sử dụng bởi các lực lượng thực thi pháp luật và biên giới khỏi yêu cầu đối với các hệ thống "rủi ro cao".

Dự luật dự kiến sẽ nhận được sự chấp thuận cuối cùng vào cuối năm nay, sau đó là thời gian ân hạn để các doanh nghiệp và tổ chức thích nghi, thường là khoảng hai năm. Nhưng Brando Benifei, một thành viên người Ý của Nghị viện Châu Âu, người đang dẫn đầu dự luật, cho biết họ sẽ thúc đẩy các quy tắc cho phép áp dụng nhanh hơn các công nghệ đang phát triển nhanh như trí tuệ nhân tạo AI.

Để lấp đầy khoảng trống trước khi luật có hiệu lực, Châu Âu và Hoa Kỳ đang soạn thảo một bộ quy tắc ứng xử tự nguyện mà các quan chức đã hứa vào cuối tháng 5 sẽ soạn thảo trong vòng vài tuần và có khả năng mở rộng sang các "quốc gia có cùng chí hướng" khác.

Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
  • Phần thưởng
  • Bình luận
  • Chia sẻ
Bình luận
0/400
Không có bình luận
  • Ghim
Giao dịch tiền điện tử mọi lúc mọi nơi
qrCode
Quét để tải xuống ứng dụng Gate.io
Cộng đồng
Tiếng Việt
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • ไทย
  • Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)