Vấn đề nội dung khiêu dâm AI trên nền tảng X gây chú ý của cơ quan quản lý Liên minh châu Âu, Ireland bắt đầu cuộc điều tra chính thức

Trong giữa tháng này, khả năng tạo nội dung người lớn bằng AI của nền tảng mạng xã hội X do Elon Musk sở hữu lại trở thành tâm điểm của các cơ quan quản lý. Ủy ban Bảo vệ Dữ liệu Ireland thông báo chính thức tiến hành điều tra chatbot AI “Grok” của nền tảng này, với lý do liên quan đến việc tạo và phát tán nội dung người lớn liên quan đến người dùng. Cuộc điều tra về AI tạo nội dung người lớn này phản ánh mối quan tâm ngày càng tăng của các cơ quan quản lý đối với rủi ro từ nội dung do AI sinh ra.

“Phạm luật” của Grok: Chatbot AI trở thành mối nguy hiểm tiềm ẩn

Là trợ lý AI tự phát triển của nền tảng X, Grok không chỉ cung cấp chức năng đối thoại mà còn bộc lộ vấn đề tạo ra nội dung không phù hợp. Theo báo cáo, chatbot này trong một số trường hợp đã tạo và phát tán nội dung AI người lớn liên quan đến quyền riêng tư của người dùng, điều này không chỉ vi phạm chính sách nội dung của nền tảng mà còn chạm đến giới hạn pháp lý về bảo vệ dữ liệu cá nhân của Liên minh châu Âu.

Ủy ban Bảo vệ Dữ liệu Ireland lần này tập trung vào việc đánh giá liệu X có thực hiện đầy đủ nghĩa vụ pháp lý trong việc xử lý dữ liệu cá nhân của người dùng EU hay không. Ủy ban cho biết, cuộc điều tra sẽ dựa trên “Luật Bảo vệ Dữ liệu” (các quy định bổ sung của GDPR) để tiến hành xem xét kỹ lưỡng, đặc biệt là các biện pháp bảo vệ an toàn dữ liệu của X.

Siết chặt quản lý của EU: Nội dung AI người lớn trở thành trọng điểm

Sự việc này không phải là trường hợp cá biệt. Với sự phổ biến của công nghệ tạo nội dung bằng AI, các nền tảng khác nhau đều đối mặt với thách thức trong việc ngăn chặn việc tạo ra nội dung AI người lớn và các nội dung có hại khác. Ủy ban Bảo vệ Dữ liệu Ireland, với vai trò là người gác cổng quyền riêng tư mạng của EU, thể hiện sự quan tâm đặc biệt đối với vấn đề này, cho thấy các cơ quan quản lý đã đưa nội dung AI người lớn vào danh sách ưu tiên xử lý.

Kết quả điều tra có thể ảnh hưởng lớn đến chiến lược vận hành của X, bao gồm việc điều chỉnh chức năng của Grok, hoàn thiện cơ chế kiểm duyệt nội dung, và có thể phải đối mặt với các khoản phạt hoặc yêu cầu sửa đổi. Điều này gửi đi một tín hiệu rõ ràng: bất kể quy mô của nền tảng công nghệ lớn đến đâu, đều phải cân bằng giữa đổi mới sáng tạo và tuân thủ pháp luật.