YouTube vừa công bố một thay đổi lớn liên quan đến bảo vệ người dùng trước các nội dung giả mạo bằng trí tuệ nhân tạo (AI). Theo đó, nền tảng thuộc sở hữu của Google sẽ mở rộng công cụ phát hiện deepfake bằng AI cho tất cả người dùng từ 18 tuổi trở lên, thay vì chỉ giới hạn cho các siêu sao Hollywood hay những người có ảnh hưởng lớn như trước đây.

Ảnh: Veefly.

Động thái này đồng nghĩa với việc người dùng phổ thông giờ đây cũng có thể yêu cầu phát hiện và gỡ bỏ các video sử dụng hình ảnh khuôn mặt của họ do AI sao chép tạo ra trên YouTube.

Công cụ phát hiện deepfake của YouTube hoạt động tương tự như hệ thống “Content ID” nổi tiếng vốn được dùng để tự động nhận diện nhạc hoặc video vi phạm bản quyền. Tuy nhiên, thay vì quét âm thanh hay nội dung video, hệ thống mới sẽ tập trung nhận diện các đặc điểm khuôn mặt của người dùng.

Để kích hoạt tính năng, người dùng cần cung cấp một đoạn video selfie ngắn nhằm giúp AI ghi nhận dữ liệu khuôn mặt. Sau đó, hệ thống của YouTube sẽ liên tục theo dõi các video mới được tải lên để kiểm tra xem có ai sử dụng phiên bản giả mạo hoặc chỉnh sửa khuôn mặt của người dùng hay không.

Nếu phát hiện nội dung nghi vấn, hệ thống sẽ gửi cảnh báo trực tiếp cho người dùng. Từ đây, họ có thể xem lại video và gửi yêu cầu chính thức để YouTube gỡ bỏ nội dung đó khỏi nền tảng.

Trong nhiều năm qua, các video deepfake nổi tiếng thường nhắm vào các chính trị gia, nghệ sĩ hay người nổi tiếng. Tuy nhiên, công nghệ tạo video giả bằng AI ngày càng dễ tiếp cận, khiến người dùng thông thường cũng trở thành mục tiêu của các hành vi lừa đảo, quấy rối mạng hoặc giả mạo danh tính.

Người phát ngôn của YouTube, Jack Malon, cho biết mọi nhà sáng tạo nội dung trên nền tảng đều sẽ được hưởng mức bảo vệ như nhau, bất kể họ đã hoạt động nhiều năm hay chỉ mới bắt đầu xây dựng kênh.

Dù vậy, YouTube cũng cảnh báo rằng hệ thống AI không hoàn toàn chính xác trong mọi trường hợp. Công cụ đôi khi có thể đánh dấu cả những video thật có chứa hình ảnh của người dùng, thay vì chỉ nhận diện các nội dung deepfake.

Ví dụ, nếu ai đó đăng tải lại một đoạn video gia đình cũ hoặc một cuộc phỏng vấn công khai có hình ảnh thật của người dùng, hệ thống vẫn có thể gửi cảnh báo. Trong những trường hợp này, video sẽ không tự động bị gỡ bỏ theo chính sách chống deepfake, bởi nội dung thật vẫn được xem xét theo các quy định hiện hành về quyền riêng tư và sử dụng hợp lý.

LÊ PHI (Theo Timesofindia)