Lợi dụng công nghệ trí tuệ nhân tạo (AI), các băng nhóm tội phạm giờ đây không chỉ lừa gạt qua tin nhắn mà còn giả mạo hình ảnh, video thậm chí giọng nói (deepfake) để thao túng tâm lý và dẫn dụ nạn nhân trong các vụ lừa đảo tình cảm trực tuyến.

Công nghệ AI tiên tiến bị lạm dụng trong vụ lừa đảo “hoàng tử Dubai giả”. Ảnh: AFP

Chia sẻ với hãng tin AFP, cô Maria cho biết mình bị mất toàn bộ tiền tiết kiệm trong năm qua vì tin vào một tài khoản tự nhận là Hoàng tử Hamdan bin Mohammed của Dubai trên trang web hẹn hò. Trò chuyện qua nền tảng WhatsApp sau đó, người này liên tục gửi tin nhắn lãng mạn và nhiều lần gọi video tỏ tình để tạo dựng lòng tin.

Phân tích những đoạn clip được ghi lại, các chuyên gia công nghệ cho biết vẻ ngoài của kẻ lừa đảo được làm giả y hệt hoàng tử thật, lời nói cũng khớp với chuyển động môi nhưng giọng nói thì không phải thật.

Trước thủ đoạn và công nghệ tinh vi này, nạn nhân tin rằng mình đang hẹn hò với một hoàng tử quyến rũ và đã chuyển cho người này 1.625USD mà hắn yêu cầu để làm giấy chứng nhận kết hôn và cái gọi là thẻ thành viên hoàng gia giúp kiếm việc làm ở Dubai.

Cô Maria bắt đầu nghi ngờ khi kẻ lừa đảo hẹn gặp tại một khách sạn và đòi thêm 974USD để đặt phòng. Khi xem kỹ trang Facebook của anh ta (hiện đã bị xóa), cô nhận thấy tài khoản này có địa chỉ tại Nigeria.

Đây chỉ là một trường hợp trong hàng loạt vụ lừa đảo mà tội phạm sử dụng hình ảnh đã được chỉnh sửa bằng AI để đóng giả thành viên của hoàng gia các nước Arab, nhắm vào tình cảm và tiền bạc của nạn nhân. Sau khi “săn con mồi” trên mạng xã hội, các “hoàng tử” sẽ mời nạn nhân trò chuyện qua WhatsApp hoặc Telegram.

Liên minh chống lừa đảo toàn cầu ước tính, nạn nhân trên toàn thế giới đã mất 442 tỉ USD vào năm ngoái. Tình hình này hiện lan rộng và quy mô trở thành các tổ chức xuyên quốc gia, vì vậy đã có nhiều hội nhóm trên mạng xã hội được lập ra để cảnh báo người dùng. Một bản kiến ​​nghị trên Change.org còn kêu gọi đội ngũ của Hoàng tử Hamdan bin Mohammed nâng cao cảnh giác trước những kẻ mạo danh hoàng gia.

Về mặt kỹ thuật, chưa rõ công cụ AI nào được sử dụng để tạo ra các cuộc trò chuyện video trực tiếp như với cô Maria. Nhưng với việc Internet đang tràn ngập công nghệ hoán đổi khuôn mặt và công cụ điều khiển chuyển động mới có khả năng tạo ra những video cực kỳ chân thực, các chuyên gia cảnh báo video deepfake sẽ ngày càng hoàn hảo và rất có thể trong thời gian tới, chúng ta thậm chí không phân biệt được cuộc trò chuyện qua màn hình là thật hay giả.

MAI QUYÊN