Google và Bing bị chỉ trích vì hiển thị nội dung khiêu dâm deepfake AI trong tìm kiếm

Nguyễn_Cương

Well-Known Member
Tham gia
5/10/17
Bài viết
4,467
Được thích
2,520
276 #1

Các công cụ tìm kiếm Bing, Google và DuckDuckGo đang bị chỉ trích vì đưa nội dung khiêu dâm deepfake AI vô căn cứ trong một số kết quả tìm kiếm cụ thể. Điều này xảy ra sau khi một bài báo của NBC News được xuất bản, nêu bật một số lo ngại liên quan đến khả năng tiếp cận nội dung khiêu dâm do AI tạo ra.

Các video deepfake rõ ràng được tạo bằng cách sử dụng tài liệu khiêu dâm gốc và hoán đổi khuôn mặt của nữ diễn viên thành một người nổi tiếng nào đó nhằm thu hút người xem. Việc chuyển đổi được thực hiện tự động bởi trí tuệ nhân tạo, người dùng chỉ cần cung cấp cho AI những bức ảnh của nạn nhân.

Theo các thử nghiệm do NBC News thực hiện trên mẫu gồm 36 người nổi tiếng nữ – sử dụng sự kết hợp giữa tên và từ “deepfakes” – Bing và Google trong hầu hết các trường hợp đều hiển thị các video và hình ảnh deepfake vô căn cứ ở đầu kết quả tìm kiếm.

Google đã trả về 34 kết quả được xếp hạng hàng đầu như vậy, trong khi Bing trả về 35. Mặc dù NBC News đề cập rằng DuckDuckGo cũng gặp các vấn đề tương tự nhưng họ không nêu rõ quy mô của vấn đề. NBC News cũng phàn nàn rằng các bài viết liên quan về vấn đề nội dung khiêu dâm deepfake không có sự đồng thuận chỉ được hiển thị sau nội dung không phù hợp ở trên cùng, khi tìm kiếm cụm từ “fake nudes”.


Các thử nghiệm nhanh do Neowin thực hiện đã chứng minh rằng Bing không hiển thị kết quả hình ảnh rõ ràng trong cài đặt mặc định khi tìm kiếm sự kết hợp giữa tên và từ “deepfakes”. Tuy nhiên, nó thực sự liên kết đến các trang web có nội dung hoặc công cụ không phù hợp để tạo ra các video deepfake bằng AI.

Google hiển thị hình ảnh rõ ràng trong cài đặt mặc định nhưng hình ảnh bị mờ và chỉ hiển thị đầy đủ sau khi người dùng được thông báo về tính chất rõ ràng của hình ảnh. Người dùng phải sẵn sàng nhấn nút để xem hình ảnh gốc.

Microsoft là công ty duy nhất không phản hồi yêu cầu bình luận của NBC News. Người phát ngôn của DuckDuckGo cho biết nguồn chính của các liên kết web và kết quả hình ảnh là Bing. Ngoài ra, DuckDuckGo còn cung cấp cách gửi yêu cầu liên quan đến quyền riêng tư , chẳng hạn như yêu cầu xóa nội dung cụ thể khỏi tìm kiếm.

Google cung cấp một tùy chọn tương tự cho các nạn nhân bị deepfake, nhưng NBC News lập luận – trích dẫn các chuyên gia và nhà hoạt động – rằng điều này là chưa đủ. Ngoài ra, nó có thể gây hại thêm cho những nạn nhân được yêu cầu gửi các URL cụ thể có nội dung nhạy cảm để xem xét.

Theo Neowin

Xem thêm:
 
Top Bottom