Google tạm dừng tính năng tạo hình ảnh khi tạo ra lính Đức Quốc Xã "da màu"

Nguyễn_Cương

Well-Known Member
Tham gia
5/10/17
Bài viết
4,446
Được thích
2,518
570 #1

Google đã tạm thời dừng tính năng tạo hình ảnh con người trong ứng dụng trò chuyện với trí tuệ nhân tạo Gemini của mình với lý do cần phải cải tiến để đảm bảo độ chính xác. Quyết định này tuân theo phản hồi của người dùng chỉ ra những điểm không chính xác và kết quả gây phản cảm trong các hình ảnh được tạo. Tính năng này được hỗ trợ bởi mô hình AI Imagen 2, đã phải đối mặt với những thách thức trong việc tạo ra các cách thể hiện phù hợp và không thiên vị, dẫn đến việc tạm dừng.

Người dùng mạng xã hội đã đăng những hình ảnh do Gemini tạo ra trên các trang web như X. Một số hình ảnh cho thấy Gemini đã tạo ra những hình ảnh thiếu chính xác so với lịch sự khi cho thấy Nhà khai quốc nước Mỹ lại là một người phụ nữ da màu hoặc một người đàn ông gốc Ấn Độ.

Một ví dụ đáng nhớ khác là việc ai đó yêu cầu Gemini tạo ra hình ảnh một người lính Đức năm 1943. Kết quả không phải là Đức quốc xã mà là hình ảnh người lính Đức da màu hoặc người châu Á.


Google đã thừa nhận những vấn đề này, cho rằng chúng là những thách thức trong việc tinh chỉnh mô hình AI để tránh những cách trình bày không phù hợp hoặc thiên vị trong khi hướng tới sự toàn diện. Bất chấp những nỗ lực nhằm giảm thiểu các vấn đề gặp phải trong các công nghệ tạo hình ảnh trước đó, tính năng này vẫn gặp phải những trở ngại đáng kể.

Phó chủ tịch cấp cao Prabhakar Raghavan giải thích rằng mục đích là khắc phục những vấn đề này bằng các cải tiến và thử nghiệm sâu rộng trước khi cung cấp lại tính năng này. Ông cũng lưu ý những thách thức cố hữu trong việc đảm bảo độ tin cậy của AI, đặc biệt là liên quan đến các chủ đề nhạy cảm, nêu bật những nỗ lực không ngừng nhằm nâng cao độ chính xác của công nghệ.

Xem thêm:
 

Theo dõi Youtube

Quảng Cáo

Quảng Cáo

Có thể bạn quan tâm

Top Bottom