Sản phẩm của AI: Phân biệt chủng tộc và sai lệch
Theo các chuyên gia y tế toàn cầu, những hình ảnh do AI tạo ra về một số chủ đề như nghèo đói, trẻ em và nạn nhân bạo lực tình dục đang tràn ngập các trang ảnh lưu trữ trực tuyến. Các tổ chức phi chính phủ (NGO) sử dụng những hình ảnh này ngày càng nhiều. Chuyên gia cảnh báo, đây có thể là dấu hiệu cho một “kỷ nguyên mới của văn hóa khai thác nghèo đói”.
Ông Arsenii Alenichev, nhà nghiên cứu tại Viện Y học Nhiệt đới ở Antwerp, người đang nghiên cứu về việc sản xuất hình ảnh y tế toàn cầu, cho biết: "Những hình ảnh này phản ánh cái nhìn mặc định về nghèo đói - những đứa trẻ cầm chiếc bát trống không, nền đất nứt nẻ... rất rập khuôn".
Ông Alenichev đã thu thập hơn 100 hình ảnh về tình trạng nghèo đói cùng cực do AI tạo ra, được các cá nhân hoặc NGO sử dụng trong các chiến dịch truyền thông xã hội chống lại nạn đói và bạo lực tình dục.
Những hình ảnh ông chia sẻ với tờ Guardian cho thấy cảnh tượng phóng đại, rập khuôn: Trẻ em chen chúc trong vũng bùn; một cô gái châu Phi mặc váy cưới với nước mắt rơi trên má. Trong một bài bình luận được đăng trên tạp chí Lancet Global Health mới đây, ông lập luận rằng những hình ảnh này chẳng khác nào "khiêu dâm nghèo đói phiên bản 2.0".
Ảnh chụp màn hình cho thấy hình ảnh "nghèo đói" do AI tạo ra trên một trang web ảnh. (Ảnh: Freepik)
Ông Alenichev và nhiều chuyên gia khác cho rằng, việc sử dụng ảnh AI đang gia tăng do lo ngại về tác quyền và chi phí. Việc Chính phủ Mỹ cắt giảm ngân sách cho các NGO đã khiến vấn đề trở nên tồi tệ hơn.
"Rõ ràng, nhiều tổ chức bắt đầu xem xét việc sử dụng hình ảnh AI thay vì ảnh thật vì nó rẻ tiền. Bạn cũng không cần phải bận tâm đến quyền tác giả cũng như nhiều thứ khác", ông nói.
Trách nhiệm thuộc về người dùng hay nền tảng cung cấp?
Hình ảnh do AI tạo ra về chủ đề nghèo đói xuất hiện trên hàng chục trang web ảnh, bao gồm cả Adobe Stock Photos và Freepik. Nhiều bức ảnh ghi chú thích: "đứa trẻ siêu thực trong trại tị nạn"; "trẻ em châu Á bơi trên dòng sông đầy rác"; "tình nguyện viên da trắng tư vấn y tế cho trẻ em da đen ở một ngôi làng châu Phi"... Adobe bán bản quyền cho 2 bức ảnh cuối cùng trong danh sách đó với giá khoảng 60 bảng Anh.
"Những bức ảnh này phân biệt chủng tộc quá mức và không nên được phép đăng tải vì nó là những định kiến tồi tệ nhất về châu Phi, Ấn Độ hay bất cứ thứ gì bạn có thể nghĩ ra" , Alenichev nói.
Joaquín Abela, CEO của Freepik, cho biết trách nhiệm sử dụng những hình ảnh cực đoan như vậy thuộc về người dùng, chứ không phải thuộc về các nền tảng như web của ông. Theo quan điểm của ông, ảnh stock AI được tạo ra bởi cộng đồng người dùng trên toàn cầu, những người có thể nhận được phí tác quyền khi khách hàng của Freepik chọn mua ảnh của họ.
Freepik đã cố gắng hạn chế những định kiến được phát hiện ra trong các thư viện ảnh bằng cách "đưa vào sự đa dạng". Đồng thời, họ cũng cố gắng đảm bảo sự cân bằng giới tính trong các ảnh về nghề luật sư và giám đốc điều hành.
Tuy nhiên, ông cho biết, nền tảng của ông chỉ có thể làm được đến thế. "Giống như cố gắng làm khô đại dương vậy. Chúng tôi đã nỗ lực, nhưng thực tế, nếu khách hàng trên toàn thế giới muốn hình ảnh theo một cách nhất định thì hoàn toàn không ai có thể làm gì được".
Hình ảnh do AI tạo ra từ chiến dịch chống tảo hôn năm 2023 của tổ chức từ thiện Plan International với mong muốn bảo vệ "quyền riêng tư và phẩm giá của các bé gái". (Ảnh: Plan International)
Nhiều tổ chức uy tín đã sử dụng hình ảnh do AI tạo ra, thậm chí là cả Liên Hợp Quốc.
Năm ngoái, Liên Hợp Quốc đã đăng một video lên YouTube với những cảnh "tái hiện" bạo lực tình dục, bao gồm cả lời khai của một phụ nữ Burundi mô tả việc bị 3 người đàn ông cưỡng hiếp và bỏ mặc cho đến chết vào năm 1993. Những nội dung này hoàn toàn được tạo bởi AI. Video đã bị gỡ bỏ sau khi tờ Guardian liên hệ với Liên Hợp Quốc để xin phỏng vấn.
Sau đó, người phát ngôn của Liên Hợp Quốc đã thông báo về lý do video bị gỡ. "Chúng tôi tin rằng đoạn video đã được AI tạo ra không đúng cách và có thể gây ra những rủi ro về tính toàn vẹn thông tin, pha trộn cảnh quay thực và nội dung nhân tạo gần giống thật.”
Các sản phẩm do AI tạo ra từ lâu đã bị phát hiện là sao chép, đôi khi phóng đại sự thật. Ông Alenichev cho rằng, sự phổ biến của những hình ảnh mang tính định kiến này có thể khiến vấn đề trở nên tồi tệ hơn. Bởi vì các hình ảnh có thể được lan truyền trên môi trường Internet rộng lớn và được sử dụng để đào tạo thế hệ AI tiếp theo.
Người phát ngôn của Plan International cho biết, hiện tại, tổ chức phi chính phủ này đã “khuyến cáo không sử dụng AI để mô tả trẻ em”.
