“Cô gái cụt tay” là sản phẩm của phần mềm
Trong những ngày gần đây, câu chuyện về một tài khoản TikTok thu hút hàng trăm nghìn lượt theo dõi của một cô gái trẻ “cụt tay”, bán nước rửa bồn cầu nuôi con nhỏ, đã khiến mạng xã hội dậy sóng.
Những hình ảnh “chân thực” đính kèm câu chuyện nghèo khó, chất giọng chân chất… đã tạo nên một câu chuyện thương tâm trọn vẹn. Người xem rơi nước mắt, không ngần ngại đặt mua sản phẩm để “ủng hộ người kém may mắn”.
“Cô gái cụt tay” do AI tạo ra
Chỉ đến khi cộng đồng mạng bắt đầu soi kỹ từng khung hình, sự thật mới dần lộ ra. Khớp tay bị che lấp một cách bất thường, phần cánh tay được làm mờ, biến dạng, động tác không tự nhiên.
Các chi tiết kỹ thuật cho thấy video có dấu hiệu được chỉnh sửa bằng AI, cụ thể là dạng deepfake (công nghệ ghép mặt, giả giọng hoặc tạo ra hình ảnh, video trông như thật), biến một người khỏe mạnh thành người khuyết tật nhằm câu lòng thương hại.
Các chuyên gia cảnh báo, việc tiếp xúc thường xuyên với nội dung giả mạo và phản cảm do AI tạo ra dễ dẫn tới trạng thái hoang mang, nghi ngờ mọi thứ là “dựng”, là “diễn”, từ đó ảnh hưởng đến niềm tin xã hội nói chung.
Ngay sau khi bị phát hiện, chủ tài khoản lập tức khóa trang cá nhân, để lại hàng loạt câu hỏi về cách nền tảng kiểm soát nội dung giả mạo.
Câu chuyện này không phải là cá biệt. Nhiều tài khoản trên Facebook, TikTok sử dụng hình ảnh người được cho là “thiếu tay, thiếu chân, biến dạng cơ thể, đau ốm, cùng quẫn” để livestream bán hàng, kêu gọi chuyển khoản giúp đỡ. Công nghệ càng tinh vi, nội dung lừa đảo càng “thuyết phục”.
Các sản phẩm được bán đa phần là hàng phổ thông, giá rẻ, lợi nhuận cao, gắn với lời kêu gọi “kiếm thêm thu nhập vượt qua nghịch cảnh” hoặc “ủng hộ người kém may mắn”. Thực chất, đây là cách biến lòng trắc ẩn thành dòng tiền ổn định. Người xem tin rằng mỗi lần bấm mua là một lần giúp đỡ, nhưng thực tế là đang “ủng hộ” cho một màn kịch được dựng từ phần mềm.
Nội dung phản cảm do AI tạo ra ngập tràn trên các nền tảng số
Không ít người khi phát hiện mình trở thành nạn nhân đã bàng hoàng. Một số khách hàng chia sẻ rằng, gia đình vẫn thường mua hàng ủng hộ người khuyết tật, nhưng “khi có người dùng AI để làm giả với mục đích bán hàng thế này thì thế giới còn gì là đáng tin nữa”.
Nguy hiểm hơn, chuỗi lừa đảo bằng AI này đẩy những người khuyết tật thật vào thế khó. Nội dung giả mạo xuất hiện quá nhiều, cộng đồng bắt đầu nghi ngờ tất cả. Những người khuyết tật đang sử dụng mạng xã hội để mưu sinh chính đáng lại bị tấn công bằng lời buộc tội vô căn cứ.
Anh Trần Văn Quân, chủ một tiệm may nhỏ tại Thanh Xuân (Hà Nội) chia sẻ rằng, những video giả mạo người khuyết tật bằng AI khiến công việc buôn bán của anh bị ảnh hưởng.
“Gần đây tôi đăng video giới thiệu sản phẩm mới nhưng lại có người bình luận hỏi có phải tôi dùng hiệu ứng giả tật để bán hàng không. Nghe mà chạnh lòng. Tôi mất mấy năm xây dựng lòng tin với khách, vậy mà vài clip lừa đảo lại khiến người ta nghi ngờ tất cả”, anh Quân chia sẻ.
Theo anh Quân, điều đáng lo nhất là sự ngờ vực lan rộng khiến nhiều người khuyết tật làm việc thiện chí trên mạng bị hoài nghi vô cớ. “Chúng tôi đã khó khăn sẵn rồi, giờ lên mạng bán hàng cũng phải sống trong nỗi lo bị coi là giả mạo. Những video lừa đảo đó làm người khuyết tật chịu thiệt đủ đường”, anh nói.
Nhiều người đã ủng hộ “người kém may mắn”
AI bị dùng để phá vỡ chuẩn mực văn hóa
Nếu mảng nội dung giả mạo dành cho lừa đảo đánh thẳng vào lòng trắc ẩn, thì nhóm nội dung phản cảm dựa trên AI lại nhắm vào sự tò mò, ham vui, thích “giật mình” của người dùng. Các công cụ tạo video AI như Veo 3 của Google, HeyGen, Synthesia, Luma, Sora hay nhiều nền tảng tương tự đang được dùng để sản xuất ồ ạt các video “như thật” nhưng đầy dung tục.
Một số clip cho thấy hình ảnh các cô gái ăn mặc thiếu vải đứng nhảy múa uốn éo ngay trước bàn thờ, kèm hiệu ứng ánh sáng lòe loẹt, hoàn toàn lệch khỏi không khí trang nghiêm. Nhiều video deepfake gắn mặt các cụ ông, cụ bà vào tình huống trái thuần phong mỹ tục.
Nhiều đoạn phim dựng cảnh chia tài sản, chửi bới, giằng co ngay trước giường bệnh người thân để câu bình luận và lượt xem. Đấy là chưa kể không ít các video ghép gương mặt trẻ nhỏ vào thân hình người lớn trong bối cảnh nhạy cảm, khiến người xem phẫn nộ và lo ngại về an toàn trẻ em…
Điểm chung của các video này là được dựng bằng AI với chất lượng hình ảnh, âm thanh ngày càng giống thật. Giọng nói được tổng hợp, biểu cảm gương mặt và chuyển động cơ thể được tính toán mượt mà, khiến người xem dễ lầm tưởng là cảnh quay thật.
Nhà nghiên cứu văn hóa Nguyễn Khoa cho biết ông lo ngại khi “có hàng trăm, thậm chí hàng ngàn video do AI tạo ra, với lời thoại tục tĩu liên quan đến sinh lý, tình dục, phá vỡ các giá trị văn hóa, đang len vào thiết bị của người dùng theo thuật toán đề xuất”.
“Công cụ quá dễ tiếp cận khiến cho việc sản xuất nội dung phản cảm thành phổ thông. Chỉ cần vài chục USD mua gói dịch vụ mỗi tháng, hoặc thuê dịch vụ làm video AI trọn gói, người ta có thể đặt hàng bất kỳ kiểu nội dung nào.
Từ video ngắn chất lượng trung bình đến video sắc nét, lồng tiếng, phụ đề đa ngôn ngữ, tối ưu SEO, tất cả đều có bảng giá. Muốn video gây cười phản cảm, hình ảnh mát mẻ, lời thoại gây sốc, đều làm được” một người chuyên làm content khẳng định.
Những nội dung này không chỉ gây khó chịu mà còn đặt ra vấn đề đạo đức và bản sắc văn hóa. AI có thể tạo ra hình ảnh, trang phục, bối cảnh vay mượn hoặc “lai” giữa nhiều nền văn hóa, dẫn tới sự nhầm lẫn về nguồn gốc, làm nhòe các giá trị gốc.
Những hình ảnh méo mó, dung tục gắn chung với hình hài của người cao tuổi, người lao động bình thường, hoặc bối cảnh đám tang, chợ truyền thống, quán xá khiến cho người xem trẻ tuổi rất dễ hiểu nhầm về cách ứng xử và chuẩn mực trong đời sống thực.
Nhiều tổ chức và chuyên gia đang đề xuất giải pháp kỹ thuật và pháp lý, từ việc xây dựng trung tâm hỗ trợ nạn nhân bị tấn công mạng đến yêu cầu dán nhãn bắt buộc với nội dung AI. Một số hãng công nghệ, như Google, công bố việc gắn watermark để nhận diện video AI. Tuy nhiên, với tốc độ phát triển và mức độ phổ cập của công cụ tạo video, những biện pháp này mới chỉ là bước khởi đầu.
Người nghe mất phương hướng vì âm nhạc AI
Cuộc khảo sát toàn cầu do Deezer phối hợp với Ipsos vừa công bố tạo ra một phen chấn động trong ngành công nghiệp âm nhạc: 97% người nghe không thể phân biệt được đâu là ca khúc do người sáng tác và đâu là sản phẩm của AI.
Dù gây bất an, nhạc AI vẫn tăng tốc với tốc độ đáng kinh ngạc. Mới đây nhất, ca khúc Walk my walk của Breaking Rust, nghệ sĩ được cho là sử dụng công nghệ tổng hợp giọng hát, đã đứng đầu bảng xếp hạng Country Digital Song Sales của Billboard Mỹ.
Nhóm nhạc ảo The Velvet Sundown cũng tạo hiệu ứng lan truyền mạnh trên Spotify từ tháng 6. Sau khi bị chú ý, nhóm xác nhận toàn bộ bài hát của họ đều do AI sáng tác, trong đó có một ca khúc vượt mốc 3 triệu lượt phát trực tuyến. Sự thành công ngoài dự đoán của “ban nhạc không người” này khiến ngành âm nhạc buộc phải đặt câu hỏi: liệu khán giả có quan tâm đến việc ai đang sáng tác, hay họ chỉ quan tâm thứ mình nghe có đủ cuốn hút?
Âm nhạc vốn không chỉ là âm thanh. Nó là câu chuyện đời, kinh nghiệm, nỗi đau, niềm vui, cảm xúc… của con người. Khi AI sao chép hoàn hảo cấu trúc giai điệu, âm sắc giọng hát và phong cách sáng tác của một nghệ sĩ, khán giả bị đặt vào trạng thái lưỡng lự. Liệu giọng hát họ nghe có thật sự là của nghệ sĩ mình yêu thích, cảm xúc trong ca từ có phải được viết bằng trải nghiệm sống, hay chỉ là sản phẩm của thuật toán dự đoán?
Hiệu ứng đồng hóa này dẫn đến một hệ quả khác: tai người nghe bị “lập trình” thích những công thức dễ nghe mà AI tạo ra, từ đó vô tình triệt tiêu nhu cầu thưởng thức những sáng tạo độc đáo, gai góc, mang tính cá nhân, có nghĩa triệt tiêu luôn sự đa dạng của nghệ thuật.