Gần 60% video trên TikTok và hơn 20% trên YouTube được tạo bởi AI, đặc biệt nguy hiểm với trẻ em

Người dùng mới đang bị “bao vây” bởi video AI  

Một khảo sát mới đây đã gióng lên hồi chuông cảnh báo khi chỉ ra rằng, gần 60% video trên nền tảng TikTok và hơn 20% nội dung trên YouTube hiện nay thực chất là những video chất lượng thấp, được nhào nặn hoàn toàn bởi trí tuệ nhân tạo (AI). Thực trạng này cho thấy các dịch vụ chia sẻ video lớn đang dần bị bủa vây bởi làn sóng nội dung "mì ăn liền" do máy móc tạo ra.

Ảnh minh họa.

Theo trang tin công nghệ TNW, nền tảng chỉnh sửa video trực tuyến Kapwing đã tiến hành một cuộc nghiên cứu quy mô nhằm đo lường mức độ phủ sóng của "rác AI" (AI slop). Các nhà nghiên cứu đã phân tích tổng cộng 10.742 video TikTok thuộc 20 danh mục thịnh hành nhất, đồng thời quét thêm 500 video đầu tiên xuất hiện trong mục "Dành cho bạn" của một tài khoản hoàn toàn mới. Kết quả thu được khiến nhiều người ngỡ ngàng: có tới 59% nội dung hiển thị là sản phẩm của AI. Khi thực hiện một thử nghiệm tương tự trên YouTube trước đó, tỷ lệ này cũng đã chạm ngưỡng đáng lo ngại là 21%.

Trẻ em dễ trở thành nạn nhân của nội dung video AI kém chất lượng  

Tuy nhiên, bức tranh toàn cảnh còn trở nên tồi tệ và đáng sợ hơn khi nhìn vào danh mục nội dung dành cho con trẻ. Trong số 100 video ngẫu nhiên được kiểm tra có gắn thẻ hashtag #CartoonKids (hoạt hình trẻ em), các chuyên gia phát hiện có tới 97 video được sản xuất bằng trí tuệ nhân tạo, và chỉ vỏn vẹn đúng 3 video là có bàn tay dàn dựng của con người. Xu hướng áp đảo này cũng lặp lại ở các từ khóa phổ biến khác như #cartoons (hoạt hình) và #babysong (nhạc thiếu nhi) với tỷ lệ cùng chạm mức 83%, trong khi hashtag #forkids (dành cho trẻ em) giữ mức 79%.

Không chỉ lĩnh vực giải trí trẻ em, AI còn xuất hiện dày đặc trong các nội dung liên quan đến giáo dục và tri thức. Nghiên cứu cho thấy khoảng 35% video thuộc nhóm khoa học và học tập được tạo bằng AI. Tỉ lệ này lần lượt là 33,8% đối với nội dung sức khỏe và 33,5% đối với các video lịch sử.

Trong khi đó, các chủ đề như phim hoạt hình, minh họa khái niệm khoa học hay tái hiện sự kiện lịch sử lại rất dễ được tạo bằng AI thông qua hình ảnh và hoạt ảnh tổng hợp.

Vấn đề nằm ở chỗ nhiều nội dung trong số đó được sản xuất quá nhanh hoặc tạo hàng loạt mà không trải qua quy trình kiểm chứng đầy đủ.

Một video AI có thể mô tả sai sự kiện lịch sử, đưa ra thông tin khoa học thiếu chính xác hoặc tạo nên những hình ảnh gây hiểu lầm nhưng vẫn được lan truyền rộng rãi nhờ thuật toán đề xuất.

Đối với trẻ em, nguy cơ còn lớn hơn. Các em thường khó phân biệt đâu là nội dung thật, đâu là nội dung được tạo bởi AI. Việc tiếp xúc thường xuyên với những video thiếu kiểm chứng có thể ảnh hưởng đến khả năng tiếp nhận thông tin và hình thành nhận thức.

Kapwing cảnh báo rằng nếu người sáng tạo tiếp tục giao hoàn toàn quá trình sản xuất nội dung cho AI mà không dành thời gian kiểm tra và giám sát chất lượng, người dùng, đặc biệt là trẻ em sẽ ngày càng dễ tiếp xúc với những nội dung độc hại hoặc sai lệch.

Đáng chú ý, đại diện phía Kapwing lưu ý rằng con số 59% kể trên thực tế vẫn chưa phản ánh hết quy mô của làn sóng này. Tỷ lệ video AI trên không gian mạng chắc chắn còn cao hơn rất nhiều, bởi thuật toán nghiên cứu mới chỉ ghi nhận và phân tích được những video sử dụng kịch bản thô sơ cùng giọng đọc nhân tạo một cách lộ liễu, rõ ràng.

Nguyên nhân và giải pháp khắc phục vấn nạn 

Lý giải về nguyên nhân dẫn đến sự bùng nổ của vấn nạn này, bà Ana Maria Constantin, đại diện của nhóm khảo sát, nhận định lỗi một phần nằm ở chính cơ chế vận hành của các nền tảng mạng xã hội hiện nay. Việc các thuật toán ưu tiên số lượng bài đăng hơn là chất lượng nội dung đã vô tình tạo ra một lỗ hổng, khuyến khích người dùng liên tục xuất bản các video sản xuất hàng loạt, hời hợt nhằm mục đích câu lượt xem và trục lợi, kiếm tiền từ lượt truy cập.

Từ 15/8, những thuê bao nào sẽ bị khóa hai chiều?ĐỌC NGAY

Dù thực trạng tương đối ảm đạm, trang 9to5Mac cho biết người dùng vẫn có một tia hy vọng để tự bảo vệ không gian giải trí của mình. Điểm tích cực duy nhất được chỉ ra là hành vi của người dùng có thể "huấn luyện" ngược lại bộ lọc của TikTok lẫn YouTube để thanh lọc bớt các nội dung rác.

Nghiên cứu chứng minh rằng "rác AI" thường có xu hướng tập trung dày đặc nhất ở các tài khoản mới thiết lập, do hệ thống chưa ghi nhận được lịch sử xem cụ thể của chủ tài khoản. Nếu người dùng chủ động lướt qua thật nhanh hoặc nhấn vào nút ẩn đi những video chất lượng thấp này, thuật toán của hệ thống sẽ dần dần tự điều chỉnh hành vi bám đuổi, từ đó trả lại ưu thế cho các video do con người trực tiếp sáng tạo. 

Dù vậy, giới chuyên gia vẫn nhìn nhận đây là một số liệu đầy báo động, và nếu các nền tảng không có biện pháp can thiệp mạnh mẽ, làn sóng ô nhiễm nội dung do AI gây ra sẽ còn tràn ngập và tinh vi hơn nữa trong tương lai gần.

Khi video AI ngày càng chiếm lĩnh các nền tảng mạng xã hội, thách thức lớn nhất không còn là tạo ra nhiều nội dung hơn, mà là bảo đảm những nội dung đó vẫn đáng tin cậy, hữu ích và an toàn đối với người dùng.

Quỳnh Chi (t/h)