Từ hiểm họa video ngắn độc hại đến tin giả AI, Deepfake: Những chiếc bẫy phía sau màn hình

Từ video ngắn độc hại đến "ma trận" thật - giả

Chỉ vài chục giây cho một video, thao tác vuốt màn hình đơn giản và ngay lập tức một nội dung mới xuất hiện. Video ngắn với đặc tính trực quan, dễ xem, dễ chia sẻ đang ngày càng trở thành một trong những phương thức giải trí, tiếp nhận thông tin quen thuộc của người dùng mạng xã hội, đặc biệt là giới trẻ. Nhưng đằng sau sức hút ấy là những nguy cơ không thể xem nhẹ.

Từ các video chửi bới, làm nhục người khác, cổ súy bạo lực, thử thách nguy hiểm, hành vi phản cảm đến những nội dung đề cao lối sống lệch chuẩn…, không ít sản phẩm được "bọc" dưới hình thức giải trí, hài hước hay "bắt trend", liên tục xuất hiện trên luồng đề xuất.

Từ nội dung lệch chuẩn đến tin giả, AI, Deepfake, video ngắn đang trở thành “mảnh đất” cho nhiều nội dung độc hại lan truyền trên mạng xã hội. (Ảnh minh họa. Nguồn: )

Đáng lo ngại, câu chuyện không chỉ dừng ở những video độc hại có thể tác động tiêu cực đến nhận thức và hành vi. Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI), đặc biệt là công nghệ Deepfake, đang khiến video ngắn có thể trở thành phương tiện để thông tin giả, sai sự thật được tạo dựng và phát tán dưới những hình thức ngày càng khó nhận biết.

Một khuôn mặt có thể bị ghép vào video, giọng nói có thể được giả lập, hình ảnh có thể được tạo mới bằng AI. Khi những sản phẩm này được cắt thành những đoạn video ngắn, đưa lên mạng xã hội và liên tục được chia sẻ, người xem có thể tiếp nhận thông tin trước cả khi kịp kiểm chứng thật - giả.

Với trẻ em và thanh thiếu niên, nguy cơ càng đáng lưu tâm khi khả năng nhận diện, kiểm chứng thông tin chưa hoàn thiện, trong khi các em lại là nhóm thường xuyên tiếp xúc với video ngắn. Thực tế này cũng đang đặt ra những yêu cầu mới đối với công tác phòng ngừa, phát hiện và xử lý vi phạm trên không gian mạng.

Thông tin về vấn đề này, Thượng tá Triệu Mạnh Tùng, Phó Cục trưởng Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao, Bộ Công an cho biết, hiện nay, những hành vi sử dụng AI hay Deepfake để tạo ra hình ảnh giả, thông tin giả và lan truyền trên các nền tảng rất phổ biến.

Luật An toàn thông tin mạng năm 2015 tuy đã có một số quy định liên quan, song chưa thực sự điều chỉnh hoặc có chế tài đối với những hành vi sử dụng trái phép các ứng dụng công nghệ mới này.

Theo Thượng tá Triệu Mạnh Tùng, dự thảo "Nghị định xử phạt vi phạm hành chính trong lĩnh vực an ninh mạng và bảo vệ dữ liệu cá nhân" dự kiến bổ sung nhiều quy định nghiêm khắc nhằm xử lý các hành vi lợi dụng AI và Deepfake để tạo dựng, phát tán thông tin sai sự thật.

Theo đó, cả hành vi khởi tạo sản phẩm giả mạo như video, hình ảnh do AI tạo ra và hành vi phát tán, lan truyền những nội dung này đều sẽ bị xử lý với chế tài nghiêm khắc.

Đồng thời, dự thảo cũng đặt ra trách nhiệm đối với các nền tảng số khi để xảy ra vi phạm nhưng không thực hiện kiểm định, kiểm soát hoặc gỡ bỏ nội dung theo yêu cầu của cơ quan nhà nước. Đối với hành vi xâm phạm dữ liệu cá nhân, mức xử phạt dự kiến được áp dụng ở mức cao theo thông lệ quốc tế.

Nền tảng xuyên biên giới phải gỡ thông tin xấu độc trong 24 giờ

Một vấn đề đáng chú ý khác là quản lý các hội, nhóm trên mạng xã hội. Đây là những không gian có khả năng tập hợp lượng lớn người dùng và cũng có thể trở thành nơi thông tin sai sự thật, nội dung xấu độc được chia sẻ, khuếch tán nhanh chóng nếu thiếu cơ chế kiểm soát.

Liên quan đến quản lý hội nhóm và yêu cầu định danh, xác thực điện tử đối với người quản trị, Thượng tá Triệu Mạnh Tùng cho biết nội dung này được quy định trong dự thảo "Nghị định quy định về phòng ngừa, xử lý thông tin và hành vi sử dụng công nghệ thông tin, mạng máy tính, mạng viễn thông và phương tiện điện tử xâm phạm an ninh quốc gia, trật tự an toàn xã hội trên không gian mạng".

Trước đó, dự thảo được xây dựng theo hướng là "Nghị định về phòng, chống tội phạm mạng và tội phạm sử dụng công nghệ cao" và đã được Bộ Công an trình Chính phủ sửa đổi tên sau quá trình thẩm định.

Theo dự thảo Nghị định, việc thiết lập, vận hành và quản trị các hội nhóm trên mạng xã hội phải tuân thủ các trình tự, thủ tục và cơ chế quản lý cụ thể. Trong quá trình hoạt động, quản trị viên hội nhóm có trách nhiệm kiểm soát, duyệt nội dung đăng tải theo quy định nhằm ngăn chặn việc các đối tượng lợi dụng hội nhóm để đăng tải thông tin tiêu cực, gây ảnh hưởng đến an ninh, trật tự.

Thượng tá Triệu Mạnh Tùng, Phó Cục trưởng Cục An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao, Bộ Công an. (Ảnh: Bộ Công an)

Cùng với đó, người khởi tạo và điều hành hội nhóm cũng phải chịu trách nhiệm trong trường hợp bài đăng của thành viên gây tác động xấu đến xã hội nhưng không được kiểm duyệt, xử lý kịp thời.

Đối với công tác định danh điện tử (KYC), dự thảo Nghị định sẽ quy định triển khai đồng bộ các biện pháp định danh nhằm đấu tranh với tình trạng sử dụng "SIM rác" và tài khoản ngân hàng không chính chủ. Theo đó, từ tài khoản mạng xã hội, tài khoản ngân hàng đến số điện thoại đều phải xây dựng cơ chế định danh, xác thực.

Thời gian qua, Ngân hàng Nhà nước đã triển khai làm sạch dữ liệu tài khoản ngân hàng; các doanh nghiệp viễn thông cũng phối hợp với Bộ Công an thực hiện định danh thuê bao thông qua Cơ sở dữ liệu quốc gia về dân cư. Khi các nền tảng hoàn thiện cơ sở dữ liệu định danh, sẽ từng bước hình thành hệ thống định danh phục vụ quản lý các tài khoản hoạt động trên không gian mạng. Dự thảo Nghị định cũng bổ sung trách nhiệm đối với các nhà cung cấp dịch vụ xuyên biên giới.

Theo Thượng tá Triệu Mạnh Tùng, các nền tảng phải xây dựng cơ chế định danh tài khoản khách hàng thông qua các công cụ trực tuyến; đồng thời có trách nhiệm phối hợp, chia sẻ thông tin nhanh chóng cho cơ quan chức năng trong các trường hợp khẩn cấp.

Đáng chú ý, các nền tảng phải thực hiện gỡ bỏ thông tin xấu độc, ngăn chặn nguy cơ lan truyền trên không gian mạng trong thời hạn 24 giờ kể từ khi nhận được yêu cầu của cơ quan nhà nước có thẩm quyền. Như vậy, trách nhiệm quản lý không chỉ dừng lại ở người trực tiếp tạo hoặc đăng tải nội dung mà được đặt ra đối với cả quản trị viên hội nhóm và nền tảng cung cấp môi trường để thông tin được phát tán.

Cảnh báo nguy cơ việc "lặp lại đủ nhiều, trẻ có thể coi điều sai là bình thường"

Nếu AI, Deepfake khiến việc tạo ra thông tin giả trở nên dễ dàng hơn thì tốc độ và cách thức video ngắn được phân phối lại khiến tác động của nội dung độc hại trở thành vấn đề đáng lo ngại.

Trao đổi về sự bùng nổ của các video ngắn trên mạng xã hội, luật sư Nguyễn Sỹ Anh - Đoàn Luật sư TP.Hà Nội nhận định video ngắn độc hại đang trở thành một trong những nguy cơ đáng lo ngại đối với thanh thiếu niên và trẻ em.

Khác với những sản phẩm dài, có chiều sâu, video ngắn chỉ kéo dài vài chục giây, liên tục tự động phát và được thuật toán đề xuất dựa trên sở thích người xem. Trẻ chưa kịp suy nghĩ, kiểm chứng hoặc nhận diện đúng – sai thì đã bị cuốn sang nội dung tiếp theo. "Video ngắn độc hại không cần thuyết phục trẻ rằng điều sai là đúng; nó chỉ cần lặp lại đủ nhiều thì nguy cơ trẻ coi điều sai là bình thường có thể xảy ra", luật sư Nguyễn Sỹ Anh nhận định.

Luật sư Nguyễn Sỹ Anh - Đoàn Luật sư TP.Hà Nội. (Ảnh: NVCC)

Theo luật sư, những video có nội dung chửi bới, làm nhục người khác, cổ súy bạo lực, thử thách nguy hiểm, hành vi phản cảm hoặc lối sống lệch chuẩn thường dễ thu hút sự tò mò và bị bắt chước. Nguy hiểm hơn, nhiều nội dung được ngụy trang dưới hình thức hài hước, giải trí hoặc "bắt trend", khiến trẻ khó nhận biết tác hại.

"Một video ngắn chỉ tồn tại trên màn hình vài chục giây nhưng có thể để lại nhận thức lệch lạc trong một đứa trẻ suốt nhiều năm. Điều đáng sợ không chỉ là trẻ nhìn thấy cái xấu, mà là trẻ bắt đầu xem cái xấu như một cách để nổi tiếng", luật sư Sỹ Anh nói.

Không chỉ vậy, khi video ngắn trở thành phương tiện chuyển tải tin giả, thông tin sai sự thật, tác động không còn chỉ ở việc hình thành những thói quen hay hành vi lệch chuẩn. Cũng theo luật sư Nguyễn Sỹ Anh, thực trạng tin giả, thông tin sai sự thật và nội dung xấu độc trên không gian mạng không còn đơn thuần là vấn đề văn hóa ứng xử mà đã trở thành nguy cơ đối với trật tự xã hội, quyền con người và sự phát triển lành mạnh của thế hệ trẻ.

"Tin giả không chỉ nguy hiểm vì nội dung sai, mà còn bởi nó thường lan truyền nhanh hơn sự thật. Khi thông tin chính xác xuất hiện thì danh dự có thể đã bị tổn hại, đám đông đã bị dẫn dắt và hậu quả ngoài đời thực đã xảy ra." Đặc biệt, trẻ em là nhóm chịu tác động nghiêm trọng. Việc liên tục tiếp xúc với nội dung bạo lực, xúc phạm, thử thách nguy hiểm hoặc cổ súy lối sống lệch chuẩn có thể khiến trẻ dần coi cái xấu là bình thường.

"Nội dung xấu độc không dừng lại trên màn hình. Nó có thể đi vào ngôn ngữ, hành vi và cách một đứa trẻ phân biệt đúng – sai. Một video có thể bị gỡ sau vài giờ, nhưng tổn thương mà nó để lại có thể kéo dài nhiều năm", luật sư Nguyễn Sỹ Anh phân tích.

Không để video độc hại trở thành công cụ kiếm tiền

Từ góc độ pháp lý, luật sư Nguyễn Sỹ Anh cho rằng, người tạo lập, đăng tải hoặc chia sẻ video sai sự thật, xúc phạm, xâm phạm đời tư hay gây tổn hại đến trẻ em đều có thể phải chịu trách nhiệm. Tùy tính chất và hậu quả, người vi phạm có thể bị buộc gỡ bỏ, cải chính, xin lỗi, bồi thường thiệt hại, xử phạt hành chính hoặc truy cứu trách nhiệm hình sự.

Đáng chú ý, phía sau những video ngắn độc hại còn là bài toán về lợi ích kinh tế. Những nội dung gây sốc, gây tranh cãi có thể thu hút lượng lớn lượt xem, tương tác và từ đó mang lại lợi ích cho người sản xuất nội dung cũng như nền tảng.

Theo luật sư Nguyễn Sỹ Anh, cần tăng mạnh việc kiểm soát video ngắn độc hại, nhưng phải kiểm soát hành vi vi phạm chứ không kiểm duyệt tùy tiện những quan điểm khác biệt hợp pháp. Các nền tảng cần xác minh độ tuổi, thiết lập chế độ an toàn mặc định cho trẻ em, hạn chế đề xuất nội dung nguy hiểm, ngừng chia sẻ doanh thu và khóa những tài khoản cố tình tái phạm.

"Chỉ xử phạt người đăng mà bỏ qua thuật toán đang khuếch đại nội dung độc hại thì mới chỉ xử lý một nửa vấn đề. Nền tảng hưởng lợi từ lượt xem phải chịu trách nhiệm tương xứng với tác hại do cơ chế đề xuất của mình gây ra", luật sư Nguyễn Sỹ Anh nêu quan điểm.

Từ video ngắn độc hại đến tin giả AI, Deepfake: Những chiếc bẫy phía sau màn hình. (Ảnh: chụp màn hình./ Theo báo Thanh niên).

Bên cạnh tiền phạt, theo luật sư, cần áp dụng mạnh các biện pháp tước quyền kiếm tiền, buộc hoàn trả lợi ích bất hợp pháp và khóa những kênh cố tình sử dụng nội dung độc hại để trục lợi. "Nếu lợi nhuận từ video vi phạm lớn hơn tiền phạt thì chế tài sẽ bị biến thành chi phí kinh doanh. Muốn đủ sức răn đe, pháp luật phải đánh vào cả túi tiền và khả năng tiếp tục phát tán của người vi phạm."

Trong một môi trường mà video ngắn có thể được tạo ra trong vài phút, AI có thể tạo nên những hình ảnh ngày càng giống thật và thuật toán có khả năng đưa một nội dung đến lượng lớn người xem, việc bảo vệ trẻ em không thể chỉ dừng lại ở lời khuyên "hãy cẩn thận khi lên mạng". Đó phải là trách nhiệm của người sáng tạo nội dung, nền tảng công nghệ và cơ quan quản lý.

"Trẻ em không thể là lớp phòng vệ cuối cùng sau khi gia đình, nhà trường, nền tảng và cơ quan quản lý đều đã để lọt nội dung độc hại. Bảo vệ trẻ trước video ngắn độc hại không phải hạn chế quyền tiếp cận thông tin, mà là bảo vệ quyền được trưởng thành trong một môi trường số an toàn và lành mạnh", luật sư Nguyễn Sỹ Anh nhấn mạnh.