Nguyên nhân cốt lõi của tình trạng này xuất phát từ cấu trúc thuật toán đề xuất nội dung vốn được tối ưu để tối đa hóa thời gian tương tác của người dùng, nhưng cũng vô tình trở thành động lực then chốt đẩy nội dung tiêu cực lan truyền, dẫn đến những án phạt tài chính trên toàn cầu cho những công ty đứng sau nền tảng.
Cơ chế lan truyền dựa trên sự xung đột
Nguyên lý cơ bản của các mạng xã hội hiện đại không dừng lại ở việc lưu trữ thụ động, mà đóng vai trò điều phối thông tin thông qua hệ thống thuật toán phức tạp. Việc kinh doanh của nền tảng trực tuyến dựa trên quảng cáo đòi hỏi giữ chân người dùng càng lâu càng tốt, và các dữ liệu nghiên cứu đã chỉ ra nội dung mang tính đối nghịch thường đạt hiệu quả kích thích phản xạ cao nhất.
Một nghiên cứu được công bố trên Kỷ yếu Viện Hàn lâm Khoa học Quốc gia Mỹ (PNAS) sau khi phân tích hành vi của 715 người dùng mạng xã hội X (Twitter cũ) xác định thuật toán phân phối nội dung có xu hướng ưu tiên hiển thị những bài viết xung đột trực tiếp với hệ giá trị của người dùng.
Một tương tác “Phẫn nộ” được chấm điểm cao hơn so với “Thích”.
Nguyên nhân nằm ở cách thức chấm điểm tương tác. Người dùng mạng xã hội thường có phản xạ nhấn “Thích” đối với những nội dung đồng quan điểm, nhưng lại có xu hướng tranh luận gay gắt trước những bài đăng mà họ phản đối. Thuật toán của nền tảng ghi nhận các phản hồi này là tín hiệu quan tâm có giá trị vượt trội so với lượt thích thông thường. Do đó, hệ thống tiếp tục tăng cường cung cấp nội dung gây bất đồng quan điểm, tạo ra một vòng lặp khuếch đại sự mâu thuẫn để thu hút tương tác.
Cơ chế này cũng được phản ánh trong loạt phóng sự điều tra “The Facebook Files” (Hồ sơ Facebook) do các phóng viên của tờ The Wall Street Journal thực hiện vào năm 2021, dựa trên tài liệu nội bộ do cựu kỹ sư Frances Haugen cung cấp. Tài liệu tiết lộ công thức tính toán “Tương tác xã hội có ý nghĩa” (MSI) do Facebook triển khai từ năm 2018 đã gán trọng số điểm tương tác rất chênh lệch cho từng hành vi. Theo đó, 1 lượt thích chỉ tương đương 1 điểm, nhưng 1 lượt chia sẻ hoặc bình luận được tính tới 5 điểm, và các bình luận dài hoặc trao đổi qua lại có thể nhận tới 30 điểm.
Đáng chú ý, biểu tượng cảm xúc “Phẫn nộ” được chấm tới 5 điểm, cao gấp 5 lần so với biểu tượng “Thích” thông thường. Việc gán giá trị cao cho các phản ứng giận dữ đã trực tiếp thúc đẩy những bài viết giật gân, phân cực chính trị và tin tức sai sự thật lan truyền rộng rãi hơn thông tin trung tính.
Cơ chế tương tự cũng vận hành trên nền tảng video ngắn như TikTok hay YouTube Shorts. Tài liệu kỹ thuật “TikTok Algo 101” cùng các khảo sát độc lập của The Wall Street Journal chỉ ra biến số quan trọng hàng đầu trong công thức đề xuất nội dung là thời gian người dùng dừng lại xem video. Ngay cả khi người dùng không chủ động tương tác bằng nút bấm, việc ngập ngừng theo dõi nội dung u buồn hay kích động cũng đủ để thuật toán nhận diện và liên tục đưa họ vào những “vùng nội dung chuyên biệt” với mức độ tiêu cực tăng dần.
Giới hạn của hệ thống rà quét
Để đối phó với dòng thông tin độc hại, các nền tảng mạng xã hội đang vận hành cơ chế phòng vệ hai lớp: kết hợp giữa bộ lọc trí tuệ nhân tạo (AI) quét tự động theo thời gian thực và đội ngũ kiểm duyệt viên con người.
Người dùng dễ bị cuốn vào vòng xoáy thông tin trên mạng xã hội do sự điều phối nội dung từ thuật toán nhằm giữ chân họ ở lại nền tảng càng lâu càng tốt.
Theo báo cáo mang tên “Mạng xã hội, thông tin sai lệch và các thuật toán độc hại” (Social media, misinformation and harmful algorithms) do Ủy ban Khoa học, Đổi mới và Công nghệ thuộc Hạ viện Anh công bố vào tháng 7/2025, các tập đoàn công nghệ lớn khẳng định tỷ lệ phát hiện tự động đạt mức rất cao. Meta cho biết hệ thống tự động đã gỡ bỏ 99% trong tổng số 8,2 triệu nội dung khủng bố trước khi nhận được phản ánh từ người dùng; TikTok thông báo loại bỏ 98,2% nội dung vi phạm thông qua phương thức tự động; và YouTube ghi nhận 96% video bị gỡ bỏ được phát hiện đầu tiên bởi thuật toán phân loại.
Tuy vậy, báo cáo của cơ quan lập pháp Anh nhấn mạnh thực trạng mạng xã hội đang ở tình thế “tự chấm điểm”. Cụ thể, toàn bộ dữ liệu hiệu quả kiểm duyệt đều do nội bộ doanh nghiệp cung cấp, thiếu cơ chế kiểm toán độc lập đối với mã nguồn thuật toán. Báo cáo dẫn chứng vụ bạo loạn xảy ra tại Southport (Anh) vào mùa hè năm 2024, khi thông tin bịa đặt về danh tính một nghi phạm đã nhanh chóng đạt 155 triệu lượt hiển thị trên mạng xã hội X và tự động lọt vào danh sách tìm kiếm xu hướng trên TikTok cũng như X trước khi các biện pháp can thiệp kỹ thuật kịp phát huy tác dụng.
Về phương thức kiểm chứng nội dung sai lệch, thị trường đang chứng kiến sự phân hóa. Một số nền tảng lựa chọn hợp tác với những tổ chức kiểm chứng độc lập bên thứ ba thuộc Mạng lưới Kiểm chứng Quốc tế (IFCN) để dán nhãn hoặc giảm thứ hạng bài viết. Ngược lại, một số đơn vị chuyển dịch sang mô hình ghi chú cộng đồng dựa vào sự đồng thuận của người dùng để bổ sung ngữ cảnh cho quá trình kiểm duyệt. Dù có khả năng mở rộng nhanh với chi phí thấp, các chuyên gia cảnh báo cơ chế này dễ bị chi phối bởi quy luật số đông và thường có độ trễ lớn trước các chiến dịch thông tin giả có chủ đích.
Làn sóng siết chặt quản lý
Trước những hệ lụy kéo dài đối với trật tự công cộng và đặc biệt là sức khỏe tinh thần của người vị thành niên, các cơ quan quản lý nhà nước trên toàn cầu đã từ bỏ dần quan điểm xem mạng xã hội là “bên trung gian kỹ thuật vô can”.
Sự chuyển dịch pháp lý rõ nét nhất thể hiện qua các vụ kiện và phán quyết trách nhiệm tại Mỹ. Tháng 8/2026, Meta đã chấp thuận chi trả khoản tiền dàn xếp kỷ lục lên tới 17 tỷ USD với liên minh gồm nhiều bang tại Mỹ nhằm khép lại vụ kiện dân sự quy mô lớn cáo buộc tập đoàn này cố ý thiết kế thuật toán gây nghiện, giấu giếm nghiên cứu nội bộ và gây tổn hại nghiêm trọng đến tâm lý của thanh thiếu niên trên Facebook và Instagram.
Song song đó, tòa án cấp bang như New Mexico cũng liên tục đưa ra phán quyết xác định trách nhiệm dân sự đối với Meta vì vi phạm luật bảo vệ người tiêu dùng trẻ em với các mức bồi thường hàng trăm triệu USD.
Các chính phủ toàn cầu ngày càng siết chặt việc quản lý mạng xã hội.
Không riêng Meta, nền tảng khác cũng đối mặt với chế tài pháp lý nghiêm khắc. TikTok đã phải đạt thỏa thuận dàn xếp trị giá 400 triệu USD với Bộ Tư pháp Mỹ và 100 triệu USD với bang Alabama vì liên quan đến cáo buộc vi phạm quyền riêng tư, thiếu biện pháp bảo vệ trẻ vị thành niên. TikTok cũng phải chấp nhận nộp phạt cho cơ quan giám sát dữ liệu Anh (ICO) vì các vi phạm tương tự.
Tại châu Âu, Đạo luật Dịch vụ Kỹ thuật số (DSA) của Liên minh châu Âu và Đạo luật An toàn Trực tuyến (OSA) của Anh đang từng bước buộc các hãng công nghệ phải mở dữ liệu thuật toán cho những nhà khoa học độc lập đánh giá rủi ro hệ thống.
Thay vì chỉ kiểm tra từng nội dung riêng lẻ sau khi đã phát tán, trọng tâm điều chỉnh pháp luật hiện nay chuyển sang yêu cầu công ty công nghệ phải chịu trách nhiệm trực tiếp từ khâu thiết kế sản phẩm, trao cho người dùng quyền thiết lập lại dữ liệu đề xuất và áp dụng khung phạt tính theo tỷ lệ phần trăm doanh thu toàn cầu nếu để thuật toán tự động khuếch đại các hiểm họa số.