Thông báo này được đưa ra trong bối cảnh các nhà lập pháp Mỹ bày tỏ quan ngại về mức độ an toàn và những tương tác không phù hợp.
Theo đại diện Meta, các chatbot AI của tập đoàn sẽ được huấn luyện để không phản hồi về các chủ đề nhạy cảm như tự gây hại, tự tử, rối loạn ăn uống, cũng như tránh những cuộc trò chuyện mang tính lãng mạn hoặc gợi cảm với người dùng ở độ tuổi vị thành niên. Thay vào đó, hệ thống sẽ chuyển hướng người dùng tới nguồn thông tin chuyên môn và hỗ trợ phù hợp.
"Cùng với sự phát triển của cộng đồng và công nghệ, chúng tôi không ngừng tìm hiểu cách giới trẻ tương tác với các công cụ này và củng cố cơ chế bảo vệ tương ứng" - Meta nêu trong thông cáo.
Bên cạnh đó, người dùng thanh thiếu niên trên Facebook và Instagram chỉ có thể truy cập một số chatbot được thiết kế với mục đích giáo dục và phát triển kỹ năng.
Meta cho biết chưa xác định thời hạn áp dụng của những thay đổi tạm thời này, song việc triển khai sẽ bắt đầu trong vài tuần tới trên các ứng dụng của công ty tại các quốc gia nói tiếng Anh. Động thái được gọi là "biện pháp chuyển tiếp", nằm trong lộ trình bảo đảm an toàn dài hạn cho người dùng trẻ.
Thông tin được công bố sau khi Thượng nghị sĩ Josh Hawley (Cộng hòa, bang Missouri) khởi động cuộc điều tra nhằm vào Meta. Trước đó, một báo cáo của Reuters cho thấy chatbot của công ty đã cho phép thực hiện các cuộc trò chuyện mang tính "lãng mạn" hoặc "gợi cảm" với trẻ em và thanh thiếu niên.
Meta tăng tốc phát triển AI
Trong báo cáo mới nhất từ phía Axios, nhân sự mảng trí tuệ nhân tạo của Meta sẽ thuộc một trong hai nhóm: nhóm AI Products (Sản phẩm AI) và AGI Foundations (Nền tảng trí tuệ nhân tạo tổng quát).
Nhóm AI Products chịu trách nhiệm phát triển các công cụ và tính năng hướng đến người dùng, như: trợ lý chatbot, hệ thống gợi ý nội dung, và ứng dụng AI độc lập,... mà công ty đang phát triển hiện tại. Mục tiêu của nhóm là biến các ý tưởng AI thành công cụ thực tế hữu ích cho người dùng. Dù là trò chuyện với bạn bè, chia sẻ ảnh, hay nhận hỗ trợ từ trợ lý ảo, nhóm AI Products sẽ đảm nhận việc cải thiện những trải nghiệm này.
Trong khi đó, nhóm AGI Foundations sẽ phụ trách việc nâng cấp và phát triển các mô hình AI cốt lõi, đặc biệt là dòng mô hình Llama vốn là trung tâm của nỗ lực AI tạo sinh của Meta.
AGI Foundations cũng sẽ dẫn dắt các dự án dài hạn, có thể chưa ảnh hưởng ngay đến các ứng dụng hiện tại, nhưng đóng vai trò then chốt để Meta duy trì vị thế trong lĩnh vực AI.
