Đưa AI vào trường tiểu học: Cần xây dựng "hàng rào an toàn" để bảo vệ trẻ em

Ngày 26/9, tại Hà Nội, Bộ Khoa học và Công nghệ (KH&CN) tổ chức họp báo thường kỳ tháng 9. 

Không đặt mục tiêu biến học sinh thành "các kỹ sư nhí"

Thông tin tại buổi họp báo, Bộ KH&CN cho biết nhiệm vụ trọng tâm trong tháng 10 của Bộ là sẽ tập trung tiếp thu, giải trình ý kiến của Ủy ban Thường vụ Quốc hội, hoàn thiện 4 dự án Luật: Luật sửa đổi Luật Công nghệ cao; Luật sửa đổi, bổ sung một số điều của Luật Chuyển giao công nghệ; Luật sửa đổi, bổ sung một số điều của Luật Sở hữu trí tuệ; Luật Chuyển đổi số; bảo đảm tiến độ trình Quốc hội xem xét, thông qua tại Kỳ họp thứ 10 Quốc hội khóa XV. 

Đồng thời, Bộ KH&CN đang xây dựng, trình Chính phủ để trình Quốc hội dự án Luật Trí tuệ nhân tạo.

Đẩy nhanh xây dựng, hoàn thiện, trình Chính phủ các Nghị định hướng dẫn thi hành 4 Luật vừa được Quốc hội thông qua tại Kỳ họp thứ 9 Quốc hội khóa XV.

Tại họp báo, báo chí đặt câu hỏi: Thủ tướng Chính phủ đã chỉ đạo nghiên cứu đưa trí tuệ nhân tạo vào giảng dạy ngay từ bậc tiểu học. Bộ Khoa học và Công nghệ có giải pháp, khuyến nghị gì để việc đưa AI vào tiểu học thực sự khả thi? Từ kinh nghiệm quốc tế, Bộ có thể chia sẻ mô hình hoặc bài học nào Việt Nam nên tham khảo khi triển khai?

Ông Hồ Đức Thắng - Viện trưởng Viện Công nghệ số và Chuyển đổi số Quốc gia thông tin tại họp báo.

Trả lời nội dung này, ông Hồ Đức Thắng - Viện trưởng Viện Công nghệ số và Chuyển đổi số Quốc gia nhấn mạnh, trí tuệ nhân tạo là một trong những công nghệ chiến lược nhất mà ngay trong các dự thảo về chuyển đổi số mà Bộ đang trình đều coi là nhiệm vụ quan trọng. 

Trong đó, nhiệm vụ quan trọng là phổ cập toàn dân, toàn diện, đặc biệt là đưa AI vào các cấp giáo dục, không chỉ riêng tiểu học.

Khi đưa AI vào cấp tiểu học có một số điểm cần quan tâm: Mục tiêu đưa vào là gì? Các em học sinh tiểu học còn rất trẻ.

"Do đó, không thể đặt mục tiêu biến học sinh thành "các kỹ sư nhí" mà cần đặt "hàng rào an toàn" để bảo vệ các em. Quan điểm của tôi là không thể để cho các em tự do sử dụng  ChatGPT được, các em chưa thể có bộ lọc được", ông Thắng nói.

Theo ông Thắng, tất cả AI đưa vào hệ thống giáo dục tiểu học cần được coi đó là rủi ro cao, cần có danh mục kiểm duyệt hết sức kỹ càng trước khi đưa vào giảng dạy. Qua đó, đảm bảo tất cả các vấn đề về an toàn, đạo đức ở mức cao nhất.

Song bên cạnh đó, ông Thắng cũng cho rằng, thay vì tập trung vào học sinh, cần tập trung vào các thầy cô - những người sẽ sử dụng AI tạo ra bài giảng hiệu quả, gần gũi và đúng hơn.

Kinh nghiệm quốc tế cũng đưa ra nhiều bài học đáng giá cho Việt Nam. Chẳng hạn, Singapore triển khai các module ngắn, giúp học sinh hiểu khái niệm AI an toàn và có trách nhiệm; Estonia tập trung vào giáo viên; Hàn Quốc từng thay sách giáo khoa quá sớm bằng ứng dụng số nhưng không hiệu quả.

"Triển khai AI mà không đồng bộ hạ tầng sẽ gây ra sự bất bình đẳng, như trẻ em thành phố sử dụng được mà ở vùng sâu, vùng xa không tiếp cận được", ông Thắng chia sẻ và nhấn mạnh việc đưa AI vào giáo dục tiểu học là cần thiết, nhưng cần phải có chọn lọc, có mục tiêu rõ ràng và cần triển khai thí điểm sau đó mới nhân rộng.

Quản lý rủi ro và thúc đẩy sự phát triển của AI

Trả lời thêm câu hỏi, Luật AI quy định như thế nào để đảm bảo an ninh mạng là cấu phần mặc định từ khâu thiết kế, vận hành và kiểm soát AI. Cần làm gì để khuyến khích đổi mới sáng tạo, vừa đủ chặt chẽ để ngăn ngừa nguy cơ lạm dụng AI phạm tội mạng?

Ông Thắng thông tin thêm, Việt Nam đang nghiên cứu xây dựng Luật AI, nhưng trên thế giới chưa có nhiều quốc gia ban hành. Hiện mới chỉ có Châu Âu, Hàn Quốc và Nhật Bản.

Viện trưởng Viện Công nghệ số và Chuyển đổi số Quốc gia cho biết, AI có hai mặt tốt và xấu, về rủi ro không chỉ có an ninh mạng mà gồm cả câu chuyện liên quan đến đạo đức và bình đẳng.

Hiện nay, các luật đều hướng tới quản lý rủi ro mà công nghệ này gây ra và thúc đẩy sự phát triển của AI.

Quang cảnh họp báo.

Việc quản lý rủi ro và cả an ninh mạng gồm 3 lớp. Lớp thứ nhất cần phần loại mức độ rủi ro là sẽ quản lý AI ở mức độ như thế nào, thông thường chỉ những loại AI mang tính rủi ro cao mới cần phải tập trung, ví dụ: AI trong dịch vụ công, hay y tế, giáo dục…

Khi đã phân loại rủi ro cao, thì có quy trình và phải ngay từ trong khâu thiết kế, vận hành phải yêu cầu đảm bảo từ dữ liệu sạch, đạo đức, không được ảnh hưởng tới quyền con người.

Cùng với đó, trong quá trình vận hành phải có hoạt động giám sát và phát hiện, đồng thời có yêu cầu mang tính yêu cầu kỹ thuật với các hệ thống.

Đặc biệt là chế tài xử phạt nghiêm khắc, ví dụ như châu Âu có thể áp dụng tới 35 triệu euro đối với những hành vi vi phạm luật pháp về AI, nhằm răn đe với các hành vi sử dụng AI vào mục đích xấu.

Theo ông Thắng, Luật AI nên theo ba lớp đã nêu trên, phân loại rủi ro, quy trình kiểm nghiệm ngay từ khâu đề xuất đến vận hành và có chế tài xử phạt nghiêm khắc có tính răn đe, bảo đảm việc phòng chống rủi ro, an ninh mạng.

Thông tin thêm, Thứ trưởng Bộ KH&CN Bùi Hoàng Phương khẳng định AI là đột phá nhưng công nghệ rất mới, hiện chưa có nhiều quốc gia ban hành Luật về AI. Hiện nay, Bộ KH&CN đang chuẩn bị xây dựng Luật AI. Về dữ liệu và an toàn an ninh mạng thuộc phạm vi quản lý Nhà nước của Bộ Công an, trong quá trình thực hiện Bộ Khoa học và Công nghệ sẽ trao đổi với Bộ Công an để triển khai nội dung này.