Cựu nhà nghiên cứu OpenAI và Anthropic bỏ việc: Có hơn 10% khả năng AI tiêu diệt chúng ta trong thập kỷ tới

Một nhà nghiên cứu AI từng làm việc tại cả OpenAI và Anthropic vừa từ chức, với cảnh báo rằng cuộc đua phát triển trí tuệ nhân tạo đang diễn ra quá nhanh và có thể đẩy nhân loại vào một rủi ro chưa từng có.

Jacob Coxon, 27 tuổi, cho biết anh rời Anthropic vì tin rằng các công ty AI đang “đánh cược với mạng sống của chúng ta”. Trong loạt bài đăng trên X, anh cảnh báo những người đang phát triển AI thực sự tin rằng công nghệ này có thể “giết chết tất cả chúng ta” ngay trong thập kỷ này.

Coxon cho rằng công chúng đang đánh giá thấp tốc độ phát triển của AI. Theo anh, các hệ thống trong tương lai gần có thể vượt con người ở nhiều lĩnh vực, có khả năng tấn công hệ thống máy tính, nhanh chóng tạo ra những thay đổi lớn trong nhiều ngành và tự giành được quyền lực cũng như nguồn lực.

Jacob Coxon, nhà cựu nghiên cứu AI của cả OpenAI và Anthropic

Điều khiến những cảnh báo này đặc biệt đáng chú ý là Coxon không phải người ngoài cuộc. anh từng làm việc tại OpenAI trước khi chuyển sang Anthropic, hai trong số những công ty đang dẫn đầu cuộc đua phát triển các mô hình AI tiên tiến.

Nhà nghiên cứu Anthropic: Khả năng AI giết toàn bộ nhân loại là hơn 10%

Cảnh báo của Coxon nhanh chóng nhận được sự đồng tình từ Evan Hubinger, một trong những nhà nghiên cứu hàng đầu về AI alignment tại Anthropic.

Ông Hubinger thẳng thắn viết rằng Coxon “đúng” khi nói những người xây dựng AI thực sự tin công nghệ này có thể giết chết toàn bộ nhân loại. Cá nhân anh ước tính khả năng đó cao hơn 10% trong thập kỷ tới.

Bài đăng cảnh báo của Evan Hubinger, đồng nghiệp cũ của Jacob tại Anthropic

Đây không phải một dự đoán chắc chắn mà là đánh giá rủi ro của một nhà nghiên cứu. Nhưng điều đáng chú ý nằm ở chính mức độ nghiêm trọng của nó: một người đang nghiên cứu cách khiến AI tuân thủ mục tiêu và giá trị của con người lại thừa nhận rằng ngành này hiện chưa có kế hoạch đủ tốt để kiểm soát một hệ thống AI siêu thông minh.

Ông Hubinger cho biết Anthropic đang cố gắng giải quyết vấn đề, nhưng công ty “chưa có kế hoạch” để xử lý alignment đối với siêu trí tuệ và cũng chưa đi đúng hướng để chắc chắn giải quyết được vấn đề này.

Ông sau đó nhấn mạnh rằng rủi ro từ các mô hình AI hiện tại vẫn thấp. Điều anh lo ngại là những hệ thống có khả năng tự cải thiện, tức AI có thể tự thiết kế và phát triển phiên bản kế tiếp của chính mình mà không cần con người can thiệp.

Khả năng này hiện vẫn chưa trở thành hiện thực, nhưng các nhà nghiên cứu lo ngại nó có thể khiến tốc độ phát triển AI tăng vọt và con người ngày càng khó kiểm soát hệ thống.

Cuộc đua mà chính người trong cuộc cũng lo sợ

Những cảnh báo trên xuất hiện trong lúc OpenAI và Anthropic vẫn đang tăng tốc phát triển các mô hình AI ngày càng mạnh.

Bài đăng chỉ trích sự vô trách nhiệm của các công ty phát triển AI khi bỏ qua nguy cơ để chạy đua công nghệ

Đây chính là nghịch lý lớn nhất của cuộc đua AI hiện nay: những người xây dựng công nghệ cũng cảnh báo về những rủi ro mà chính công nghệ của họ có thể tạo ra, nhưng các công ty vẫn tiếp tục chạy đua.

Coxon cho rằng ngành AI đang tiến thẳng tới “siêu trí tuệ có khả năng tự cải thiện”, trong khi chưa có một hệ thống an toàn đủ mạnh để bảo đảm con người vẫn kiểm soát được chúng.

Một số nhà nghiên cứu khác cũng chia sẻ lo ngại này. Steven Adler, đồng sáng lập tổ chức phi lợi nhuận Guidelight AI Standards và từng là nhà nghiên cứu an toàn tại OpenAI, cho rằng những cảnh báo từ người trong cuộc càng củng cố lập luận rằng ngành AI cần tạm dừng để đánh giá lại mức độ an toàn.

Trước đó, khoảng 1.400 nhà nghiên cứu AI đã ký một thư ngỏ kêu gọi chính phủ Mỹ xây dựng các công cụ cần thiết để chủ động kiểm soát tốc độ phát triển của AI tiên tiến.

Chính các công ty AI cũng từng cảnh báo về nguy cơ này

Lo ngại AI có thể gây ra thảm họa cho nhân loại không phải là một ý tưởng mới. Năm 2023, nhiều nhà nghiên cứu và lãnh đạo ngành AI, trong đó có CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei, từng ký tuyên bố rằng giảm thiểu nguy cơ tuyệt chủng do AI nên trở thành một ưu tiên toàn cầu, ngang với những rủi ro quy mô xã hội như đại dịch và chiến tranh hạt nhân.

OpenAI cũng không đứng ngoài những cảnh báo mới nhất. Nhà khoa học trưởng Jakub Pachocki gần đây thừa nhận chưa có công ty AI nào giải quyết vấn đề alignment và giám sát ở mức đủ để có thể tiếp tục mở rộng năng lực AI với tốc độ tối đa trong thời gian dài một cách có trách nhiệm.

Ông kêu gọi các công ty tự nguyện giảm tốc cho tới khi ngành này thiết lập được những tiêu chuẩn an toàn chung, đồng thời cho rằng các chính phủ trên thế giới cần phối hợp quốc tế về phát triển AI trong tương lai.

Trong khi đó, tại Mỹ, một số nghị sĩ đã bắt đầu thúc đẩy các dự luật nhằm kiểm soát sự phát triển và triển khai những hệ thống AI tiên tiến. Tuy nhiên, hiện vẫn chưa có sự đồng thuận rõ ràng về việc ngành này nên được quản lý như thế nào.

Coxon cho rằng vấn đề lớn nhất là ngành AI đang bước vào một cuộc đua mà không bên nào muốn giảm tốc vì lo ngại đối thủ sẽ vượt lên. Nhưng nếu những người trực tiếp xây dựng các hệ thống này cũng cho rằng chúng có khả năng gây ra thảm họa cho nhân loại, câu hỏi đặt ra là liệu tốc độ phát triển hiện nay có đáng để đánh đổi với mức rủi ro đó hay không.

Và đáng lo hơn cả, những người đưa ra cảnh báo này không phải những người đứng ngoài cuộc. Họ chính là những người từng trực tiếp tham gia xây dựng các hệ thống AI đang ngày càng mạnh hơn.

Theo Nguyễn Hải