Tin vào AI để đi leo núi: 3 du khách nhận "cú lừa" đau đớn từ Google Gemini, phải gọi cứu hộ giải cứu giữa đêm

Mới đây, văn phòng Cảnh sát trưởng quận Siskiyou (bang California, Mỹ) đã phải cử lực lượng cứu hộ và các nhân viên Kiểm Lâm Mỹ giải cứu khẩn cấp 3 du khách bị mắc kẹt trên ngọn núi Shasta. Điều đáng nói, nguyên nhân dẫn đến sự cố suýt mất mạng này xuất phát từ việc nhóm du khách đã tin tưởng tuyệt đối vào sự tư vấn của Google Gemini.

Theo thông tin từ cơ quan chức năng, nhóm thanh niên này bắt đầu hành trình từ 3 giờ sáng. Dù quy tắc an toàn cơ bản của dân leo núi chuyên nghiệp bắt buộc phải quay đầu xuống núi trước 12 giờ trưa, nhưng nhóm du khách này đã lờ đi và tiếp tục chinh phục đỉnh núi cho tới tận 7 giờ tối. Khi đêm xuống, việc xuống núi trong điều kiện bóng tối dày đặc khiến họ bị mất phương hướng. Một thành viên trong nhóm đã gặp chấn thương ở đầu gối và buộc cả nhóm mắc kẹt và qua đêm trong giá lạnh tại khu vực hẻm núi Mud Creek.

Sau khi tiếp nhận cuộc gọi khẩn cấp, đội cứu hộ đã phải mất nhiều giờ làm việc trong đêm để đưa cả 3 người trở về an toàn.

Nhóm du khách được giải cứu sau khi sử dụng Google Gemini để lên kế hoạch. (Ảnh: Yahoo)

Trả lời lực lượng chức năng sau khi được giải cứu, các du khách thừa nhận họ đã dùng Google Gemini để tìm hiểu tuyến đường và lên danh sách các vật dụng cần mang theo. AI Gemini đã tư vấn cho nhóm du khách mang theo lượng thức ăn và nước uống ít hơn rất nhiều so với nhu cầu thực tế của một hành trình leo núi khắc nghiệt. Khi chuyến đi kéo dài từ 8 tiếng ban đầu biến thành một cuộc chiến sinh tồn trong rừng sâu, sự thiếu hụt lương thực trầm trọng đã đẩy nhóm vào tình cảnh kiệt sức.

“AI có xu hướng đưa ra những thông tin mang tính chiều lòng người dùng, tạo cho bạn cảm giác mình bất khả chiến bại. Điều này cực kỳ nguy hiểm trong các tình huống sinh tồn khắc nghiệt giữa thiên nhiên hoang dã. Trí tuệ nhân tạo có thể là một công cụ tham khảo tốt, nhưng tuyệt đối không phải là một chuyên gia để bạn giao phó sự an toàn của bản thân. Hãy luôn tham khảo ý kiến từ những con người thực tế”. Cảnh sát trưởng Jeremiah Larue, đại diện Văn phòng Cảnh sát quận Siskiyou cảnh báo.

Sự cố của 3 du khách Mỹ tại núi Shasta không phải là hiếm. Khảo sát từ AIPRM cho thấy có tới khoảng 40% khách du lịch hiện nay đang sử dụng các công cụ AI để lập kế hoạch di chuyển, tìm kiếm tuyến đường hay lên lộ trình du lịch.

Bất chấp việc các công ty công nghệ như Google hay OpenAI luôn đặt các dòng cảnh báo miễn trừ trách nhiệm như “Gemini / ChatGPT có thể đưa ra thông tin sai lệch, hãy kiểm tra lại thông tin quan trọng” phần lớn người dùng vẫn vô tư tuân theo các chỉ dẫn này một cách cảm tính.

Sự việc một lần nữa đặt ra lời cảnh tỉnh nghiêm khắc, trí tuệ nhân tạo dù mạnh đến đâu cũng không thể thay thế con người ở khả năng nhận thức tình hình thực tế và trực giác về các mối nguy hiểm thể chất. Đối với những chuyến phiêu lưu sinh tồn hay các quyết định tài chính, sức khỏe quan trọng, việc nhắm mắt tin vào thuật toán thay vì chuyên gia vẫn là một “canh bạc” vô cùng rủi ro./

Thiên Minh