Khởi nghiệp "độc lạ": Khi startup đưa AI giả vờ làm nạn nhân để giăng bẫy kẻ lừa đảo

Trong khi phần lớn các doanh nghiệp đang ứng dụng trợ lý AI để tối ưu hóa quy trình làm việc hay tăng tốc độ sản xuất, một startup công nghệ lại có hướng đi táo bạo hơn hẳn, đưa AI đi "nằm vùng" để giả vờ bị lừa đảo.

Được thành lập dựa trên các nghiên cứu chuyên sâu tại Đại học Macquarie (Sydney, Australia), startup có tên Apate đang triển khai hàng nghìn tác nhân (agent) AI đóng giả làm những nạn nhân ngây thơ. Nhiệm vụ của đội quân AI này là nhấc máy nghe điện thoại từ kẻ gian, phản hồi các tin nhắn và email mờ ám, bấm vào các đường link lừa đảo độc hại, thậm chí tham gia các hội nhóm mạng xã hội để câu dẫn tội phạm mạng.

Khi trợ lý AI biến thành "con mồi" hoàn hảo

Những tác nhân AI (agent) của Apate được lập trình để hóa thân thành nhiều kiểu người khác nhau, đa dạng từ độ tuổi, giới tính, vùng miền cho đến việc sử dụng thành thạo nhiều ngôn ngữ trên thế giới. Với mục tiêu quan trọng nhất là kéo dài cuộc trò chuyện với kẻ lừa đảo càng lâu càng tốt để thu thập những thông tin hữu ích.

Tính đến nay, biệt đội tác nhân AI của Apate đã thành công làm tiêu tốn 17 năm thời gian của bọn tội phạm thông qua hơn 2,5 triệu cuộc trò chuyện kéo dài.

Điều này đang mang lại giá trị vô cùng thiết thực cho các khách hàng doanh nghiệp của Apate, bao gồm các ngân hàng lớn, các công ty viễn thông, cơ quan chính phủ và các đơn vị cung cấp dịch vụ công ích. Thay vì phải thụ động chờ đợi đến khi nạn nhân thực sự mất tiền rồi mới tìm cách khắc phục hậu quả, hệ thống AI ngầm của Apate chủ động bẫy và ép kẻ lừa đảo phải tự nguyện lộ hàng loạt các thông tin nhạy cảm - những dữ liệu vốn chỉ thường xuất hiện sau khi vụ lừa đảo đã hoàn tất và thường là quá muộn để có thể ngăn chặn được.

 - Ảnh 1.

Nhà sáng lập kiêm CEO Dali Kaafar và đội ngũ của Apate (Ảnh: Tech Crunch)

Cụ thể, đội ngũ trợ lý AI thông minh này có khả năng moi ra từ bọn tội phạm mạng các dữ liệu quan trọng như số tài khoản ngân hàng và các địa chỉ ví tiền mã hóa (crypto) mà chúng dùng để nhận tiền phi pháp. Bên cạnh đó, hệ thống còn thu thập chính xác các số điện thoại liên lạc, danh sách những trang web độc hại do chúng trực tiếp kiểm soát, cũng như xác định rõ những thương hiệu lớn đang bị chúng giả mạo để trục lợi bất chính từ người dùng.

Ý tưởng khởi nguồn từ một cuộc gọi lừa đảo kéo dài 44 phút

Ý tưởng kỳ lạ này thực chất bắt nguồn từ một trải nghiệm cá nhân của nhà sáng lập kiêm CEO Apate, Dali Kaafar. Vài năm trước, khi đang tham gia buổi dã ngoại cùng gia đình, ông nhận được một cuộc gọi từ số lạ. Nhận ra đó là một kẻ lừa đảo, ông quyết định "giả ngốc" để mua vui cho các con và cố gắng duy trì cuộc gọi suốt... 44 phút.

Dù mọi người bật cười sảng khoái sau đó, Kaafar lại nhận ra một khía cạnh nghiêm túc. Đó là giá trị của 44 phút mà kẻ lừa đảo không thể đi quấy rố thêm những nạn nhân thực sự ngoài kia. Đồng thời, đó cũng là khoảng thời gian vô nghĩa của kẻ gian. Điều này khiến ông đặt ra một câu hỏi: Liệu mình có thể tự động hóa quy trình này, và nhân tiện thu thập thêm những thông tin tình báo hữu ích?

"Phần lớn ngành công nghiệp phòng chống gian lận hiện nay luôn đi sau thời sự. Các nhà mạng chặn số, nhưng bọn lừa đảo chỉ việc mua số mới. Ngân hàng giám sát giao dịch, nhưng đến lúc đó tiền đã bay vào túi chúng. Chúng tôi chọn cách tiếp cận trực tiếp với kẻ lừa đảo và bóc mẽ chúng trước khi bất kỳ ai bị tổn thương," Brad Joffe, Đồng sáng lập kiêm Giám đốc Thương mại của Apate, chia sẻ với TechCrunch.

Khoản đầu tư mạo hiểm cho "nghệ thuật lừa đảo kẻ lừa đảo"

Để vận hành hệ thống, Apate kết hợp giữa các mô hình ngôn ngữ lớn tiên tiến và các mô hình tự tinh chỉnh riêng dựa trên kho dữ liệu trò chuyện thực tế với tội phạm mạng. Khách hàng sử dụng dịch vụ không chỉ tiếp cận đội ngũ AI nằm vùng mà còn được cung cấp một cổng thông tin phân tích chuyên sâu để nắm bắt các xu hướng lừa đảo đang nhắm vào nhân viên, thương hiệu hoặc người dùng cuối của họ.

Sức hút từ mô hình độc đáo này đã thu hút sự chú ý của các quỹ đầu tư mạo hiểm. Vào tháng 8, Apate đã huy động thành công 8,15 triệu USD trong vòng gọi vốn hạt giống (seed funding) từ các quỹ Lobby Capital, OIF Ventures, Investible, Concept Ventures và Baobab Ventures, nâng tổng số vốn huy động lên gần 10 triệu USD.

Công ty hiện đang sử dụng nguồn vốn này để mở rộng thị trường quốc tế, mở văn phòng tại London và tăng cường sự hiện diện tại thị trường Mỹ.

Chia sẻ về cái tên đầy thú vị của công ty - Apate (được đặt theo tên vị thần lừa dối trong thần thoại Hy Lạp), Joffe hào hứng kể rằng trong tài liệu thuyết trình gọi vốn của họ, công ty thậm chí còn lưu lại cả những câu chửi thề của bọn lừa đảo khi chúng phát hiện ra mình đang bị các tác nhân AI "xỏ mũi":

"Chúng tôi coi những lời chửi rủa đó là dấu hiệu của sự bất lực và tức giận, và mọi tiếng chửi đều được anh em ở Apate hoan hỉ ăn mừng. Chúng tôi có lẽ là một trong số ít doanh nghiệp trên thế giới vui mừng khi có người chửi sản phẩm của mình!".

Thiên Minh

Link nội dung: https://www.phunuvathoidaivn.com/khoi-nghiep-doc-la-khi-startup-dua-ai-gia-vo-lam-nan-nhan-de-giang-bay-ke-lua-dao-a220651.html