Báo cáo Mối đe dọa từ AI (2025) (2): Các công cụ Dark AI xuất hiện trong giới tội phạm mạng ngầm

Các công cụ Dark AI là các phiên bản Jailbreak – “vượt ngục” của các công cụ GenAI công khai như ChatGPT hoặc LLM mã nguồn mở không có rào cản bảo vệ, được tội phạm mạng sử dụng để dàn dựng các cuộc tấn công mạng của chúng. Các công cụ này cho phép các tác nhân đe dọa thực hiện các hoạt động bất hợp pháp, từ tạo mã độc hại, tạo mẫu lừa đảo và khai thác các lỗ hổng mới. Những công cụ AI độc hại này làm giảm chi phí và rào cản kỹ năng để gia nhập hệ sinh thái tội phạm mạng. Điều này cho phép các tác nhân thiếu kinh nghiệm thực hiện các cuộc tấn công mạng bằng cách trang bị cho họ các công cụ hack tiên tiến và các tập lệnh độc hại cho các chiến dịch mạng.

Các công cụ AI không bị kiểm duyệt: Sự gia tăng 200% số lần đề cập đến Dark AI trong năm 2024

WormGPT là một trong những công cụ AI độc hại phổ biến nhất được phân phối trên các diễn đàn tội phạm mạng. Công cụ này đã được quảng bá trên các diễn đàn ngầm từ tháng 7 năm 2023. WormGPT được phát triển như một “lựa chọn thay thế mũ đen” cho các công cụ AI thương mại và sử dụng phiên bản tùy chỉnh của mô hình ngôn ngữ lớn GPT-J, được thiết kế riêng cho các hoạt động độc hại. WormGPT giúp kẻ tấn công trong các cuộc tấn công lừa đảo và BEC. Công cụ này được chào bán vào tháng 7 năm 2023, với mức giá từ 100 EUR đến 5000 EUR, với phiên bản v2 có các bản cập nhật thường xuyên.

Một người dùng có biệt danh “laste” đã quảng bá WormGPT

Các công cụ tương tự như DarkGPT, WolfGPT, GhostGPT, v.v. đã được xuất bản trên các diễn đàn tội phạm mạng và các kênh Telegram, cung cấp cho người dùng một loạt các khả năng độc hại, từ tạo mã độc hại, tìm lỗ hổng hoặc tạo ra một trò lừa đảo hiệu quả với nỗ lực tối thiểu. Các công cụ AI đen tối này đã phát triển thành AI-as-a-Service (AIaaS), cung cấp cho tội phạm mạng các công cụ AI tự động, dựa trên đăng ký, cho phép họ tạo ra bất kỳ nội dung độc hại nào. Điều này làm giảm rào cản gia nhập, cho phép các cuộc tấn công có thể mở rộng như lừa đảo, deepfake và lừa đảo gian lận.

Nhu cầu cao đối với các công cụ AI độc hại cũng dẫn đến sự xuất hiện của các phiên bản giả mạo và lừa đảo trong giới tội phạm mạng và các tác nhân thiếu kinh nghiệm. Các tác nhân đe dọa quảng bá các công cụ đen tối này để kiếm tiền, nhưng nhiều công cụ hóa ra là lừa đảo. Nhóm ransomware Kill Security đã vạch trần một vụ lừa đảo liên quan đến việc bán WormGPT, chế giễu tác nhân đe dọa vì thiếu kỹ năng, trong khi họ đã rò rỉ lời nhắc (prompt) miễn phí. Họ cũng cảnh báo các tác nhân khác không mua công cụ này với giá 200 USD. Thay vì mua các công cụ AI đen tối, Kill Security đề xuất một số lựa chọn thay thế. Các tác nhân có thể sử dụng FlowGPT, là một nền tảng trực tuyến để tạo các phiên bản tùy chỉnh của GPT, cũng như WormGPT. Ngoài ra, các tác nhân đe dọa có thể tự đào tạo các mô hình không bị kiểm duyệt của riêng họ hoặc sử dụng “vượt ngục” để vượt qua các rào cản bảo vệ của các ứng dụng GenAI công khai.

Những cáo buộc về việc một số đối tượng lừa đảo bán WormGPT

Hơn nữa, KELA quan sát thấy rằng vào năm 2024, các tác nhân đe dọa liên tục tìm kiếm WormGPT và các công cụ AI độc hại khác. Số lần đề cập đến các công cụ Dark AI trên các diễn đàn tội phạm mạng đã tăng 200% so với năm 2023.

Đọc toàn bộ báo cáo bằng Tiếng Anh tại đây.