Cách phần mềm độc hại được tạo ra: Tin tặc mạng khai thác sức mạnh của AI tạo sinh và các tổ chức nên ứng phó như thế nào?

Trong những năm gần đây, sự phổ biến của Trí tuệ Nhân tạo Tạo sinh (Generative AI) đã tăng vọt nhờ vào những khả năng mạnh mẽ của nó. Việc áp dụng rộng rãi và sự cường điệu ngày càng tăng xung quanh AI Tạo sinh đã vô tình lan sang cả lĩnh vực tội phạm mạng.

Giống như bất kỳ công nghệ tiên tiến và mạnh mẽ nào khác đưa thế giới của chúng ta lên một tầm cao mới, những kẻ xấu luôn tìm ra con đường “đặc biệt” của riêng mình. Tin tặc mạng đã bắt đầu tận dụng AI Tạo sinh cho các mục đích độc hại và các hoạt động hàng ngày của chúng, bao gồm tạo ra phần mềm độc hại và điều hành các diễn đàn ngầm.

Trong blog này, KELA đi sâu vào cách tin tặc mạng thao túng và khai thác ChatGPT và các nền tảng AI khác để đánh cắp thông tin và khởi động các cuộc tấn công mạng, cũng như trong các hoạt động hàng ngày của chúng.

Khai thác AI tạo sinh để cải thiện các cuộc tấn công mạng

Trong những tháng gần đây, và không có gì đáng ngạc nhiên, KELA đã quan sát thấy sự gia tăng mối quan tâm của tin tặc mạng đối với AI Tạo sinh. Có những cuộc trò chuyện liên tục trong giới tội phạm mạng về ChatGPT và các AI Tạo sinh khác, cũng như cách chúng có thể bị các đối tượng đe dọa khai thác. Mới đây, một đối tượng đã hỏi những người dùng trên diễn đàn tiếng Nga XSS rằng mô hình nào, Bard hay ChatGPT, tốt hơn cho việc tạo mã. Một đối tượng khác trả lời rằng một trong các nền tảng tạo mã tốt hơn nền tảng kia, nhưng lưu ý nhược điểm là “mô hình không hiểu tiếng Nga”. Mặc dù cuộc thảo luận không liên quan trực tiếp đến việc sử dụng độc hại AI Tạo sinh, nhưng nó chỉ là một trong nhiều ví dụ minh họa nhu cầu về chủ đề này trong số những người dùng diễn đàn tội phạm mạng.

Dựa trên các cuộc trò chuyện khác, có vẻ như tin tặc mạng đã tìm ra những cách sáng tạo để khai thác AI Tạo sinh nhằm cải thiện khả năng tấn công mạng của chúng, xâm phạm dữ liệu người dùng và khai thác các lỗ hổng của AI Tạo sinh. Có một số vectơ tấn công dường như đã sử dụng AI Tạo sinh.

Các cuộc tấn công phi kĩ thuật

Cuộc tấn công phi kỹ thuật là một tập hợp các chiến thuật được sử dụng để thao túng nạn nhân tiết lộ thông tin nhạy cảm, chẳng hạn như mật khẩu, chi tiết thẻ tín dụng hoặc các thông tin nhận dạng cá nhân khác. Ngay sau khi ChatGPT được phát hành, KELA đã quan sát thấy rằng đối tượng Môi giới Truy cập Ban đầu (Initial Access Broker) “sganarelle2” đã đăng một quảng cáo vào tháng 12 năm 2022, mời người dùng chia sẻ ý tưởng về cách sử dụng ChatGPT cho các cuộc tấn công kỹ thuật xã hội, nhằm thu thập bất kỳ thông tin nhạy cảm nào.

Một đối tượng mời người dùng chia sẻ ý tưởng liên quan đến các cuộc tấn công kỹ thuật xã hội

Trong nhiều cuộc thảo luận gần đây, các đối tượng đe dọa tuyên bố rằng ChatGPT giúp họ tạo các email lừa đảo (phishing) và đưa ra các ví dụ về email do ChatGPT viết.

“Trong tay kẻ lừa đảo, ChatGPT biến thành một ác quỷ hoàn hảo,” một đối tượng cho biết, kẻ này đã sử dụng ChatGPT để mạo danh một công ty gửi email cho nạn nhân thông báo rằng tài khoản của họ đã bị khóa và họ cần cung cấp thông tin chi tiết để xác minh. Đối tượng này nói thêm rằng việc sử dụng sự lịch sự và tử tế của AI rất hiệu quả trong việc tạo ra các email lừa đảo. Một đối tượng khác tuyên bố rằng họ đã sử dụng ChatGPT cho hoạt động gian lận, yêu cầu chatbot viết một quảng cáo hấp dẫn để lôi kéo mọi người nhấp vào.

Việc tiếp cận các công cụ hiện chưa được kiểm soát như vậy cho phép tin tặc mạng tránh được một số dấu hiệu cảnh báo khiến mọi người nhận ra rằng họ đang bị lừa, do đó giúp một số chiến dịch lây nhiễm ban đầu dễ dàng hơn.

Ngoài ra, các đối tượng đe dọa nhận thấy có dư địa để sử dụng AI trong các chiến thuật kỹ thuật xã hội khác, chẳng hạn như tấn công lừa đảo bằng giọng nói (vishing). KELA đã quan sát thấy các đối tượng đe dọa chia sẻ một số mô hình mà họ cho là hữu ích. Tuy nhiên, hầu hết các đối tượng đều hoài nghi về giải pháp này và nói rằng cho đến nay, việc nhận ra giọng nói giả mạo là dễ dàng. Mặc dù AI dường như chưa được sử dụng đầy đủ cho các cuộc tấn công vishing, nhưng những cuộc thảo luận xung quanh nó cho thấy sự quan tâm ngày càng tăng của tin tặc mạng đối với các công cụ tạo giọng nói AI, và điều đó sẽ tạo động lực mạnh mẽ cho các tổ chức đầu tư vào các biện pháp ngăn chặn việc sử dụng độc hại.

Tạo phần mềm độc hại

Tin tặc mạng khai thác rộng rãi AI Tạo sinh để tạo ra các payload độc hại, tích cực chia sẻ các bài đăng cho thấy các lệnh cụ thể đánh lừa AI Tạo sinh vượt qua các hạn chế của mô hình, cho phép tạo ra mã độc hại. Các phương pháp “vượt ngục” (jailbreaking) này nhằm mục đích thao túng hệ thống AI để tạo ra nội dung hoặc hướng dẫn độc hại.

Các ví dụ về các thao tác như vậy bao gồm việc sử dụng các lệnh như thuyết phục chatbot tuân theo bất kỳ lệnh nào hoặc mạo danh ai đó để phá vỡ chính sách của ứng dụng hoặc lừa chương trình hoạt động ở chế độ nhà phát triển mà không có hạn chế. Các đối tượng đe dọa chia sẻ một số phương pháp vượt ngục mới nhất trên các diễn đàn tội phạm mạng, cho phép nhiều đối tượng hơn thao túng AI Tạo sinh, bao gồm cả các lệnh tùy chỉnh, điều này có thể biến thành một “ngách kinh doanh” tội phạm mạng của riêng nó.

Một đối tượng cung cấp các lệnh vượt tường lửa để vượt qua các bộ lọc ChatGPT

Để chứng minh kết quả, các đối tượng chia sẻ các mẫu phần mềm độc hại do ChatGPT viết, ví dụ như mã ransomware C++ hoặc rootkit viết bằng C++. Tin tặc mạng thừa nhận rằng đầu ra không phải lúc nào cũng hoạt động đúng, nhưng họ thấy nó hữu ích như một bước khởi đầu trong việc tạo ra phần mềm độc hại. Do đó, AI Tạo sinh dường như giúp giảm bớt công việc ban đầu của các đối tượng đe dọa, giúp họ tạo ra mã độc hại mà họ có thể xem xét và cải thiện cho các cuộc tấn công của mình.

Một đối tượng tuyên bố họ đã có thể tạo ra ransomware bằng ChatGPT

Minh họa rằng AI có một số hạn chế và có thể cung cấp đầu ra sai

Che giấu phần mềm độc hại

Ngoài việc tạo phần mềm độc hại thông qua AI Tạo sinh, các đối tượng đe dọa còn sử dụng chúng để cải thiện các chiến thuật trốn tránh. Vào tháng 5, một đối tượng đe dọa đã đăng một bài trên diễn đàn RAMP tiếng Nga, cho thấy cách khai thác ChatGPT để che giấu PowerShell, phần mềm độc hại hoặc bất kỳ mã độc hại nào khác. Ví dụ này cho thấy rằng mô hình kinh doanh tội phạm mạng của một số đối tượng có thể thay đổi.

Hiện tại, có nhiều đối tượng đe dọa cung cấp dịch vụ mã hóa (crypt services) cho những đối tượng muốn che giấu mã thực thi độc hại của họ và vượt qua các công cụ bảo mật. Với hiệu suất nhanh chóng của AI Tạo sinh, các nhà cung cấp dịch vụ mã hóa này lo ngại rằng những kẻ sở hữu phần mềm độc hại có thể đạt được kết quả tốt hơn bằng cách sử dụng một lệnh duy nhất để che giấu phần mềm độc hại của họ thay vì thuê dịch vụ của họ, dẫn đến việc một số người trong số họ bị thay thế bởi các AI Tạo sinh khác nhau.

Hoạt động gian lận tài chính

Các đối tượng đe dọa khai thác ChatGPT để tạo ra các kế hoạch gian lận tài chính và tiền điện tử nhằm lừa người dùng cung cấp chi tiết ngân hàng của họ hoặc thực hiện các giao dịch trái phép. KELA đã quan sát thấy một đối tượng đăng quảng cáo trên Crime Market, một diễn đàn tội phạm mạng của Đức, cho thấy ChatGPT đã giúp họ tạo ra tiền điện tử giả mạo được sử dụng cho gian lận như thế nào. Gần đây, một đối tượng khác đã đăng một hướng dẫn về cách trở thành kẻ lừa đảo. Một trong những khuyến nghị của hắn bao gồm việc sử dụng ChatGPT để tạo ra các đánh giá giả mạo cho các sản phẩm giả được liệt kê trên một thị trường kỹ thuật số chuyên bán các mặt hàng kỹ thuật số khác nhau.

Một người dùng khác đã chỉ ra cách có thể sử dụng ChatGPT để truy cập các Bitcoin đã quên, cố gắng khôi phục quyền truy cập vào các tài khoản Bitcoin bị chủ sở hữu làm mất. Phương pháp này cũng có thể được sử dụng cho các mục đích hợp pháp khi người dùng quên hoặc mất khóa kỹ thuật số của họ, nhưng trong trường hợp này, có vẻ như các đối tượng đe dọa có thể khai thác nó và đánh cắp tiền trong các ví bị quên.

Khai thác điểm yếu của AI tạo sinh

Ngoài việc sử dụng AI Tạo sinh cho mục đích của mình, tin tặc mạng chắc chắn sẽ nhắm mục tiêu vào chính các mô hình này. Chúng có thể khai thác các lỗ hổng tiềm ẩn trong cơ sở hạ tầng của AI Tạo sinh, cố gắng giành quyền truy cập trái phép vào dữ liệu nhạy cảm mà mọi người có thể chia sẻ khi sử dụng AI Tạo sinh. Vào tháng 4, một đối tượng tuyên bố rằng họ đã có thể truy cập vào một cơ sở dữ liệu SQL ghi lại tất cả các lệnh mà người dùng đã sử dụng.

Tin tặc mạng cũng có thể tạo ra các tin nhắn đánh lừa mô hình tạo ra thông tin cụ thể, cho phép chúng thu thập dữ liệu doanh nghiệp hoặc cá nhân nhạy cảm để sử dụng trái phép hoặc bán trên các diễn đàn tội phạm mạng.

Cuối cùng, các đối tượng không cần nhắm mục tiêu vào AI Tạo sinh nếu chúng chỉ có thể sử dụng tên của các mô hình trong các chiến dịch độc hại. KELA đã quan sát thấy một số trường hợp các trang web giả mạo xuất hiện để bán sử dụng tên ChatGPT. Các nhà nghiên cứu phát hiện ra rằng trong những tháng qua, đã có sự gia tăng các cuộc tấn công lừa đảo liên quan đến ChatGPT, sử dụng cách diễn đạt và tên miền có vẻ liên quan đến trang web. Ngoài ra, Meta đã chặn hơn 1.000 địa chỉ web duy nhất theo chủ đề ChatGPT được thiết kế để phân phối phần mềm độc hại đến thiết bị của người dùng.

Sử dụng AI tạo sinh để điều hành thế giới ngầm tội phạm mạng

Mặc dù có khả năng tin tặc mạng chủ yếu sử dụng ChatGPT và AI Tạo sinh cho các hoạt động độc hại, nhưng chúng cũng tận dụng chúng cho các hoạt động hàng ngày của mình. Dưới đây là một số ví dụ đáng chú ý.

Phát triển chatbot

Các đối tượng đe dọa sử dụng API của AI Tạo sinh để xây dựng chatbot cho các diễn đàn và thị trường tội phạm mạng, nghĩa là các tác nhân hội thoại tương tác cung cấp hỗ trợ, trả lời câu hỏi hoặc cung cấp “hỗ trợ khách hàng” tự động. KELA đã xác định XSSBot, một chatbot AI đã hoạt động trên diễn đàn XSS, trả lời các câu hỏi của các đối tượng về bất kỳ chủ đề nào. Có vẻ như các đối tượng cũng đang tìm cách tự động hóa.

Học các kiến thức cơ bản về tội phạm mạng

Tin tặc mạng tận dụng AI Tạo sinh để nâng cao kỹ năng kỹ thuật của họ trong các lĩnh vực tội phạm mạng khác nhau. Họ tham gia vào các cuộc trò chuyện với mô hình để tìm kiếm hướng dẫn, đặt câu hỏi kỹ thuật và khám phá các khái niệm phức tạp về tội phạm mạng. Việc sử dụng này phổ biến đối với người mới bắt đầu và giúp họ dễ dàng bước chân vào thế giới tội phạm mạng. Ví dụ, một người dùng của một diễn đàn ngầm, quan tâm đến rò rỉ dữ liệu, cho biết ChatGPT đã giúp họ học các ngôn ngữ lập trình.

Phát triển và thiết kế trang web

Tương tự như những cá nhân không có ý đồ xấu, các đối tượng đe dọa dường như tận dụng AI Tạo sinh để giúp phát triển các trang web, mặc dù trong trường hợp này, các trang web này có bản chất độc hại hoặc chúng đóng vai trò là nền tảng để tập hợp tin tặc mạng. Dựa trên các cuộc trò chuyện, các đối tượng tạo mã HTML, CSS và JavaScript bằng cách sử dụng khả năng tạo ngôn ngữ của mô hình, để phát triển các nền tảng và giảm bớt công việc thủ công của họ, cuối cùng cho phép họ quảng bá các sản phẩm độc hại của mình dễ dàng hơn.

Các chiến lược hiệu quả cho các tổ chức trong việc đối phó với các mối đe dọa liên quan đến AI Tạo sinh

Việc tin tặc mạng ngày càng áp dụng AI Tạo sinh nhấn mạnh tầm quan trọng của việc nghiên cứu các chiến thuật này và bảo vệ AI Tạo sinh chống lại ý định độc hại bằng cách sử dụng các trường hợp sử dụng thực tế. Bên cạnh việc giám sát chủ động các cuộc thảo luận như vậy trong thế giới ngầm tội phạm mạng, KELA khuyến nghị các bước sau cho các công ty tham gia vào việc phát triển AI Tạo sinh:

Giám sát mô hình liên tục: Triển khai các cơ chế để liên tục giám sát hành vi và đầu ra của AI Tạo sinh trong thời gian thực.
Xác thực đầu vào: Xác thực và làm sạch đầu vào của người dùng trước khi chúng được đưa vào AI Tạo sinh. Thực hiện xác thực đầu vào nghiêm ngặt để lọc ra nội dung có khả năng độc hại hoặc không phù hợp. Điều này có thể giúp ngăn chặn các mô hình tạo ra các đầu ra có hại, độc hại, gây hiểu lầm hoặc thiên vị dựa trên các lệnh được tạo bởi tin tặc mạng.

Đối với các nhóm bảo mật sử dụng AI Tạo sinh, cần thực hiện các biện pháp sau:

Cập nhật và vá lỗi mô hình thường xuyên: Luôn cập nhật AI Tạo sinh với các bản vá và cập nhật bảo mật mới nhất. Luôn cập nhật thông tin về bất kỳ lỗ hổng hoặc sai sót nào được phát hành.
Nâng cao nhận thức và giáo dục người dùng: Giáo dục nhân viên về những rủi ro và hạn chế liên quan đến AI Tạo sinh. Nâng cao nhận thức về các kỹ thuật thao túng và khai thác tiềm ẩn mà các đối tượng đe dọa có thể sử dụng.