Bạn còn nhớ cái thời “mắt thấy tai nghe” chứ? Những ngày đó đang nhanh chóng lùi vào quá khứ. Hầu hết mọi người nghĩ deepfake là những video mà ai đó cố gắng mạo danh người khác, nhưng thuật ngữ này thực ra bao gồm một phạm vi nội dung bị thao túng bởi AI rộng hơn nhiều, bao gồm hình ảnh tổng hợp, âm thanh bị thao túng và các phương tiện được tạo ra một cách giả tạo khác.
Công nghệ này, đôi khi được sử dụng cho mục đích giải trí vô hại, có thể trở thành một vũ khí mạnh mẽ trong tay kẻ xấu, có khả năng chống lại các thương hiệu và công ty với tác động tàn phá.
Với việc deepfake ngày càng trở nên tiên tiến, các công ty phải đối mặt với một loại mối đe dọa mới vượt ra ngoài việc quản lý danh tiếng thương hiệu truyền thống và đòi hỏi công nghệ hiện đại để phát hiện và chống lại một cách hiệu quả.
Tại sao Deepfake lại đe dọa đến thương hiệu của bạn ?
Hãy tưởng tượng bạn phát hiện ra một video lan truyền về sản phẩm của bạn phát nổ trong quá trình sử dụng bình thường, hoặc đoạn phim bị rò rỉ từ nhà máy cho thấy các thực tiễn kiểm soát chất lượng nguy hiểm trong cơ sở của bạn – ngoại trừ việc tất cả những điều đó chưa bao giờ xảy ra.
Những kịch bản này không còn là khoa học viễn tưởng. Chúng là những khả năng thực tế xảy ra với tần suất ngày càng tăng khi công nghệ này trở nên dễ tiếp cận hơn.
Lần đầu tiên xuất hiện trên mạng xã hội vào năm 2017, deepfake bắt đầu như một công nghệ hoán đổi khuôn mặt được hỗ trợ bởi AI chủ yếu được sử dụng cho mục đích giải trí, đặt khuôn mặt của người nổi tiếng vào phim hoặc tạo video nhại.
Chỉ trong vài năm, công nghệ đã phát triển từ nội dung bị thao túng rõ ràng thành những thay đổi gần như không thể phát hiện được mà có thể đánh lừa hầu như bất kỳ ai – tất cả đều có thể đạt được bởi một người duy nhất với phần mềm cơ bản và kiến thức chuyên môn tối thiểu.
Nhưng video bị thao túng chỉ là một phần của một câu đố lớn hơn nhiều. Mặc dù chúng có thể là hình thức dễ nhận biết nhất của công nghệ deepfake, nhưng mối đe dọa vượt ra khỏi nội dung video.
Cho dù đó là video bị thao túng, âm thanh tổng hợp hay ảnh do AI tạo ra, tất cả các hình thức công nghệ deepfake đều có một đặc điểm nguy hiểm: Chúng có thể được sử dụng để lan truyền thông tin sai lệch với mức độ chân thực khiến chúng khó bị bác bỏ nhanh chóng, và mối đe dọa của chúng đối với các thương hiệu biểu hiện theo hai cách: tính tức thời và mức độ nghiêm trọng.
Tính tức thời nằm ở chỗ nội dung bịa đặt này có thể nhanh chóng làm tổn hại đến lòng tin như thế nào, vì khách hàng, đối tác và các bên liên quan có thể hành động dựa trên thông tin sai lệch trước khi xác minh tính xác thực của nó.
Mặt khác, mức độ nghiêm trọng đến từ tác động cảm xúc và hình ảnh mà deepfake mang lại; chúng có thể thao túng cảm xúc của người dùng mạng xã hội và thay đổi vĩnh viễn nhận thức của họ về thương hiệu của bạn.
Tác động đến thị trường chứng khoán
Thiệt hại tài chính do nội dung lừa đảo do AI tạo ra không phải là lý thuyết, và một sự cố từ tháng 5 năm 2023 đã chứng minh thị trường dễ bị tổn thương như thế nào trước loại thao túng này.
Khi một hình ảnh do AI tạo ra cho thấy khói bốc lên gần Lầu Năm Góc được chia sẻ bởi một tài khoản duy nhất trên X (trước đây là Twitter), nó đã gây ra hoảng loạn trên diện rộng và gây ra các hiệu ứng thực tế ngay lập tức, bao gồm cả sự sụt giảm trên thị trường chứng khoán.
Nguồn có vẻ đáng tin cậy này là tất cả những gì cần thiết cho hàng nghìn hồ sơ thực chia sẻ và khuếch đại nội dung giả mạo hàng loạt. Đến khi hình ảnh được phát hiện là giả và bị xóa khỏi nền tảng, thiệt hại đã xảy ra – S&P 500 đã giảm 0,3%.
Điều khiến sự cố này đặc biệt đáng báo động là nó không phải là kết quả của một chiến dịch thông tin sai lệch phối hợp mà là hành động của một người dùng duy nhất trên mạng xã hội.
Nếu một tài khoản giả mạo có thể lan truyền và làm gián đoạn thị trường, hãy tưởng tượng thiệt hại mà một nhóm tác nhân xấu được tổ chức tốt có thể gây ra cho thương hiệu của bạn.
Thao túng với Deepfake Video
Các tác nhân xấu thường kết hợp deepfake với nội dung do AI tạo ra khác để tạo ra những câu chuyện nền thuyết phục cho các hồ sơ không xác thực, hoàn chỉnh với các chi tiết cá nhân, sở thích và toàn bộ lịch sử mạng xã hội.
Sử dụng các công cụ GenAI, họ có thể tạo ra các bộ sưu tập ảnh có cùng một người không tồn tại trong các bối cảnh và tình huống khác nhau, điều chỉnh tông giọng và kiểu nói, cũng như tạo ra nội dung hỗ trợ giúp tăng thêm độ tin cậy cho các câu chuyện lừa đảo của họ (chẳng hạn như các bài báo hoặc bài đăng trên blog giả mạo).
Khi hàng trăm hoặc hàng nghìn tài khoản này bám vào một cuộc thảo luận và lặp lại các điểm nói chuyện giống nhau, nó tạo ra một ảo ảnh về sự đồng ý rộng rãi mà gần như không thể phân biệt được với hoạt động mạng xã hội chân chính.
Công nghệ đằng sau Deepfake Analysis
Deepfake Analysis đóng một vai trò quan trọng trong việc xác định và giảm thiểu các mối đe dọa này, vì các công cụ phát hiện deepfake hiện sử dụng nhiều phương pháp tiếp cận thuật toán cùng một lúc.
Đối với deepfake video nói riêng, hệ thống phát hiện phân tích tính nhất quán từng khung hình cho các hiện vật kỹ thuật số và kiểm tra đồng bộ hóa âm thanh-môi, vì các video bị thao túng thường gặp khó khăn với sự căn chỉnh hoàn hảo trong suốt thời gian của chúng.
Một phương pháp dành riêng cho video khác là phát hiện xung. Vì video thực về người chứa đựng những thay đổi màu sắc tinh tế trong tông màu da do lưu lượng máu, các công cụ phát hiện có thể xác định các dấu hiệu sinh học bị thiếu này là dấu hiệu của nội dung nhân tạo.
Khi nói đến hình ảnh, hệ thống phát hiện deepfake tìm kiếm các lỗi nhỏ, chẳng hạn như bóng không tự nhiên, phản xạ sai lệch và các đặc điểm khuôn mặt đối xứng không thể.
Công nghệ này cũng kiểm tra siêu dữ liệu và chữ ký kỹ thuật số, vì mỗi máy ảnh và thiết bị ghi âm đều để lại dấu vân tay duy nhất trong nội dung của nó – các mẫu tinh tế mà trình tạo AI thường không thể sao chép hoàn hảo.
Bức tranh lớn hơn
Như chúng tôi đã giải thích, deepfake không tồn tại riêng lẻ – chúng thường chỉ là một thành phần của các chiến dịch thông tin sai lệch tinh vi.
Mặc dù phát hiện deepfake riêng lẻ là một bước quan trọng đầu tiên, nhưng nó phải được kết hợp với các công cụ giám sát rộng hơn có thể xác định toàn bộ hệ sinh thái lừa đảo: mạng lưới hồ sơ giả mạo, lịch sử mạng xã hội bịa đặt và các chiến dịch khuếch đại phối hợp.
Đó là lý do tại sao khi nội dung đáng ngờ được xác định, hệ thống giám sát ngay lập tức bắt đầu theo dõi các mẫu phân phối của nó trên các nền tảng.
Sự tăng đột biến bất thường trong việc chia sẻ, khuếch đại phối hợp bởi các tài khoản có đặc điểm tương tự hoặc nội dung xuất hiện đồng thời trên nhiều nền tảng cho thấy một chiến dịch được sản xuất chứ không phải là sự lan truyền tự nhiên.
Nếu nhiều nguồn đột nhiên bắt đầu tham khảo cùng một sự cố đồng thời, hoặc nếu bằng chứng hỗ trợ xuất hiện quá nhanh và quá “hoàn hảo”, đó là một dấu hiệu mạnh mẽ của một chiến dịch thông tin sai lệch được lên kế hoạch trước.
Cách Cyabra bảo vệ thương hiệu của bạn
Nền tảng được hỗ trợ bởi AI của Cyabra chuyên phát hiện các nỗ lực thông tin sai lệch phối hợp bằng cách phân tích hành vi và tính xác thực của các tài khoản chia sẻ nội dung đáng ngờ.
Khi các mối đe dọa như nội dung deepfake xuất hiện, hệ thống của Cyabra ngay lập tức bắt đầu theo dõi các mẫu lan truyền của nó, phát hiện mạng lưới các tài khoản không xác thực và gắn cờ các câu chuyện nguy hiểm trước khi chúng gây ra thiệt hại đáng kể.
Công ty của bạn cũng sẽ nhận được lợi ích của việc giám sát theo thời gian thực trên tất cả các nền tảng truyền thông xã hội lớn, cho bạn khả năng phân biệt giữa sự lan truyền tự nhiên và các chiến dịch thông tin sai lệch phối hợp.
Thông tin hãng cung cấp giải pháp
