Giả mạo sâu sắc dự kiến sẽ trở thành một vectơ tấn công nổi bật hơn. Đây là cách để xác định chúng.
Deep Fakes là gì?
Deep fake là hành vi cố ý thay thế hình ảnh, video thật bằng hình ảnh, video giả tạo để thao túng thông tin. Để tạo hình ảnh, video và âm thanh đủ chất lượng cao để sử dụng trong các hoạt động giả sâu, AI và ML là bắt buộc. Việc sử dụng AI, ML và thay thế hình ảnh như vậy không giống như các loại thao túng thông tin khác, vốn sử dụng các kỹ thuật thao tác ít cực đoan hơn, chẳng hạn như trình bày sai thông tin, cô lập các phần của thông tin hoặc chỉnh sửa thông tin theo cách lừa đảo. Etay Maor, Giám đốc cấp cao về chiến lược bảo mật tại Cato Networks cho biết thêm “Để thêm phần phức tạp, những tiến bộ gần đây và khả năng truy cập vào văn bản do AI tạo ra, chẳng hạn như GPT3, đã được sử dụng kết hợp với deepfakes (như một bằng chứng về khái niệm) để tạo tương tác, bot trò chuyện trông giống con người”
Deep Fakes trông như thế nào?
Đồ giả sâu có đủ hình dạng và kích cỡ. Một số đơn giản hơn và một số cao cấp hơn. Một số ví dụ phổ biến nhất về hàng giả sâu là:
Hoán đổi khuôn mặt
Hoán đổi khuôn mặt là hành động thay thế khuôn mặt trong video hoặc hình ảnh từ người này sang người khác. Hoán đổi khuôn mặt yêu cầu phần mềm chuyên dụng, nhưng không nhất thiết phải dựa trên công nghệ tiên tiến – ngày nay thậm chí có thể tìm thấy các ứng dụng di động hỗ trợ hoán đổi khuôn mặt. Hoán đổi khuôn mặt khả dụng trong các ứng dụng dành cho thiết bị di động thường bị giới hạn trong các trường hợp sử dụng đơn giản, chẳng hạn như hoán đổi giữa ảnh của người dùng và khuôn mặt của diễn viên trong các cảnh phim.
Có tồn tại tính năng hoán đổi khuôn mặt nâng cao hơn, nhưng nó yêu cầu mã và đào tạo mô hình nhiều hơn, và – kết quả là – GPU, đắt tiền và sử dụng nhiều tài nguyên. Bạn có thể xem một ví dụ về deep fake hoán đổi khuôn mặt nâng cao hơn trong video này, trong đó Tom Cruise được hoán đổi với khuôn mặt của người thuyết trình:
Hoán đổi khuôn mặt Tom Cruise này cần hai giờ đào tạo về GPU cũng như nhiều ngày xử lý hậu kỳ chỉnh sửa video chuyên nghiệp. Điều này nghe có vẻ nhiều, nhưng nó cũng được coi là một sự hoán đổi đơn giản hơn những người khác, bởi vì người thuyết trình có kiểu tóc tương tự như Cruise và có thể bắt chước giọng nói của anh ấy, điều đó có nghĩa là cần ít đào tạo và xử lý hậu kỳ hơn.
Bậc thầy múa rối (Hát nhép)
Diễn giả sâu ‘Puppet Master' là một kỹ thuật trong đó hình ảnh cử động miệng của một người được điều khiển, khiến người đó có vẻ như đang nói điều gì đó mà họ không thực sự nói. So với hoán đổi khuôn mặt, vốn đào tạo một người mẫu trên khuôn mặt mới được hoán đổi, ‘Puppet Master' đào tạo một người mẫu trên khuôn mặt của hình ảnh gốc và đặc biệt là chuyển động của miệng.
Đây là những gì nó trông giống như:
[warning – explicit language]
Công nghệ đằng sau ‘Bậc thầy múa rối' dựa trên việc tổng hợp mặt nạ, tức là hình ảnh gốc, rồi đặt nó lên trên hình mẫu của người đang đóng giả và hát nhép họ.
âm thanh
Loại deep fake nổi bật thứ ba là dựa trên âm thanh. Âm thanh giả sâu là các tệp âm thanh lấy giọng nói của một người thật và làm cho âm thanh giống như họ đang nói điều gì đó mà họ chưa từng nói. Âm thanh giả sâu được tạo bằng cách lấy tệp âm thanh, phân bổ chú thích cho âm thanh, đào tạo mô hình ML dựa trên chú thích để liên kết âm thanh với văn bản, sau đó tạo tệp âm thanh mới.
Đây là những gì âm thanh giống như:
Hàng giả sâu so với bản sửa lỗi giá rẻ
Không phải tất cả các hình ảnh hoặc âm thanh đã sửa đổi đều là giả sâu. Trong khi hàng giả sâu là phương tiện được tổng hợp hoặc sửa đổi bằng AI, thì bản sửa lỗi rẻ tiền là phương tiện được tổng hợp hoặc sửa đổi bằng các phương pháp công nghệ thấp, rất dễ phát hiện. Chúng thường có sự biến dạng và đã bị thao túng một cách rõ ràng. Đây là một sửa chữa giá rẻ trông như thế nào:
Rủi ro mạng của hàng giả sâu
Deep fake đã trở nên thực tế và dễ tiếp cận hơn, đồng thời chúng cũng được tạo ra nhanh hơn bao giờ hết. Điều này làm cho chúng trở thành một công cụ mạnh mẽ để vũ khí hóa. Kết quả là, chúng gây rủi ro cho các doanh nghiệp và cho các quốc gia. Chúng có thể được sử dụng cho tội phạm mạng, kỹ thuật xã hội, lừa đảo, bởi các quốc gia có tác nhân đe dọa nhằm gây ảnh hưởng đến các hoạt động nước ngoài, v.v.
Ví dụ: deep fake được sử dụng để bắt chước giọng nói của CEO và thuyết phục một giám đốc điều hành chuyển 243.000 đô la vào một tài khoản lừa đảo. Etay Maor của Cato Networks “Các cuộc tấn công bao gồm email doanh nghiệp và lừa đảo ngày càng trở nên khó phát hiện hơn dựa trên phân tích đơn giản về ngôn ngữ được sử dụng. Cần có một cách tiếp cận toàn diện, chẳng hạn như cách tiếp cận do một nhà cung cấp duy nhất cung cấp giải pháp SASE, để có thể phát hiện cuộc tấn công tại nhiều điểm nghẹt thở khác nhau và không dựa vào các sản phẩm điểm bị cô lập chắc chắn sẽ thất bại”. Trong một trường hợp khác, deep fake đã được đưa ra làm bằng chứng trong một vụ án về quyền nuôi con.
Giả mạo sâu sắc cũng có thể được sử dụng để truyền bá thông tin sai lệch, tức là phân phối thông tin sai lệch để gây ảnh hưởng đến dư luận hoặc che giấu sự thật. Ví dụ: giả mạo sâu có thể được sử dụng để mạo danh các nhà lãnh đạo thế giới và kích động một cuộc tấn công hoặc mạo danh CEO và thao túng giá cổ phiếu của công ty. Trong các trường hợp khác, deep fake tạo ra khả năng từ chối hợp lý, trong đó mọi người có thể từ chối tất cả các nguồn phương tiện truyền thông bằng cách cho rằng chúng là deep fake, điều này tạo ra sự vi phạm lòng tin của xã hội.
Cuối cùng, deep fake có thể được sử dụng để phỉ báng, tức là làm tổn hại danh tiếng tốt của ai đó. Ví dụ: bằng cách tạo nội dung khiêu dâm trả thù.
Cách phát hiện hàng giả sâu
Có hai loại phương pháp chính để phát hiện chính xác hàng giả sâu:
Phương pháp phát hiện cấp thấp Phương pháp phát hiện cấp cao
Phương pháp phát hiện cấp thấp
Các phương pháp phát hiện cấp thấp dựa trên các mô hình ML được đào tạo để xác định các tạo phẩm hoặc pixel được giới thiệu thông qua quy trình tạo giả mạo sâu. Những hiện vật này có thể không thể nhận thấy bằng mắt người, nhưng các mô hình, được đào tạo về hình ảnh thật và hình ảnh giả sâu, có thể phát hiện ra chúng.
Phương pháp phát hiện cấp cao
Các phương pháp phát hiện cấp cao sử dụng các mô hình có thể xác định các tính năng có ý nghĩa về mặt ngữ nghĩa. Chúng bao gồm các chuyển động không tự nhiên, chẳng hạn như chớp mắt, tư thế cúi đầu hoặc phong cách độc đáo và sự không khớp về âm vị-hình vị.
Ngày nay, các phương pháp phát hiện này được coi là chính xác. Tuy nhiên, khi công nghệ deep fake được cải thiện và trở nên tinh vi hơn, chúng được cho là sẽ trở nên kém hiệu quả hơn và sẽ cần được cập nhật và cải tiến. Ngoài các kỹ thuật này, mỗi người trong chúng ta có thể giúp phát hiện các hành vi giả mạo sâu bằng cách xác minh nguồn video và hình ảnh truyền thông mà chúng ta nhận được.
Để tìm hiểu thêm về các loại tấn công an ninh mạng khác nhau và cách ngăn chặn chúng, bạn có thể xem loạt bài Lớp học nâng cao về an ninh mạng của Cato Networks.
