Deepfake là gì và làm sao để phát hiện và ngăn chặn deepfake mạo danh?

Deepfake đã, đang trở thành mối quan ngại của cả thế giới. Kẻ xấu dễ dàng sử dụng nó để lừa đảo chiếm đoạt tài sản của một ai đó.

Đỗ Thu Nga
10:57 26/04/2023 Đỗ Thu Nga
Sống Đẹp
Nguồn: Internet

Deepfake là gì?

Wikipedia định nghĩa: Deepfake là một kỹ thuật cho phép tổng hợp hình ảnh con người dựa trên trí tuệ nhân tạo (AI). Nó được dùng để kết hợp và đặt chồng lên hình ảnh và video đã có lên hình ảnh hoặc video nguồn bằng cách sử dụng kỹ thuật machine learning được gọi là mạng đối nghịch chung. Nhờ tính năng này mà deepfake đã tạo ra hàng loạt video nhạy cảm nổi tiếng, lừa đảo thông qua các cuộc gọi... Nó được sử dụng để tạo tin giả, các trò bịp độc hại.

Giải nghĩa tường tận hơn về deepfake như sau: Deepfake là từ ghép của hai từ "deep learning" (học sâu" và fake" (giả). Deep learning là một phương pháp học máy cho phép máy tính học thông qua việc phân tích, suy luận từ các tập dữ liệu lớn. Trong đó, "fake" có nghĩa là giả mạo hoặc làm giả. 

Deepfake-la-gi-va-lam-sao-de-phat-hien-va-ngan-chan-deepfake-mao-danh-8

Deepfake xuất hiện vào năm 2017 và nó nhanh chóng trở thành chủ đề nóng trong cộng đồng công nghệ thông tin. Nó được sử dụng để tạo ra các video giải trí như đổi mặt các diễn viên nổi tiếng vào các vai diễn khác nhau, hoặc thay đổi giọng nói của những người nổi tiếng để tạo ra những video mang tính giải trí.

Ban đầu nó được tạo ra cũng mang trong mình mục đích tốt, ví dụ một MC trên TV bị bệnh mà mất giọng tạm thời có thể dùng nó để thay thế tạm thời. Hoặc một bộ phim chẳng may một diễn viên qua đời, có thể dùng nó để hoàn thiện phần còn lại của bộ phim. Hay trong các video mang tính giáo dục deepfake có thể dùng để tạo hình và tiếng cho một số nhân vật lịch sử theo hình ảnh và giọng nói còn lưu lại để minh họa thêm sinh động hơn.

Năm 2023, với sự phát triển của AI, những ứng dụng deepfake như Synthesia.io lại càng giúp cho người dùng dễ dàng tiếp cận hơn. Và nó trở thành mối đe dọa lớn cho an ninh mạng và cuộc sống của nhân loại. Một ví dụ điển hình về deepfake đó là ứng dụng ZAO của Trung Quốc. Đây là ứng dụng hoàn toàn miễn phí, ra đời vào tháng 9/2019. 

Với ứng dụng này, bạn chỉ cần đăng 1 hình ảnh chân dung của mình lên và chọn trong thư viện clip của ZAO, bao gồm trích đoạn các bộ phim điện ảnh hay show truyền hình nổi tiếng. Và thế là bạn đã trở thành diễn viên chính trong các clip đó. 

Deepfake nguy hiểm cỡ nào?

Về mặt lý thuyết, một video deepfake càng giống thật nếu có càng nhiều hình ảnh thể hiện biểu cảm gương mặt và môi của nhân vật. Việc này giúp ứng dụng ấy mô phỏng một cách dễ dàng hơn. Vì thế mà nhiều khuyên rằng, nên hạn chế việc chia sẻ hình ảnh lên mạng xã hội, bởi nó có thể trở thành nguồn cho deepfake. 

Vài năm trở lại đây, chính phủ các nước đã bắt đầu quan tâm nhiều hơn đến deepfake và đang cố gắng tìm cách đối phó với nó. Thậm chí có quốc gia đã ra lệnh cấm sử dụng công nghệ deepfake. Các nhà nghiên cứu thì đang nỗ lực tìm cách phát triển cách phát triển những "thợ săn" deepfake. 

Sự lợi dụng bất chính của deepfake gây ra nhiều hậu quả nghiêm trọng cho con người, gây hậu quả nghiêm trọng đến an ninh, trật tự, chính trị. 

Deepfake-la-gi-va-lam-sao-de-phat-hien-va-ngan-chan-deepfake-mao-danh-6
Tổng thống Ukraine bị người xấu lợi dụng

Đó là câu chuyện về một bộ mặt giống hệt Tổng thống Ukraine Volodymyr Zelensky hay tỉ phú Mark Zuckerberg - nhà sáng lập Facebook đã được tạo ra. Trong đó các nhân vật giả dạng bày tỏ suy nghĩ, lời nói mà không phải là do ông Volodymyr Zelensky hay Mark Zuckerberg chính chủ nói.

Những video này được phát tán trên mạng xã hội và gây ra tranh cãi về tính chính xác và sự xác thực của nó. Điều này cho thấy, deepfake có thể sử dụng để lan truyền thông điệp giả mạo gây hiểu nhầm cho người xem.

Không những vậy, các thông tin giả mạo còn có khả năng bôi nhọ danh tiếng của cá nhân người nổi tiếng hoặc tổ chức. Nó gây ra hậu quả nghiêm trọng đến đời sống của họ, thậm chí là cả tiền bạc.

Deepfake còn có thể sử dụng để tấn công cá nhân, nhất là trong lĩnh vực tài chính và doanh nghiệp. Nó được sử dụng để thực hiện những phi vụ lừa đảo. 

Trung tâm Nghiên cứu chiến lược và quốc tế (CSIS) của Mỹ xếp các video được làm giả dựa trên công nghệ deepfake vào 1 trong 5 nguy cơ gây mất an ninh toàn cầu năm 2019.

Deepfake-la-gi-va-lam-sao-de-phat-hien-va-ngan-chan-deepfake-mao-danh-5
Mạng xã hội là nguồn dữ liệu khổng lồ mà deepfake có thể "đánh cắp"

Các nền tảng như Facebook, Youtube chính là nơi phát tán deepfake hiệu quả nhất. Nếu video deepfake đó tạo nên ảnh hưởng xấu thì chính các nền tảng này là “tội đồ” lớn nhất. Chính vì vậy, họ có trách nhiệm phải phát hiện ra các video này trước khi chúng được xuất bản trên nền tảng của mình, như phát hiện tin giả (fake news). Tiếc thay, việc phát hiện này là vô cùng khó!

Theo Bộ Quốc phòng Mỹ, Google và Facebook đang tài trợ và hỗ trợ dữ liệu để các nhà nghiên cứu tìm ra giải pháp phát hiện deepfake hiệu quả. Năm 2020, Facebook với sự hỗ trợ lớn từ Microsoft và nhiều trường đại học danh tiếng đã triển khai cuộc thi Deepfake Detection Challenge (DFDC), với nội dung phát triển công nghệ phát hiện những video deepfake. Tổng giải thưởng cho cuộc thi này lên tới 10 triệu USD.

Làm sao để phát hiện và ngăn chặn deepfake mạo danh?

Các video, hình ảnh giả mạo ngày càng nhiều và tinh xảo khiến "mắt thường" khó nhận ra được. Tuy nhiên, từ ngày mới phát triển nó đã tồn tại nhiều yếu điểm: hình ảnh mờ, video bị lỗi giọng nói và hiệu ứng… nhưng hiện giờ deepfake không còn đơn giản như vậy.

Mặc dù không có cách cụ thể nào để phát hiện chính xác được deepfake nhưng vẫn có một số cách sau để nhận biết video, hình ảnh giả mạo:

- Các chi tiết nhỏ như tóc, cử động mắt, cấu trúc phần má và biểu cảm gương mặt khi nói. Tất cả đều chưa hoàn thiện và tự nhiên nhất.

- Cảm xúc: Công nghệ này chỉ mô phỏng ở mức trung bình, còn nhiều sự "cứng đờ".

- Chất lượng video còn thấp.

- Nguồn phát: chủ yếu là mạng xã hội.

Deepfake-la-gi-va-lam-sao-de-phat-hien-va-ngan-chan-deepfake-mao-danh-4

Vậy có thể sử dụng công cụ gì để chặn deepfake? Hiện nay có nhiều tập đoàn công nghệ đã tham gia vào cuộc chiến chống deppfake.  Điển hình là Microsoft Video Authenticator, công cụ phát hiện deepfake do Microsoft phát triển có khả năng kiểm tra độ xác thực của dữ liệu video chỉ trong vòng vài giây. Các nền tảng mạng xã hội đã đưa ra tính năng chặn hoàn toàn mọi hình ảnh, video chỉnh sửa qua deepfake. Song Google cũng đang thử nghiệm một ứng dụng chống lại việc giả mạo âm thanh.

Xem thêm: OTP là gì: Từ mã xác thực "ai cũng biết" đến thuật ngữ được fangirl dùng triệt để

songdep.com.vn

5 chủ đề bạn cần biết mỗi tuần

Mỗi thứ Tư, bạn sẽ nhận được email tổng hợp những chủ đề nổi bật tuần qua một cách súc tích, dễ hiểu, và hoàn toàn miễn phí!

Bài Mới

Bình luận