Video Mark Zuckerberg thừa nhận việc đánh cắp dữ liệu và Barack Obama lạm dụng Donald Trump đã lan truyền trên mạng khá lâu?
Những video này là kết quả của một công nghệ AI rất tiên tiến và tương lai có tên là Deepfake.
Nói một cách đơn giản, nó là một giải pháp thay thế photoshop cho video. Một mặt, nó có thể cách mạng hóa phương tiện truyền thông điện tử bằng cách loại bỏ nhu cầu về một con người thực tế.
Mặt khác, nó đe dọa nghiêm trọng danh tính của một người vì bạn có thể khiến bất kỳ ai nói bất cứ điều gì trên video.
Sử dụng Deepfakes học kĩ càng để tạo ảnh và video về các sự kiện giả mạo, do đó có tên là deepfake. Nó không chỉ có thể hoán đổi khuôn mặt trên các video hiện có mà còn tạo ra các khung hình và video mới từ đầu.
Nguồn gốc của Deepfakes
Sâu rộng nghiên cứu học thuật đã vượt qua ranh giới của thao tác chỉnh sửa ảnh và video trong vài năm qua. Deepfake cũng là kết quả của những nghiên cứu học thuật này.
Trường hợp thao túng video đầu tiên được báo cáo vào năm 1997. Video của một người đã được sửa đổi để nói các từ có trong một đoạn âm thanh khác. Đây là trường hợp đầu tiên làm sạch lại khuôn mặt bằng cách sử dụng học máy kỹ thuật.
Tiến bộ đáng chú ý hơn nữa đã được thực hiện vào năm 2017 khi một video về cựu tổng thống Hoa Kỳ Barack Obama đã được sửa đổi để nói các từ khác nhau phù hợp với một bản âm thanh khác.
Vào năm 2018, các nhà nghiên cứu tại Đại học California, Berkeley, đã giới thiệu một ứng dụng có thể tạo video khiêu vũ giả sử dụng học sâu. Điều này đánh dấu sự mở rộng của deepfakes ra toàn bộ cơ thể vì các tác phẩm trước đây chỉ giới hạn ở khuôn mặt.
Deepfakes được tạo ra như thế nào?
Nhờ những tiến bộ trong lĩnh vực máy tính, giờ đây bạn có thể phát triển deepfakes tương đối dễ dàng với chi phí thấp. Hai phương pháp chính được sử dụng để tạo deepfakes.
Phương pháp 1
Bạn sẽ phải đào tạo một mạng lưới thần kinh trên video thực của người đó. Điều này sẽ cho phép mạng lưới thần kinh để hiểu các đặc điểm khuôn mặt của đối tượng ở các góc độ và điều kiện ánh sáng khác nhau.
Sau đó, bạn sẽ xử lý cả khuôn mặt gốc và khuôn mặt tiềm ẩn thông qua một thuật toán AI được gọi là bộ mã hóa. Nó sẽ tìm và tìm hiểu sự khác biệt và giống nhau giữa hai khuôn mặt và cả hai khuôn mặt được thu gọn thành một hình ảnh nén chia sẻ các đặc điểm chung.
Sau đó, thuật toán AI thứ hai được gọi là bộ giải mã, phục hồi các khuôn mặt từ các hình ảnh nén. Cả hai khuôn mặt đều được phục hồi bởi hai bộ giải mã khác nhau.
Để thực hiện hoán đổi khuôn mặt, bạn chỉ cần nạp các hình ảnh được mã hóa vào bộ giải mã khác.
Ví dụ: đầu ra bộ mã hóa của khuôn mặt A được đưa vào bộ giải mã được đào tạo trên khuôn mặt B, sau đó tái tạo lại khuôn mặt B với các đặc điểm khuôn mặt của khuôn mặt A. Bạn sẽ phải làm điều này trên mọi khung hình của video để có đầu ra thuyết phục.
Phương pháp 2
Một phương pháp khác để tạo ra deepfakes là Generative Adversarial Network (GAN).
Bạn sẽ phải sử dụng hai thuật toán cạnh tranh để tạo ra deepfakes. Cái đầu tiên sẽ sử dụng nhiễu ngẫu nhiên để tạo ra một hình ảnh và do đó nó được gọi là bộ tạo. Hình ảnh tổng hợp này được đưa vào một luồng hình ảnh thực thông qua một thuật toán thứ hai được gọi là bộ phân biệt.
Bộ phân biệt cung cấp phản hồi cho bộ tạo tạo ra một hình ảnh khác theo phản hồi. Bằng cách này, cả hai thuật toán đều cho kết quả được cải thiện với mỗi lần lặp lại. Quá trình này được lặp lại nhiều lần cho đến khi đạt được mức độ chính xác cần thiết.
GAN mang lại kết quả hoàn toàn thực tế, nhưng nó khó hoạt động và đòi hỏi một lượng lớn dữ liệu đào tạo và khả năng tính toán. Đó là lý do tại sao nó thường được ưa thích để tạo hình ảnh hơn là video clip.
Một số ví dụ thuyết phục về Deepfakes
Có một số câu chuyện sâu sắc rất thuyết phục xoay quanh internet và hầu hết chúng là của những người nổi tiếng.
Ví dụ: có một tài khoản TikTok chỉ dành riêng cho những thành công của Tom Cruise. Video cho thấy Cruise chơi gôn hoặc biểu diễn một trò ảo thuật.
@deeptomcruise Du lịch! ????
Một deepfake phức tạp khác đã được tải lên YouTube với sự tham gia của Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas và Ewan McGregor. Nó có một số sai sót rõ ràng, nhưng để xử lý 3 đến 4 ảnh sâu trong một video đồng thời là một kỳ công.
Một ví dụ khác là video deepfake của cựu Tổng thống Barack Obama.
Cái này thuyết phục một cách đáng kinh ngạc vì nó sử dụng giọng nói và cử chỉ của những người đóng giả có khả năng bắt chước giọng nói và cử chỉ của đối tượng.
Giờ đây, chúng ta đang chứng kiến những thành công sâu sắc trong ngành công nghiệp giải trí chính thống hiện đại.
Nó được sử dụng để quay các cảnh của Paul Walker trong Fast and Furious 7 sau cái chết bất ngờ của nam diễn viên. Deepfake đã được sử dụng trên người anh trai của mình với độ chính xác đáng kể.
Deepfakes mang đến điều gì?
Deepfakes đã được chứng minh là một công nghệ rất đáng tin cậy để mang lại cuộc cách mạng trong lĩnh vực truyền thông và giải trí.
Bạn có thể nhớ khi bộ ria mép của Henry Cavill được CGI loại bỏ trong “Man of Steel” và đó là một thảm họa không?
Điều tương tự bây giờ có thể được thực hiện trên một vài nghìn đô la máy tính với kết quả thuyết phục hơn nhiều.
Bây giờ bạn có thể gặp tổ tiên đã khuất và những người thân yêu của bạn. Bạn thậm chí có thể tham dự một bài giảng Vật lý từ chính Albert Einstein.
Bên cạnh tất cả những điều này, deepfake không hoàn toàn được sử dụng theo cách mà nó đã dự định. Khoảng 96% deepfakes trên internet là nội dung khiêu dâm không có sự đồng ý.
Số lượng lớn dữ liệu đào tạo có sẵn cho những người nổi tiếng đã khiến họ trở thành nạn nhân được nhắm mục tiêu nhiều nhất của những trò lừa đảo sâu sắc.
Nó cho phép chúng tôi đặt bất kỳ ai vào các tình huống nguy hiểm hoặc có thể thỏa hiệp và do đó nó gây ra rủi ro lớn cho tất cả mọi người.
Những trò lừa bịp âm thanh đã được báo cáo là được sử dụng để lừa đảo các tập đoàn. Vào năm 2019, một kẻ mạo danh đã sử dụng âm thanh giả sâu để hướng dẫn một giám đốc điều hành của công ty có trụ sở tại Vương quốc Anh chuyển 220,000 euro vào một ngân hàng Hungary bằng cách mạo danh giám đốc điều hành công ty mẹ của công ty.
Làm thế nào để chống lại Deepfakes độc hại?
Thông thường, bạn có thể phát hiện video deepfake bằng cách quan sát kỹ từng khung hình và tìm kiếm đồ tạo tác và các điểm bất thường.
Tuy nhiên, đó là một quy trình phản trực quan và nhiều công ty đang làm việc trên các thuật toán và phần mềm để phát hiện deepfakes.
Facebook đã tuyển dụng các nhà nghiên cứu từ Berkeley, Oxford và các tổ chức khác để xây dựng một công cụ phát hiện deepfake. Tương tự, YouTube đã thông báo rằng họ sẽ không chấp nhận các video deepfake liên quan đến bầu cử Hoa Kỳ, thủ tục bỏ phiếu hoặc điều tra dân số Hoa Kỳ năm 2020.
Bạn cũng có thể sử dụng các chương trình như Hậu vệ thực tế và Deeptrace để phát hiện deepfakes.
Các quốc gia cũng đang bận rộn trong việc xây dựng luật liên quan đến việc sử dụng deepfakes nói chung. Hoa Kỳ đã thực hiện một số luật liên quan đến các khoản lãi sâu trong năm qua.
Tổng kết
Deepfake là hiện thân sống động của sự tiến bộ của AI. Tuy nhiên, nó càng làm mờ ranh giới của tương lai, tuy nhiên, nó là mối đe dọa tiềm tàng đối với uy tín của nội dung video-đồ họa trên internet.
Sẽ có lúc mọi người bắt đầu nghi ngờ mọi video trên internet và chúng ta sẽ bị đẩy vào một kỷ nguyên không chắc chắn hơn nữa.
Bình luận