AI đang làm cho các video giả trở nên quá thuyết phục

Nhìn thấy là tin tưởng. Chà, ít nhất đó là trường hợp trước khi chúng tôi nhận ra rằng mọi người có thể chỉnh sửa video một cách dễ dàng và thuyết phục để đẩy lùi những trò lừa bịp và viết lại lịch sử. Mặc dù chúng tôi đã tìm ra cách để lật tẩy hầu hết các hình ảnh lừa bịp, nhưng có một sự phát triển công nghệ tiếp tục tăng tốc, khiến việc phân biệt đâu là thật và đâu là khó khăn hơn.

Deepfakes thay đổi mọi thứ mà chúng tôi nghĩ là có thể đối với các video đã được chỉnh sửa. Dưới đây là những điều cần biết về deepfakes là gì, cũng như những rủi ro mà công nghệ này mang lại…

Deepfake là gì?

Thuật ngữ deepfakes xuất phát từ sự kết hợp của các từ “deep learning” và “fakes”. Điều này là do phần mềm trí tuệ nhân tạo được đào tạo về tổng hợp hình ảnh và video tạo ra những video này. Vì vậy, định nghĩa của deepfake là video hoặc hình ảnh giả được tạo bằng AI để thay thế khuôn mặt và giọng nói của nhân vật được miêu tả. AI này có thể chồng khuôn mặt của một đối tượng (nguồn) lên một video của đối tượng khác (mục tiêu). Trong khi đó, các dạng công nghệ deepfake tiên tiến hơn có thể tổng hợp một mô hình hoàn toàn mới của một người bằng cách sử dụng cử chỉ khuôn mặt của nguồn và hình ảnh hoặc video của đối tượng mà họ muốn mạo danh.

Công nghệ này có thể tạo các mô hình khuôn mặt dựa trên dữ liệu hình ảnh hạn chế, chẳng hạn như một hình ảnh. Tuy nhiên, AI càng phải xử lý nhiều dữ liệu thì kết quả càng thực tế.

Đây là lý do tại sao các chính trị gia và người nổi tiếng là mục tiêu dễ dàng cho deepfakes, vì có rất nhiều dữ liệu trực quan có sẵn trực tuyến mà phần mềm có thể sử dụng. Vì phần mềm deepfake có sẵn trên các nền tảng nguồn mở nên mọi người trên internet liên tục tinh chỉnh và xây dựng dựa trên công việc của những người khác.

Deepfakes đến từ đâu?

Công nghệ đằng sau deepfakes được phát triển cho nhiều mục đích. Giống như Photoshop, phần mềm này có mục đích sử dụng chuyên nghiệp, giải trí và sở thích. Và cũng giống như Photoshop, mặc dù những người sáng tạo ban đầu không có ý định xấu khi tạo phần mềm, nhưng điều này không ngăn được mọi người sử dụng nó cho mục đích xấu.

Công nghệ hoán đổi khuôn mặt ban đầu chủ yếu được sử dụng trong ngành công nghiệp điện ảnh. Một trong những trường hợp nổi tiếng nhất là trong bộ phim năm 2016 Rogue One: A Star Wars Story. Trong phim, các nhà làm phim đã sử dụng công nghệ hoán đổi khuôn mặt và tổng hợp video để tái tạo nhân vật Grand Moff Tarkin.

Một phiên bản trẻ hơn của Công chúa Leia cũng được tạo ra trong phim. Trong cả hai trường hợp, mô hình khuôn mặt của các diễn viên ban đầu được đặt chồng lên các diễn viên đóng thế.

Các ứng dụng như Snapchat cũng sử dụng công nghệ hoán đổi khuôn mặt để tạo các bộ lọc thú vị cho người dùng. Các nhà phát triển đằng sau các ứng dụng này liên tục tinh chỉnh tính năng theo dõi và phát hiện khuôn mặt để áp dụng các bộ lọc này hiệu quả hơn.

Những người khác đã phát triển các công cụ tổng hợp video để tạo ảnh ba chiều cho mục đích giáo dục. Ví dụ, một dự án đã phát triển phần mềm tổng hợp video và khuôn mặt để lời khai của những người sống sót sau thảm họa Holocaust có thể được trình bày dưới dạng ảnh ba chiều tương tác tại viện bảo tàng.

Công nghệ Deepfake tiến bộ nhanh chóng

Máy học làm cho cuộc sống dễ dàng hơn, nhưng trong trường hợp này, nó làm cho việc làm giả dễ dàng hơn nhiều. Giống như nghệ thuật do AI tạo ra đang thay đổi ngành nghệ thuật, deepfakes đã thay đổi bản chất của video trực tuyến. Nhưng một số thay đổi này là tiêu cực.

Đầu tiên, phần mềm deepfake được cung cấp rộng rãi và miễn phí. Ví dụ, FakeApp là một lựa chọn phổ biến để tạo deepfakes. Bạn không cần kỹ năng nâng cao để áp dụng hoán đổi khuôn mặt, phần mềm sẽ làm điều đó cho bạn.

Nhưng vì AI và deep learning giúp tạo ra deepfakes, nên công nghệ này cũng cải thiện và trở nên thuyết phục hơn với tốc độ đáng báo động. Đôi khi những chỉnh sửa này không thể nhìn thấy bằng mắt thường nên rất khó để phân biệt đâu là thật đâu là giả. Có một số dấu hiệu nhận biết để giúp bạn phát hiện deepfake, chẳng hạn như các cạnh bị cắt hoặc biến dạng khuôn mặt ở một số góc nhất định.

Trong một thế giới tràn ngập tin giả, những tin giả sâu có sức thuyết phục có thể chứng tỏ là một lực lượng hỗn loạn chống lại những gì chúng ta tin là đúng. Sự gia tăng của deepfakes cũng đang diễn ra vào thời điểm tổng hợp giọng nói AI và trình tạo giọng nói AI cũng đang phát triển.

AI không chỉ có thể tạo video giả mà còn có thể tạo mẫu giọng nói cho con người. Điều này có nghĩa là bạn sẽ không cần một người đóng giả để làm cho nó nghe giống như một chính trị gia đang đưa ra một tuyên bố thái quá. Thay vào đó, bạn có thể huấn luyện AI bắt chước giọng nói của họ.

Hậu quả của Deepfakes

Mặc dù bạn có thể sử dụng deepfakes để tạo video giải trí nhưng nhiều người cũng sử dụng deepfakes cho mục đích xấu. Mọi người đã sử dụng FakeApp để tạo video giả về những người nổi tiếng trong các tình huống thỏa hiệp.

Hơn nữa, ở hầu hết các quốc gia, chưa có luật nào xử lý loại nội dung này nên rất khó điều chỉnh. Mặc dù chúng ta vẫn còn cách xa tình trạng lạc hậu do thông tin sai lệch và bằng chứng video sai lệch mà chúng ta thấy trong các bộ phim như The Running Man, nhưng tất cả chúng ta đã quá quen thuộc với tác động của tin tức giả mạo.

Hậu quả của deepfakes được sử dụng cho mục đích chính trị là gấp đôi. Đầu tiên, nó làm cho tin tức giả dễ lan truyền hơn nhiều. Video có nhiều khả năng hơn là văn bản hoặc hình ảnh để thuyết phục mọi người rằng điều gì đó hư cấu đã thực sự xảy ra. Mọi người đã tin vào các tiêu đề từ các trang web giả mạo mà không có bằng chứng.

Một ví dụ về deepfake được sử dụng để đánh lừa mọi người là deepfake năm 2022 đã hiển thị video Tổng thống Ukraine Volodymyr Zelenskyy yêu cầu quân đội đầu hàng. Điều này đã được chứng minh là giả, nhưng video vẫn lan truyền trên mạng xã hội.

Mặt khác, deepfakes cũng có thể khuyến khích các chính trị gia trốn tránh trách nhiệm giải trình. Họ luôn có thể dễ dàng tuyên bố rằng bản ghi âm thanh hoặc video thực sự là một tác phẩm sâu.

Chúng ta đang chiến đấu với Deepfakes như thế nào?

Có thể khó bảo vệ bạn khỏi các video deepfake. Nhưng có nhiều cách mà các công ty đang làm việc để làm cho deepfakes dễ dàng phát hiện hơn. Có nhiều công cụ nhằm chống lại các video giả mạo độc hại. Nhiều công cụ trong số này sử dụng AI để phát hiện giả mạo trong video.

Tổ chức AI đã tạo một plugin trình duyệt có tên là Reality Defender để giúp phát hiện nội dung deepfake trực tuyến. Một plugin khác là SurfSafe cũng thực hiện kiểm tra tương tự. Cả hai công cụ này nhằm mục đích giúp người dùng internet phân biệt sự thật với hư cấu.

Các trang web kiểm tra tính xác thực có uy tín cũng đã mở rộng sang loại bỏ các video đã được chỉnh sửa. Trong khi đó, Microsoft cũng đã tung ra công nghệ giúp chống lại video deepfake.

Ngay cả Bộ Quốc phòng Hoa Kỳ cũng đầu tư vào phần mềm để phát hiện deepfakes. Xét cho cùng, điều gì sẽ xảy ra nếu một video thuyết phục về một nhà lãnh đạo thế giới xuất hiện trực tuyến, tuyên bố chiến tranh hoặc phóng tên lửa chống lại một quốc gia khác? Chính phủ cần các công cụ để nhanh chóng xác minh tính hợp pháp của video.

Hậu quả ngoài ý muốn của Machine Learning

Không còn nghi ngờ gì nữa, công nghệ AI và máy học sâu cải thiện cuộc sống của chúng ta theo nhiều cách. Nhưng công nghệ này cũng có những hậu quả không mong muốn. Thật khó để dự đoán cách mọi người có thể sử dụng một số công nghệ nhất định cho mục đích xấu và deepfakes là một ví dụ về điều này.