Giá vàng Mua Bán
Vàng SJC 41.24 41.54
Vàng nữ trang 24 K 40.72 41.52
Tỷ giá VND
EUR Euro 26.177,02
JPY Yên Nhật 214,70
USD Đô Mỹ 23.260,00
Chứng khoán
VNIndex 1,010.03 -2.27 -0.22%
HNX 106.03 -0.21 -0.2%
UPCOM 56.71 -0.11 -0.19%

Deepfake là gì và nó đáng sợ với người dùng internet ra sao?

MINH TUẤN 15:26 | 14/10/2019 GMT+7

Deepfake là đứa con ghẻ của công nghệ A.I, khi công nghệ này được dùng cho các mục đích xấu, như gắn mặt ca sỹ vào các video khiêu dâm.

Các ứng dụng chỉnh sửa ảnh ngày nay đang trở nên tinh vi hơn. Người dùng có thể kéo dài chân, loại bỏ mụn, thêm vào các chi tiết như tai động vật, thậm chí hiện tại có thể tạo ra các video giả nhưng trông rất thật. Công nghệ được sử dụng để tạo ra nội dung như vậy đã nhanh chóng trở nên phổ biến với công chúng và nó được gọi là deepfake .

Deefake là công nghệ chỉnh sửa hình ảnh video hoặc các sản phẩm công nghệ khác, dùng trí tệ nhân tạo tinh vi, mang lại hình ảnh và âm thanh giả như trông rất thật.

"Những loại video đó đang trở nên ngày càng tinh vi và dễ tiếp cận", John Villasenor, nghiên cứu viên quản trị cấp cao không thường trú tại Trung tâm Đổi mới Công nghệ của tổ chức chính sách công có trụ sở tại Washington, Viện Brookings.

"Trên thực tế, bất cứ ai có máy tính và truy cập internet đều có thể tạo ra nội dung deepfake", ông Villasenor, ông cũng là giáo sư kỹ thuật điện tại Đại học California, Los Angeles.

Nếu bạn vẫn chưa hiểu thế nào là deepfake, hãy xem đoạn video dưới đây:

Deepfakes là gì?

Không phải ngẫu nhiên Trung tâm Nghiên cứu chiến lược và quốc tế (CSIS) của Mỹ xếp các video được làm giả dựa trên công nghệ deepfake vào 1 trong 5 nguy cơ gây mất an ninh toàn cầu năm 2019. Hãy thử tưởng tượng một ngày nào đó lãnh đạo của một quốc gia trở thành nạn nhân của deepfake khi xuất hiện trong một đoạn phim nhạy cảm được tung ra ngay trước thềm bầu cử, hậu quả có thể được hình dung rõ ràng hơn.

Là một thuật ngữ mới xuất hiện gần đây, deepfake dường như là sự kết hợp giữa hai từ deep-learning (học sâu) và fake (giả). Điều này không chỉ nói lên bản chất giả dối của nó, mà còn cho thấy sự nguy hiểm tiềm ẩn từ việc tận dụng sức mạnh công nghệ.

So sánh một video gốc và deepfake của Giám đốc điều hành Facebook Mark Zuckerberg.
So sánh một video gốc và deepfake của Giám đốc điều hành Facebook Mark Zuckerberg.

Các sản phẩm sử dụng khả năng machine learning (học máy) của AI đều cần trải qua hai bước cơ bản chính: nạp dữ liệu đầu vào trước khi sử dụng một thuật toán thích hợp để xử lý và "học" từ các dữ liệu được cung cấp. Với các video deepfake, nguồn dữ liệu không phải là chuyện khó, đặc biệt là những người nổi tiếng. Cái mà những video giả này cần chỉ là biểu cảm gương mặt của nạn nhân.

Deepfake còn gây lo ngại bởi có thể trở thành công cụ đe dọa và phỉ báng người khác, chẳng hạn biến một người trở thành nhân vật chính trong một clip 18+ hay đưa ra các phát ngôn gây sốc. Scarlett Johansson, nữ diễn viên nổi tiếng người Mỹ, đã quá quen thuộc với các chiêu trò ghép mặt cô vào các ảnh khỏa thân. Nhưng khi deepfake xuất hiện, Johansson thừa nhận tự mình chống lại mặt tối của Internet là điều không tưởng.

Deepfake hoạt động như thế nào?

Deep learning, nền tảng của các phương pháp Deepfake, mô tả ứng dụng hiện đại của mạng nơ-ron nhân tạo (Artificial Neural Network) vào các bộ dữ liệu lớn. Mạng nơ-ron nhân tạo không phải là khái niệm hay công nghệ mới nào cả, tính đến thời điểm hiện tại mạng lưới này vẫn còn khá thô sơ.

Một mạng lưới nơ-ron nhân tạo mô phỏng quá trình học xảy ra trong bộ phận não sinh học ở một mức độ nào đó. Khi một người học hoặc phản ứng với thế giới bên ngoài, các kết nối giữa các tế bào não của họ sẽ thay đổi.

Chúng tạo thành các mạch và cấu trúc logic, tăng cường một số kết nối và làm yếu các kết nối khác. Khi bạn đã thành thạo một thứ gì đó, chẳng hạn như lái xe, những mạch não này sẽ phản hồi nhanh hơn và hiệu quả hơn. Kết quả cuối cùng là bạn trở nên giỏi trong một lĩnh vực nào mà bạn trước giờ bạn vẫn nghĩ mình không thể làm được.

Về cơ bản, điều này cũng xảy ra tương tự với hệ thống Deep learning. Nó sẽ nhìn vào hàng đống ví dụ về một thứ, lĩnh vực gì đó và dần trở nên hiểu biết về lĩnh vực đó hơn.

Trong trường hợp của Deepfake, phần mềm sẽ quét video và ảnh chân dung của một người nào đó và gán khuôn mặt của một người này sang cho một người khác trong video.

Một số ứng dụng cho phép người dùng tạo deepfake, trong đó phổ biến nhất là ứng dụng FakeApp, tuy nhiên hiện tại link tải ứng dụng đã bị xóa sổ. Người dùng hiện chuyển qua ứng dụng khác có tên DeepFaceLab, được lưu trữ trên GitHub.

Làm thế nào để phát hiện các video deepfake?

Deepfake hiện vẫn còn ở giai đoạn sơ khởi, nên các hình ảnh vẫn chưa đạt tới mức hoàn hảo. Có một số cách để nhận biết video giả được làm bằng deepfake như biểu cảm gương mặt và môi vẫn còn bị nhòe, vùng da mặt sáng hơn và đôi khi là khác màu so với các vùng da còn lại trên cơ thể.

Kẻ xấu tạo video deepfake về Tổng thống Nga Vladimir Putin. Bên trái là ảnh video gốc, bên phải là ảnh đã qua chỉnh sửa dùng công nghệ AI. Ảnh chụp màn hình.
Kẻ xấu tạo video deepfake về Tổng thống Nga Vladimir Putin. Bên trái là ảnh video gốc, bên phải là ảnh đã qua chỉnh sửa dùng công nghệ AI . Ảnh chụp màn hình.

Một số chuyên gia khuyến cáo nên hạn chế chia sẻ các hình ảnh lên mạng xã hội, những nơi bất kỳ ai cũng có thể dễ dàng tìm thấy nguồn dữ liệu cho deepfake. Điều quan trọng hơn là mỗi người cần tự kiềm chế các hành vi của mình theo nguyên tắc "không có cung sẽ chẳng có cầu".

Lấy ví dụ, nếu số lượng người muốn xem các video khiêu dâm deepfake tăng lên, kẻ xấu sẽ càng có thêm động lực để phát triển deepfake trở nên tinh vi đến mức không thể nhận biết bằng mắt thường nữa

Các tập đoàn lớn như Facebook và Microsoft đã đưa ra các sáng kiến ​​để phát hiện và loại bỏ các video deepfake. Hai công ty đã tuyên bố vào đầu năm nay rằng họ sẽ hợp tác với các trường đại học hàng đầu trên khắp Mỹ để tạo ra một cơ sở dữ liệu lớn các video deepfake để nghiên cứu, theo Reuters.

Đối phó với deepfake ra sao?

Với sự phát triển của AI hiện tại, bất kỳ ai cũng có thể tạo ra các video giả bằng deepfake và phát tán chúng ngay tại nhà riêng. Tin tốt là các video deepfake vẫn chưa đạt được sự hoàn thiện 100% và nhiều cơ sở nghiên cứu, các Chính phủ đang nỗ lực phát triển các công nghệ sử dụng AI để chống lại AI.

Một số mạng xã hội đã bắt đầu có cái nhìn tỉnh táo hơn về deepfake. Chương trình MediFor của Chính phủ Mỹ đang nỗ lực tạo ra các công cụ sử dụng AI để phân tích các phương tiện trực quan và phát hiện những thao tác chỉnh sửa tinh vi bằng AI. Reddit, nơi chia sẻ các video khiêu dâm đầu tiên sử dụng deepfake, đã đóng các diễn đàn trao đổi về chủ đề này. Trong khi Twitter chặn việc chia sẻ các video deepfake, Facebook cho rằng những video này nên được phân loại vào một lĩnh vực khác fake news.

Nhưng tin xấu là chúng ta đang ngày càng đánh mất sự an toàn của bản thân bằng chính sự tò mò của mình. Lấy ví dụ như ZAO, một app di động sử dụng deepfake để ghép mặt vào các bộ phim bom tấn, người dùng đã vô tư chụp các biểu cảm gương mặt và gửi nó cho ZAO chỉ để được vài phút thấy mình xuất hiện trong một cảnh quay nổi tiếng.

Nói như một nhà nghiên cứu thuộc CSIS, thứ duy nhất có thể chống lại fake news dưới bất kỳ hình thức nào lại chính là con người, tất nhiên phải được giáo dục và có nhận thức về nguy cơ từ các hành động của mình trên mạng Internet.

Từ khóa:
id news:186491