Nhà sáng lập Facebook Mark Zuckerberg từng là nạn nhân của deepfake

Theo Foxnews, Google đã hợp tác và trả tiền cho nhiều diễn viên suốt một năm qua để ghi lại hàng trăm video, sau đó sử dụng các công cụ tái tạo hình ảnh deepfake được công khai trên mạng để sản xuất ra hàng nghìn video giả mạo mới. Hãng dịch vụ Internet Mỹ kỳ vọng dựa trên kho dữ liệu này, các chuyên gia công nghệ có thể phân tích, đánh giá và tìm ra những phương pháp để đối phó với deepfake.

Deepfake là những video, hình ảnh, giọng nói, âm thanh bị các phần mềm trí tuệ nhân tạo chỉnh sửa, bóp méo, cắt ghép khiến chúng trông như thật. Ban đầu, deepfake chủ yếu được dùng để ghép khuôn mặt các nữ diễn viên vào trong những video mang tính khiêu dâm.

Google dùng 3.000 video deepfake để chống deepfake.

Tuy nhiên, các công cụ này ngày càng phổ biến trong khoảng hai năm nay, đe dọa không chỉ các ngôi sao mà cả người bình thường. Nhiều nhân vật nổi tiếng của Mỹ như cựu Đệ nhất phu nhân Michelle Obama, nhà sáng lập Facebook Mark Zuckerberg, Tổng thống Donald Trump và Chủ tịch quốc hội Nancy Pelosi đều từng lànạn nhân của deepfake.

Ví dụ như một clip kỳ lạ về CEO Facebook Mark Zuckerberg khoe khoang về việc công ty của anh ta kiểm soát thông tin cá nhân của bạn đã lan truyền vào đầu năm nay. Hay bản thân Facebook đã bị chỉ trích rộng rãi sau khi một đoạn video của Chủ tịch Hạ viện Nancy Pelosi, D-Calif., bị thao túng để khiến cô ấy có vẻ say xỉn hoặc già yếu, đã lan truyền sau khi được một trang cánh hữu đăng lên mạng xã hội.

Các chuyên gia đã bày tỏ sự lo ngại về việc lạm dụng công nghệ giả mạo thông qua AI có thể tạo ra các thông tin sai lệch và nguy hiểm. Các nhà làm luật và các tổ chức về quyền kỹ thuật số cũng dự đoán deepfake sẽ gây ra những tác động lớn tới cuộc bầu cử Tổng thống Mỹ năm 2020.

Trong khi đó, Bobby Chesney, Giáo sư luật tại Đại học Luật Texas, nhận định trên Data and Society rằng con người sẽ không thể tránh khỏi nguy cơ trở thành nạn nhân của deepfake. Bất kỳ ai công khai hồ sơ cá nhân lên mạng xã hội đều có thể bị giả mạo.

Trong khi đó, một nhóm các nhànghiên cứu có trụ sở tại California tuyên bố đã xây dựng một công cụ có thể phát hiện các video giả mạo với độ chính xác 96%.