Đằng sau thủ đoạn AI định hình cuộc bầu cử của Ấn Độ năm 2024

Nền dân chủ deepfake

Khi các cử tri xếp hàng vào sáng sớm ngày 30/11 năm ngoái để bỏ phiếu trong cuộc bầu cử lập pháp nhằm chọn ra chính phủ tiếp theo của bang Telangana phía nam Ấn Độ, một đoạn clip dài 7 giây bắt đầu lan truyền trên mạng xã hội cho thấy Rama Rao - một lãnh đạo của Bharat Rashtra Samiti đang cai trị bang, kêu gọi người dân bỏ phiếu ủng hộ Quốc hội.

Quốc hội đã chia sẻ rộng rãi nó trên một loạt ứng dụng. Cuối cùng nó đã xuất hiện trên tài khoản mạng xã hội X chính thức của đảng, được xem hơn 500.000 lần. Nhưng, nó là giả.

"Nó được tạo ra bởi AI, nhưng một cử tri bình thường sẽ không thể phân biệt được. Cuộc bỏ phiếu đã bắt đầu khi video được đăng và không có thời gian để kiểm soát thiệt hại", lãnh đạo đảng Quốc hội nói.

Deepfake được tính thời gian một cách khéo léo là dấu hiệu cho thấy làn sóng phương tiện truyền thông do AI tạo ra hoặc bị thao túng đã làm hỏng một loạt cuộc bầu cử ở các bang của Ấn Độ trong những tháng gần đây, làm đe dọa các cuộc tổng tuyển cử sắp tới của đất nước.

Từ tháng 3 đến tháng 5, gần một tỷ cử tri Ấn Độ sẽ bầu ra chính phủ quốc gia tiếp theo của họ trong cuộc bầu cử lớn nhất thế giới. Những mối đe dọa từ phương tiện truyền thông lừa đảo do AI tạo ra đã thu hút sự chú ý của thế giới khi liên tục nhắm vào những người nổi tiếng như các nghệ sỹ và chính trị gia có tầm ảnh hưởng. 

Vào tháng 11, Ashwini Vaishnaw, Bộ trưởng công nghệ thông tin của Ấn Độ, đã gọi deepfake là "mối đe dọa đối với nền dân chủ" và Thủ tướng Narendra Modi cũng đã lặp lại những lo ngại đó.

Tạo ra nhận thức

BJP, được cho là đảng có công nghệ phức tạp nhất Ấn Độ, đã đi đầu trong việc sử dụng ảo ảnh để vận động tranh cử. Từ năm 2012, đảng đã sử dụng hình ảnh ba chiều 3D của ông Modi để ông có thể đồng thời "tranh cử" ở hàng chục nơi cùng một lúc. Chiến lược này đã được triển khai rộng rãi trong cuộc tổng tuyển cử năm 2014 đưa ông Modi lên nắm quyền.

Vào tháng 2/2020, Manoj Tiwari, một thành viên quốc hội của BJP, đã trở thành một trong những người đầu tiên trên thế giới sử dụng deepfake để vận động tranh cử. 

Trong 3 video, Tiwari phát biểu trước cử tri ở Delhi trước cuộc bầu cử hội đồng lập pháp thủ đô bằng tiếng Hindi, tiếng Haryanvi và tiếng Anh - tiếp cận ba đối tượng khán giả khác nhau ở thành phố đa văn hóa. 

Chỉ có video tiếng Hindi là thật, 2 video còn lại là video giả được làm bằng AI, từ giọng nói đến biểu cảm và cử động môi thật đến nỗi gần như không thể phát hiện được. 

Giờ đây, các nhà tư vấn và quản lý chiến dịch cho biết cuộc bầu cử năm 2024 có thể thúc đẩy việc sử dụng deepfake hơn nữa.

"Chính trị là tạo ra nhận thức. Với các công cụ AI điều chỉnh giọng nói và video với một cú nhấp chuột, nhận thức của bạn có thể thay đổi trong vòng một phút. Nội dung chính trị do AI thao túng sẽ tăng lên gấp bội, nhiều hơn bao giờ hết", Arun Reddy, điều phối viên quốc gia về truyền thông xã hội tại Quốc hội, người giám sát cuộc bầu cử Telangana am hiểu công nghệ của đảng, cho biết. 

Các chiến dịch đang trở nên kỳ lạ hơn

Đến từ thị trấn sa mạc Pushkar ở miền Tây Ấn Độ, Divyendra Singh Jadoun, điều hành một công ty khởi nghiệp về AI - The Indian Deepfaker. 

Ra mắt vào tháng 10/2020, công ty của ông đã nhân bản giọng nói của Ashok Gehlot, ứng cử viên trưởng Quốc hội bang Rajasthan để nhóm của ông gửi tin nhắn được cá nhân hóa trên WhatsApp trong cuộc bầu cử quốc hội vào tháng 11. 

Deepfaker Ấn Độ hiện đang làm việc với nhóm của Bộ trưởng Sikkim Prem Singh Tamang để chụp ảnh ba chiều trong các chiến dịch sắp tới. Sikkim là một trong những bang nhỏ nhất của Ấn Độ ở phía đông bắc, nằm trên dãy Himalaya giữa Ấn Độ, Bhutan và Trung Quốc.

Trong những tháng gần đây, ông bị choáng ngợp bởi "những yêu cầu phi đạo đức" từ các chiến dịch chính trị. Jadoun nói: "Các đảng chính trị tiếp cận gián tiếp thông qua các số điện thoại quốc tế trên WhatsApp, tay cầm ghi trên Instagram hoặc kết nối trên Telegram".

Công ty của ông đã từ chối hơn 50 yêu cầu như vậy, trong đó các khách hàng tiềm năng muốn thay đổi video và âm thanh để nhắm mục tiêu vào các đối thủ chính trị, bao gồm cả nội dung khiêu dâm. 

Là một công ty khởi nghiệp, Jadoun cho biết công ty của anh đặc biệt cẩn thận để tránh mọi rắc rối pháp lý. 

Việc sản xuất nội dung deepfake thường được gia công cho các công ty tư vấn tư nhân, những công ty dựa vào mạng truyền thông xã hội để phân phối, dẫn đầu là WhatsApp.

Trong khi đó, âm thanh do AI điều khiển là công cụ đặc biệt có giá trị ở các khu vực bầu cử nhỏ, mục tiêu nhắm vào các ứng cử viên bằng các bản ghi âm cuộc gọi giả mạo về việc sắp xếp 'tiền đen' cho các cuộc bầu cử hoặc đe dọa ai đó mua phiếu bầu. Các đoạn ghi âm thường được che giấu bằng giọng nói của các ứng cử viên để coi chúng là bằng chứng tham nhũng.

Các mối đe dọa đối với tính liêm chính trong bầu cử

Anushka Jain, nhà nghiên cứu chính sách tại Phòng thí nghiệm tương lai kỹ thuật số có trụ sở tại Goa, cho biết luật pháp Ấn Độ hiện không định nghĩa rõ ràng về "deepfake". Cảnh sát đã sử dụng luật chống phỉ báng, tin giả hoặc vi phạm nhân phẩm, kết hợp với Đạo luật Công nghệ thông tin, để giải quyết các trường hợp riêng lẻ. Nhưng thường thì họ đang chơi "trò đập chuột".

"Cảnh sát đang truy tố tác động của deepfake chứ không phải vì bản thân nó là deepfake", cô nói. 

Các nhà phân tích cho rằng Ủy ban bầu cử Ấn Độ (ECI), một cơ quan tự trị tiến hành bỏ phiếu, cần phải bắt kịp tính chất thay đổi của các chiến dịch chính trị.

Quraishi, cựu ủy viên bầu cử Ấn Độ, cho biết: "Ngay cả khi một người bị lừa tin vào điều gì đó và điều đó khiến người đó thay đổi ý định, điều đó sẽ làm ảnh hưởng đến tính trong sạch của quá trình bầu cử. Deepfake đã khiến vấn đề tung tin đồn trong các cuộc thăm dò trở nên trầm trọng hơn hàng nghìn lần". 

Quraishi nói rằng các tác phẩm sâu cần được kiểm duyệt trong thời gian thực để giảm thiểu thiệt hại mà chúng có thể gây ra cho nền dân chủ Ấn Độ.

Sự thật nằm ngoài tầm tay

Chính phủ Ấn Độ đã thúc ép các công ty công nghệ lớn, bao gồm Google và Meta, tích cực nỗ lực kiểm duyệt các hoạt động deepfake trên nền tảng của họ. Bộ trưởng CNTT Rajeev Chandrasekhar đã gặp các quan chức của các công ty này để thảo luận về các mối đe dọa do deepfake gây ra.

Bằng cách yêu cầu lĩnh vực công nghệ dẫn đầu, chính phủ thoát khỏi mọi lời chỉ trích rằng họ đang cố gắng kiểm duyệt có chọn lọc các tác phẩm sâu có chọn lọc hoặc rằng họ đang cố gắng trấn áp các công nghệ AI mới nổi trên phạm vi rộng hơn.

Prateek Waghre, giám đốc điều hành của Tổ chức Internet tự do của Ấn Độ - một tổ chức tư vấn chính sách công nghệ hàng đầu có trụ sở tại New Delhi, cho biết, bằng cách chuyển trách nhiệm cho các công ty tư nhân, chính phủ đang đặt ra câu hỏi về tính chân thực trong ý định quản lý nội dung lôi kéo. 

Lập luận rằng các công ty công nghệ đã không thể giải quyết các vấn đề hiện có về kiểm duyệt nội dung, Waghre nói rằng "sự trỗi dậy của AI hiện nay" đã tạo ra những thách thức phức tạp. Và cách tiếp cận hiện tại để kiểm duyệt nội dung đã bỏ qua những gì thực sự cốt lõi của vấn đề. 

Vào ngày 16/2, các công ty công nghệ lớn đã ký một thỏa thuận tại Hội nghị An ninh Munich nhằm ngăn chặn việc sử dụng các công cụ trí tuệ nhân tạo để phá hoại các cuộc bầu cử dân chủ trên khắp thế giới. Nhưng hiệp ước có lời lẽ mơ hồ đã khiến nhiều người ủng hộ và chỉ trích thất vọng.

YouTube đã thông báo rằng họ sẽ cho phép mọi người yêu cầu xóa nội dung do AI tạo hoặc bị thay đổi mô phỏng một người có thể nhận dạng, bao gồm cả khuôn mặt hoặc giọng nói, bằng quy trình yêu cầu quyền riêng tư của YouTube.

Ravi Iyer, giám đốc điều hành của Neely tại Trường Kinh doanh Marshall của Đại học Nam California, cho biết: "Tôi không lạc quan lắm về khả năng phát hiện deepfake của nền tảng. Với trình độ hiểu biết về kỹ thuật số thấp và mức tiêu thụ video ngày càng tăng, điều này gây ra rủi ro nghiêm trọng cho tính liêm chính trong bầu cử của Ấn Độ". 

Iyer cho biết, việc xác định mọi phương tiện do AI điều khiển không phải là một nhiệm vụ hợp lý, vì vậy các công ty cần thiết kế lại các thuật toán không thúc đẩy nội dung phân cực. Ông nói: "Các công ty là những người có tiền và nguồn lực, họ cần thực hiện các bước hợp lý để giải quyết sự gia tăng của deepfake".

Trong khi đó, các chính trị gia đang củng cố chiến dịch của mình và thừa nhận rằng tương lai có vẻ đen tối.

"Hầu hết mọi người sử dụng AI đều nhằm mục đích bóp méo sự thật. Kết hợp sự thâm nhập của mạng xã hội ở Ấn Độ với sự trỗi dậy của AI, sự thật sẽ nằm ngoài tầm với của những người tham gia cuộc bầu cử hiện nay", Reddy, điều phối viên quốc gia về truyền thông xã hội tại Quốc hội khẳng định.

(Nguồn: Aljazeera)

Chia sẻ Chia sẻ

Chia sẻ

Lưu tin