AI trở thành công cụ tranh cử của các chính trị gia

Giả như thật

Khi các cử tri xếp hàng vào sáng sớm ngày 30-11-2023, để bỏ phiếu trong cuộc bầu cử lập pháp nhằm chọn ra chính quyền tiếp theo của bang Telangana, miền Nam Ấn Độ, thì một đoạn clip dài 7 giây bắt đầu lan truyền trên mạng xã hội của Đảng Quốc Đại (đảng đối lập trên toàn quốc và ở bang này vào thời điểm đó).

Đoạn clip cho thấy KT Rama Rao, một lãnh đạo của Đảng Bharat Rashtra Samiti, đang cầm quyền ở tiểu bang, kêu gọi người dân bỏ phiếu ủng hộ Đảng Quốc Đại. Đảng Quốc Đại chia sẻ rộng rãi clip này trên hàng loạt nhóm WhatsApp do Đảng Quốc Đại điều hành không chính thức, và trên tài khoản X chính thức của Đảng với lượt xem hơn 500.000 lần. Nhưng điều quan trọng: Nó là giả.

Một lãnh đạo Đảng Quốc Đại nói với báo giới: “Tất nhiên nó được tạo ra bởi AI, nhưng hoàn toàn giống thật. Một cử tri bình thường sẽ không thể phân biệt được. Cuộc bỏ phiếu đã bắt đầu khi video được đăng, và không có thời gian để chiến dịch đối lập kiểm soát thiệt hại”.

Deepfake được tính toán đúng thời gian một cách khéo léo, là dấu hiệu cho thấy làn sóng phương tiện truyền thông do AI tạo ra hoặc thao túng, đã làm hỏng một loạt cuộc bầu cử ở các bang của Ấn Độ trong những tháng gần đây, và điều đó hiện đang đe dọa định hình về cơ bản các cuộc tổng tuyển cử sắp tới của đất nước.

Từ nay đến tháng 5, gần 1 tỷ cử tri Ấn Độ sẽ bầu ra chính phủ tiếp theo trong cuộc bầu cử lớn nhất thế giới. Và với những phương tiện truyền thông lừa đảo do AI tạo ra đã thu hút sự chú ý của thế giới, khi những hình ảnh khiêu dâm giả mạo của nghệ sĩ Taylor Swift xuất hiện trên các nền tảng mạng xã hội vào tháng 1.

Vào tháng 11-2023, Ashwini Vaishnaw, Bộ trưởng Công nghệ Thông tin Ấn Độ, đã gọi deepfake là “mối đe dọa đối với nền dân chủ”, chính Thủ tướng Narendra Modi cũng đã lặp lại những lo ngại đó. Nhưng với sự sẵn có ngày càng tăng của các công cụ AI tiện dụng, các nhóm trong các đảng chính trị của Ấn Độ, bao gồm cả đảng Quốc Đại và đảng Bharatiya Janata (BJP) của Thủ tướng Modi, đang triển khai các tác phẩm deepfake để gây ảnh hưởng đến cử tri.

Dịch vụ đắt hàng

Đến từ thị trấn sa mạc Pushkar ở miền Tây Ấn Độ, Divyendra Singh Jadoun, 30 tuổi, điều hành một công ty khởi nghiệp về AI có tên The Indian Deepfaker. Ra mắt vào tháng 10-2020, công ty của anh đã nhân bản giọng nói của Ứng cử viên Bộ trưởng Đảng Quốc Đại, bang Rajasthan Ashok Gehlot. Theo đó, đảng của ông đã gửi tin nhắn được cá nhân hóa trên WhatsApp, đề cập đến từng cử tri bằng chính tên của họ trong cuộc bầu cử Quốc hội vào tháng 11.

Singh Jadoun nói đó là những hợp đồng “sạch sẽ”. Nhưng trong những tháng gần đây, anh bị choáng ngợp bởi “những yêu cầu phi đạo đức” từ các chiến dịch chính trị. Singh Jadoun nói trong một cuộc phỏng vấn qua điện thoại: “Các đảng chính trị tiếp cận gián tiếp thông qua các số điện thoại quốc tế trên WhatsApp, qua Instagram, hoặc kết nối trên Telegram, yêu cầu thay đổi video và âm thanh để nhắm mục tiêu vào các đối thủ chính trị, bao gồm cả nội dung khiêu dâm”.

Và Singh Jadoun cũng cho biết, trong cuộc bầu cử tháng 11, công ty của anh đã từ chối hơn 50 yêu cầu như vậy. Nhưng tôi biết nhiều người đang làm việc đó với giá rất thấp và hiện có sẵn”.

Trong các chiến dịch bầu cử cơ quan lập pháp bang Madhya Pradesh ở miền trung và Rajasthan ở phía Tây Ấn Độ vào tháng 11 năm ngoái, cảnh sát đã ghi nhận nhiều trường hợp video deepfake nhắm vào các chính trị gia cấp cao, bao gồm Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (Đảng BJP) và Kamal Nath (Đảng Quốc Đại). Việc sản xuất nội dung deepfake thường được gia công cho các công ty tư vấn tư nhân, những công ty này dựa vào mạng truyền thông xã hội để phân phối, dẫn đầu là WhatsApp.

Một nhà tư vấn chính trị tiết lộ rằng, một số công dân bình thường không có hồ sơ công khai đã được đăng ký trên WhatsApp, và được sử dụng cho các chiến dịch, nhằm khiến mọi người khó truy tìm trực tiếp họ về các đảng phái, ứng cử viên, nhà tư vấn và các công ty AI. Nhà tư vấn này đã thực hiện 6 chiến dịch trong cuộc bầu cử Quốc hội năm ngoái cho cả BJP và Quốc Đại.

Sự thật nằm ngoài tầm tay

Chính phủ Ấn Độ đã thúc ép các công ty công nghệ lớn, bao gồm Google và Meta, tích cực nỗ lực kiểm duyệt các hoạt động deepfake trên nền tảng của họ. Bộ trưởng CNTT Rajeev Chandrasekhar, đã gặp lãnh đạo của các công ty này để thảo luận về các mối đe dọa do deepfake gây ra.

Nhưng Prateek Waghre, Giám đốc điều hành của Tổ chức Tự do Internet của Ấn Độ, cho biết việc chuyển trách nhiệm cho các công ty tư nhân sẽ khiến chính phủ phủi tay dễ dàng, do đó việc kiểm soát nội dung thật giả trên mạng sẽ “gần như là một điều mơ tưởng”.

Vào ngày 16-2, các công ty công nghệ lớn đã ký một thỏa thuận tại Hội nghị An ninh Munich, để tự nguyện áp dụng “các biện pháp phòng ngừa hợp lý”, nhằm ngăn chặn việc sử dụng các công cụ trí tuệ nhân tạo để phá hoại các cuộc bầu cử dân chủ trên khắp thế giới. Nhưng hiệp ước có lời lẽ mơ hồ, đã khiến nhiều người thất vọng.

YouTube đã thông báo rằng, họ sẽ cho phép mọi người yêu cầu xóa nội dung do AI tạo hoặc bị thay đổi mô phỏng một người có thể nhận dạng, bao gồm cả khuôn mặt hoặc giọng nói của họ, bằng quy trình yêu cầu quyền riêng tư của YouTube.

Ravi Iyer, Giám đốc điều hành Trung tâm Ra quyết định và Lãnh đạo có đạo đức Neely, tại Trường Kinh doanh Marshall của Đại học Nam California, cho biết: “Với trình độ hiểu biết về kỹ thuật số thấp và mức tiêu thụ video ngày càng tăng, điều này gây ra rủi ro nghiêm trọng cho tính liêm chính trong bầu cử khắp nơi”.

Trong khi đó, các chiến dịch chính trị đang củng cố kho vũ khí AI của họ, và một số người như Reddy, điều phối viên quốc gia về truyền thông xã hội tại Đảng Quốc Đại, thừa nhận rằng tương lai có vẻ đen tối: “Hầu hết mọi người sử dụng AI đều nhằm mục đích bóp méo sự thật. Họ muốn tạo ra một nhận thức không dựa trên sự thật. Kết hợp sự thâm nhập của mạng xã hội ở Ấn Độ với sự trỗi dậy của AI, sự thật sẽ nằm ngoài tầm với của những người tham gia cuộc bầu cử hiện nay”.