Los votantes indios están siendo bombardeados con millones de deepfakes. Los candidatos políticos lo aprueban

en un sofocante Una tarde de abril en Ajmer, en el estado indio de Rajasthan, la política local Shakti Singh Rathore se sentó frente a una pantalla verde para grabar un breve vídeo. Parecía nervioso. Era la primera vez que lo clonaban.

Con una impecable camisa blanca y un pañuelo ceremonial de color azafrán con una flor de loto (el logotipo del BJP, el partido gobernante del país), Rathore juntó las palmas de las manos y saludó a su audiencia en hindi. “Namashkar”, comenzó. “A todos mis hermanos…”

Antes de que pudiera continuar, el director del rodaje entró en escena. Divyendra Singh Jadoun, un hombre de 31 años calvo y con una espesa barba negra, le dijo a Rathore que se movía demasiado ante la cámara. Jadoun intentaba capturar suficientes datos de audio y vídeo para construir una IA profundo de Rathore que convencería a 300.000 votantes potenciales alrededor de Ajmer de que habían tenido una conversación personalizada con él, pero el exceso de movimiento rompería el algoritmo. Jadoun le dijo al sujeto que mirara directamente a la cámara y moviera solo los labios. “Empezar de nuevo”, dijo.

Ahora mismo, la democracia más grande del mundo va a las urnas. Cerca de mil millones de indios tienen derecho a votar como parte de las elecciones generales del país, y los deepfakes podrían desempeñar un papel decisivo y potencialmente divisivo. Los partidos políticos de la India han explotado la IA para deformar la realidad mediante métodos baratos. falsificaciones de audio, Imágenes de propaganday la IA parodias. Pero si bien el discurso global sobre los deepfakes a menudo se centra en la desinformación y otros daños sociales, muchos políticos indios están utilizando la tecnología para un propósito diferente: llegar a los votantes.

En todo el espectro ideológico, confían en la IA para ayudarlos a navegar los 22 idiomas oficiales del país y miles de dialectos regionales, y para entregar mensajes personalizados en comunidades más remotas. Si bien Estados Unidos lo hizo recientemente ilegal Para utilizar voces generadas por IA para llamadas no solicitadas, en India los deepfakes autorizados se han convertido en una oportunidad de negocio de 60 millones de dólares. En los dos meses previos al inicio de las elecciones en abril se realizaron más de 50 millones de llamadas clonadas de voz generadas por IA, y se realizarán millones más durante la votación, dijo a WIRED uno de los operadores de mensajería empresarial más grandes del país.

Jadoun es el modelo de esta floreciente industria. Su empresa, Polymath Synthetic Media Solutions, es uno de los muchos proveedores de servicios deepfake de toda la India que han surgido para atender a la clase política. Esta temporada electoral, Jadoun ha realizado hasta el momento cinco campañas de IA, por las que su empresa ha recibido un total de 55.000 dólares. (Cobra significativamente menos que los grandes consultores políticos: 125.000 rupias [$1,500] para hacer un avatar digital y 60.000 rupias [$720] para un clon de audio.) Ha hecho deepfakes para Prem Singh Tamang, el ministro principal del estado de Sikkim en el Himalaya, y resucitó a YS Rajasekhara Reddy, un político icónico que murió en un accidente de helicóptero en 2009, para respaldar a su hijo YS Jagan Mohan Reddy. , actual ministro principal del estado de Andhra Pradesh. Jadoun también ha creado canciones de propaganda generadas por IA para varios políticos, incluido Tamang, candidato local al parlamento y ministro principal del estado occidental de Maharashtra. “Él es nuestro orgullo”, decía una canción en hindi sobre un político local en Ajmer, con voces masculinas y femeninas con una melodía alegre. “Siempre ha sido imparcial”.

Si bien Rathore no se presentará a elecciones este año, es uno de los más de 18 millones de voluntarios del BJP encargados de garantizar que el gobierno del primer ministro Narendra Modi mantenga su poder. En el pasado, eso habría significado pasar meses recorriendo Rajasthan, un estado desértico aproximadamente del tamaño de Italia, para hablar con los votantes individualmente, recordándoles cómo se han beneficiado de varios programas sociales del BJP: pensiones, tanques gratuitos para gas para cocinar, dinero en efectivo. Pagos para mujeres embarazadas. Pero con la ayuda de los deepfakes de Jadoun, el trabajo de Rathore se ha vuelto mucho más fácil.

Pasará 15 minutos aquí hablando ante la cámara sobre algunos de los temas electorales clave, mientras Jadoun le hace preguntas. Pero realmente no importa lo que diga. Todo lo que Jadoun necesita es la voz de Rathore. Una vez hecho esto, Jadoun utilizará los datos para generar videos y llamadas que irán directamente a los teléfonos de los votantes. En lugar de llamar a su puerta o un rápido apretón de manos en un mitin, verán o escucharán a Rathore dirigirse a ellos por su nombre y hablar con inquietante especificidad sobre los temas que más les importan y pedirles que voten por el BJP. Si hacen preguntas, la IA debería responder, con una voz clara y tranquila que es casi mejor que el rápido acento del verdadero Rathore. Es posible que los votantes menos conocedores de la tecnología ni siquiera se den cuenta de que han estado hablando con una máquina. Incluso Rathore admite que no sabe mucho sobre IA. Pero él entiende la psicología. “Esos llamados pueden ayudar a los votantes indecisos”.

Rozándose los hombros con los políticos no es algo nuevo para Jadoun. Solía ​​ser uno. En 2015, se presentó a las elecciones en Ajmer como presidente de distrito del Sindicato Nacional de Estudiantes de la India (NSUI), el ala juvenil del Congreso Nacional Indio, el otrora formidable partido nacional que ahora es la principal oposición al BJP de Modi.