Cómo la inteligencia artificial podría apoderarse de las elecciones y socavar la democracia

El siguiente artículo se reproduce con permiso de The Conversation, una publicación en línea que cubre las últimas investigaciones. Ha sido modificado por los autores de Noticias-Hoy y puede diferir de la versión original.

¿Pueden las organizaciones utilizar modelos de lenguaje de IA como ChatGPT para inducir a sus electores a comportarse de maneras específicas?

Sobre el apoyo al periodismo científico

Si disfrutó este artículo, considere apoyar nuestro periodismo galardonado suscribiéndose. Al comprar una suscripción, ayudas a garantizar un futuro de historias impactantes sobre los descubrimientos e ideas que dan forma a nuestro mundo actual.

El senador Josh Hawley hizo esta pregunta al director ejecutivo de OpenAI, Sam Altman, en la audiencia de inteligencia artificial del Senado de EE. UU. el 16 de mayo de 2023. Altman respondió que le preocupaba que algunos pudieran utilizar modelos lingüísticos para manipular, persuadir e interactuar con los votantes uno a uno.

He aquí un escenario que Altman podría imaginar/imaginar: imaginemos que pronto los tecnólogos políticos desarrollarán una máquina llamada Clogger, un movimiento político en una caja negra. Clogger persigue incansablemente un objetivo: maximizar las posibilidades de que sus candidatos (campañas que compran los servicios de Clogger Inc.) ganen las elecciones.

Mientras que plataformas como Facebook, Twitter y YouTube utilizan formas de inteligencia artificial para lograr que los usuarios pasen más tiempo en sus sitios, la IA de Clogger tiene un objetivo diferente: cambiar el comportamiento de votación de las personas.

Cómo funciona Clogger

Como politólogo y jurista que estudia la intersección de la tecnología y la democracia, creemos que algo como Clogger podría aprovechar la automatización para ampliar significativamente la escala y el potencial de la manipulación conductual y las técnicas de microtargeting utilizadas por las campañas políticas desde principios de la década de 2000. Así como los anunciantes ahora usan su historial de navegación y de redes sociales para orientar individualmente anuncios comerciales y políticos, Clogger se enfocará individualmente en usted y en cientos de millones de otros votantes.

Ofrecería tres avances en comparación con la manipulación algorítmica del comportamiento de última generación. En primer lugar, su modelo de lenguaje generará mensajes (de texto, de redes sociales y de correo electrónico) personalizados para usted, que tal vez incluyan imágenes y videos. Aunque los anunciantes colocan estratégicamente una cantidad relativamente pequeña de anuncios, los modelos de lenguaje como ChatGPT pueden generar innumerables mensajes únicos para usted personalmente y millones de mensajes únicos para otros en el transcurso de una campaña publicitaria.

En segundo lugar, Clogger utilizará una técnica llamada aprendizaje por refuerzo para generar mensajes que tienen cada vez más probabilidades de cambiar su voto. El aprendizaje por refuerzo es un enfoque de aprendizaje automático, de prueba y error, en el que una computadora realiza acciones y recibe retroalimentación sobre cuál funciona mejor para aprender cómo lograr un objetivo. Las máquinas que pueden jugar al go, al ajedrez y a muchos videojuegos mejor que los humanos ya utilizan el aprendizaje por refuerzo.

Finalmente, en el transcurso de una campaña, el mensaje de Clogger puede evolucionar para tener en cuenta sus reacciones a mensajes anteriores y lo que ha aprendido sobre cómo cambiar la opinión de otras personas. Con el tiempo, Clogger entabla «conversaciones» dinámicas contigo y con millones de personas más. Los mensajes de Clogger son similares a los anuncios que lo rastrean en diferentes sitios web y redes sociales.

La naturaleza de la inteligencia artificial

Vale la pena señalar tres características (o errores) adicionales.

En primer lugar, los mensajes enviados por los Cloggers pueden ser políticos o no. El único objetivo de la máquina es maximizar el porcentaje de votos y puede diseñar estrategias para lograr este objetivo que un activista humano no consideraría.

Una posibilidad es enviar mensajes a posibles votantes opositores sobre su entusiasmo apolítico por los deportes o el entretenimiento para enmascarar los mensajes políticos que reciben. Otra posibilidad es enviar mensajes ofensivos, como anuncios de incontinencia, programados para que coincidan con los mensajes de su oponente. Otro es un grupo de redes sociales que manipula a los votantes para hacerles sentir que sus familiares, vecinos y amigos apoyan a su candidato.

En segundo lugar, Clogger no respeta los hechos. De hecho, no tiene forma de saber qué es verdad y qué es falso. El modelo de lenguaje «ilusión» no es un problema para esta máquina, porque su objetivo es cambiar su voto, no proporcionar información precisa.

Finalmente, dado que es un tipo de inteligencia artificial de caja negra, no hay forma de saber qué estrategias utiliza.

Dictadura

Si una campaña presidencial republicana implementara Clogger en 2024, las campañas demócratas podrían verse obligadas a responder de la misma manera, tal vez utilizando máquinas similares. Simplemente llámalo perro. Si los directores de campaña deciden que estas máquinas son efectivas, es probable que la carrera presidencial se convierta en una batalla de Cloggers versus Doggers, en la que los ganadores serán los clientes de las máquinas más efectivas.

Los contenidos ganadores procederán de una inteligencia artificial centrada únicamente en ganar, no de candidatos o partidos, sin ideas políticas propias. En este sentido tan importante, las máquinas ganarán las elecciones, no las personas. Si bien todas las actividades cotidianas de la democracia (discursos, publicidad, información, votación y conteo) tendrán lugar, las elecciones ya no serán democráticas.

Un presidente electo por AI puede elegir una de dos maneras. Él o ella puede usar el manto electoral para implementar políticas republicanas o demócratas. Pero como lo que piensa un partido puede no tener nada que ver con por qué la gente vota (a Klogger y Doug no les importan las opiniones políticas), las acciones del presidente no reflejan necesariamente la voluntad de los votantes. Los votantes serán manipulados por la inteligencia artificial en lugar de elegir libremente líderes y políticas políticas.

Otro camino es que los presidentes sigan información, comportamiento y políticas predichas por máquinas para maximizar sus posibilidades de reelección. En este camino, el presidente no tendrá ninguna plataforma o agenda específica más que mantener el poder. Bajo la dirección de Clogger, las acciones del presidente serán las que con mayor probabilidad manipularán a los votantes en lugar de servir a sus verdaderos intereses o incluso a la propia ideología del presidente.

evitar la burocracia

Si los candidatos, las campañas y los consultores renuncian al uso de este tipo de IA política, podría ser posible evitar la manipulación electoral por parte de la IA. Creemos que esto es poco probable. Si se desarrollaran cajas negras políticamente efectivas, las presiones competitivas harían que su uso fuera casi irresistible. De hecho, los consultores políticos probablemente utilizarán estas herramientas para ayudar a los candidatos a ganar según lo requieran sus responsabilidades profesionales. Una vez que un candidato maneja una herramienta tan efectiva, es difícil esperar que sus oponentes se desarmen unilateralmente y se conviertan en resistencia.

Unas protecciones de privacidad más estrictas ayudarán. Los cloggers dependerán del acceso a grandes cantidades de datos personales para dirigirse a individuos, elaborar mensajes para persuadirlos o manipularlos, y rastrearlos y reorientarlos durante la campaña. Negar toda la información sobre la máquina por parte de las empresas o los formuladores de políticas la hace menos efectiva.

Otra solución está en manos de la Comisión Electoral. Podrían intentar prohibir o regular estrictamente estas máquinas. Existe un acalorado debate sobre si ese discurso «replicado», incluso si es de naturaleza política, puede regularse. La extrema tradición estadounidense de libertad de expresión ha llevado a muchos académicos destacados a decir que no.

Pero no hay razón para extender automáticamente la protección de la Primera Enmienda a los productos de estas máquinas. Es posible que el Estado opte por potenciar las máquinas, pero esta debería ser una decisión basada en los desafíos actuales, en lugar de asumir erróneamente que las opiniones de James Madison de 1789 estaban destinadas a aplicarse a la inteligencia artificial.

Los reguladores de la UE están avanzando en esta dirección. Los responsables políticos han revisado el proyecto de ley de inteligencia artificial del Parlamento Europeo para designar los «sistemas de inteligencia artificial que influyen en los votantes en las campañas electorales» como de «alto riesgo» y sujetos a escrutinio regulatorio.

Los reguladores europeos de Internet y California han dado parcialmente un paso constitucionalmente más seguro (aunque más pequeño) al prohibir que los robots se hagan pasar por humanos. Por ejemplo, las regulaciones pueden exigir que los mensajes de campaña incluyan un descargo de responsabilidad cuando el mensaje contiene contenido generado por una máquina en lugar de un humano.

Esto es similar al requisito de exención de responsabilidad del anuncio (“Pagado por el Comité del Congreso de Sam Jones”), pero modificado para reflejar sus orígenes de IA: “Este anuncio generado por IA fue pagado por el Comité del Congreso de Sam Jones”. necesidad: «El Comité del Congreso de Sam Jones le está enviando este mensaje generado por IA porque Clogger predice que hacerlo aumentará sus posibilidades de votar por Sam Jones en un 0,0002%». Como mínimo, creemos que los votantes deberían saber cuándo aparece un robot. around Habla con ellos y ellos también deberían saber por qué.

Las posibilidades de sistemas como Clogger sugieren que el camino hacia el desempoderamiento humano colectivo puede no requerir algún tipo de inteligencia artificial general sobrehumana. Puede que sólo sean necesarios activistas y consultores demasiado entusiastas, armados con nuevas y poderosas herramientas, para presionar de manera efectiva muchos botones sobre millones de personas.

Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor no representan necesariamente las opiniones de Noticias-Hoy.

Este artículo apareció originalmente en The Conversation. Lea el artículo original.