Por Cristhian Guadarrama Martínez
En medio de la creciente amenaza de desinformación electoral impulsada por herramientas de inteligencia artificial, OpenAI ha anunciado un conjunto de medidas estrictas para salvaguardar la integridad democrática.
Ante la posibilidad de que sus propias herramientas sean utilizadas para distorsionar la realidad política, la organización ha tomado medidas cruciales.
La proliferación de deepfakes y contenido generado por IA ha planteado la preocupación de que estas tecnologías puedan tener un impacto significativo en las elecciones de 2024.
El reciente deepfake en TikTok, que presentaba a Timothee Chalamet y Leonardo DiCaprio, sirvió como un recordatorio inquietante de las posibles consecuencias.
En respuesta, OpenAI ha actualizado sus políticas, prohibiendo explícitamente el uso de sus herramientas, como ChatGPT y DALL-E, para representar falsamente a candidatos o gobiernos locales.
Además, se ha puesto fin al uso de estas herramientas para campañas políticas o lobby, así como para desalentar la votación o distorsionar el proceso electoral.
OpenAI también planea integrar las credenciales digitales de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) en las imágenes generadas por DALL-E. Esta colaboración con la C2PA, que cuenta con el respaldo de Microsoft, Amazon, Adobe y Getty, busca agregar una capa adicional de autenticidad a las imágenes generadas por IA.
Estas credenciales digitales permitirán rastrear la procedencia de las imágenes, facilitando la identificación de contenido artificialmente generado. La implementación de este sistema se espera a principios de este año, fortaleciendo así las defensas contra la desinformación visual.
Para abordar las preguntas relacionadas con la votación en los Estados Unidos, las herramientas de OpenAI redirigirán a los usuarios a CanIVote.org.
Esta colaboración busca proporcionar información precisa y confiable sobre cómo y dónde votar en los Estados Unidos, consolidando así los esfuerzos para promover una participación electoral informada y segura.
A pesar de estas iniciativas, OpenAI reconoce que la lucha contra la desinformación electoral es un desafío en constante evolución. Las herramientas propuestas dependen en gran medida de la denuncia de los usuarios y se encuentran en proceso de implementación. La eficacia de estas medidas, en una era de rápida evolución tecnológica, aún está por determinarse.
En este escenario, la alfabetización mediática emerge como una herramienta esencial. El cuestionamiento constante de la veracidad de la información y la búsqueda activa de la verdad son prácticas fundamentales en un entorno donde la IA puede sorprendernos tanto con poesía cautivadora como con narrativas engañosas. En la temporada electoral, la vigilancia y la participación informada se vuelven más cruciales que nunca.
