La IA vs. nosotros
A la par que las grandes tecnológicas alertan sobre las consecuencias de sus propias creaciones, Europa toma la iniciativa para dar respuesta a los vertiginosos avances y riesgos que está generando la inteligencia artificial (IA).
El pasado 14 de junio, el Parlamento Europeo aprobó el borrador de la Ley de Inteligencia Artificial, con lo cual se iniciarán las conversaciones con los Estados miembros para adoptar un texto definitivo que sin duda marcará el rumbo a nivel mundial para el desarrollo y gobernanza de esta herramienta.
Los eurodiputados han añadido prohibiciones que se refieren a los usos intrusivos y discriminatorios de la IA, destacándose:
- Prohibición total de la IA para la vigilancia biométrica, el reconocimiento de emociones y los sistemas policiales predictivos.
- Obligación de precisar cuando el contenido ha sido creado por sistemas generativos como ChatGPT, un requisito de transparencia que ayudará a distinguir, por ejemplo, imágenes falsas de auténticas.
- Supervisión de los sistemas de IA susceptibles de ser utilizados para influir en los votantes y el resultado de las elecciones, como por ejemplo los sistemas de recomendación utilizados por las plataformas de redes sociales.
IA de alto riesgo para nuestro ecosistema informativo
Los avances en IA generativa amenazan con llevar a nuevos niveles el discurso del odio y la desinformación. Somos una sociedad que se ha dejado deslumbrar por nuevas herramientas que se han hecho muy populares, ignorando la seguridad y dando predilección al diseño y la experiencia. Difícilmente nos hemos detenido a cuestionar si lo que consumimos o creamos puede dar lugar a historias distorsionadas o esté revestido de veracidad. Cada vez existe contenido más convincente y persuasivo, que unido al virus de la “inmediatez” que nos afecta a todos, olvidamos la importancia de establecer límites a la privacidad y coto a los abusos. Así pues, la IA presenta dos caras de una misma moneda, o también podríamos decir un lado de luz y uno de oscuridad. A la luz: vemos que se han democratizado las comunicaciones, haciendo visible a quienes claman por el cambio, visibilizado a los aislados y reunido a los desplazados. Por otro lado, un lado oscuro, donde estamos a merced de contenido sesgado. Las redes sociales le han dado visibilidad a escala industrial a quienes transmiten mentiras y teorías conspirativas, con capacidad de erosionar masiva e instantáneamente cualquier ámbito de la esfera pública. Ejemplos de ello, varios: los antivacunas, quienes desmienten la gravedad del cambio climático, etc. Estas voces no son nuevas pero el poder global de las redes sociales amplifica el alcance de sus ideas, erosionando la confianza en la ciencia, los valores democráticos, la convivencia… sembrando un odio lo suficientemente potente como para provocar una guerra. En todos los ámbitos, los algoritmos que priorizan la interacción (o popularidad) por encima de cualquier otro valor, han conducido a opiniones polarizadas, normalizando el antisemitismo, el racismo y otras expresiones de odio. Garantizar la vigilancia humana de los procesos de IA para que su desarrollo no sea una amenaza para nuestra propia existencia, no es un capricho, es una prioridad de primer orden a nivel mundial. El impulso de la creatividad y productividad que nos proporciona la IA, no debe socavar nuestros derechos fundamentales; reflexión que ya hemos compartido desde el último capítulo de Básicos T&C “10 hitos del MKD y un epílogo de futuro”Josymar Guzmán Ejecutiva de cuentas Junior en Marketing Digital
