Verdad e Inteligencia Artificial

La serie británica The Capture, emitida en 2019, narra las acciones de agencias de seguridad para detener ataques sangrientos por parte de grupos terroristas. El problema que enfrentan las agencias es que han identificado a los atacantes, pero carecen de pruebas suficientes y con valor judicial para detenerlos antes de que cometan los atentados. Ante ese riesgo inminente, y con el fin de incriminarlos y ponerlos en prisión, utilizan un sofisticado programa capaz de manipular cámaras instaladas en la vía pública y en ámbitos privados para crear imágenes falsas que muestren el accionar de los terroristas y constituyan las pruebas que necesitan los tribunales. ¿El fin justifica los medios?Aunque en ese año no se hablaba de IA, The Capture fue una brillante serie anticipatoria de un mundo que está entre nosotros. Hoy en día, la posibilidad de extender esa capacidad de manipulación a otros ámbitos de la sociedad, y afectar a políticos, periodistas, referentes sociales y a cualquier ciudadano en general, tanto en su vida pública como privada, plantea los riesgos de la vigilancia masiva y omnipresente y la difusión de información falsa por el Estado. O por terceros que posean esas herramientas facilitadas por la IA. En un plano conceptual más profundo, la verdad como tal queda bajo amenaza.La degradación de la verdad no es gratuita. Y entonces no sorprende que crezca una enorme preocupación, cuyos efectos negativos se propagan como un reguero de pólvora entre el público en general y especialistas, nacida de las facilidades que proporciona la IA para falsificar imágenes, editar videos, clonar voces, lanzar textos apócrifos y generar una amplia gama de expresiones audiovisuales distorsionadas. Ante estas relaciones incestuosas entre verdad y falsedad, una alarmante pregunta se torna habitual: ¿es una fake news? Y su corolario: ¿cómo impacta este universo paralelo de fake news en el concepto de verdad?En primer lugar, el auge de contenidos falsos quiebra la noción de verdad, que había sido duramente atacada desde los tiempos de Nietzsche, pero que en la vida diaria continuaba dando certeza sobre el mundo. En segundo lugar, desaparece la noción de “ver para creer”. Desde la invención de la fotografía y el video, la sociedad descansaba en el principio de registros físicos: un documento audiovisual servía como prueba directa de un hecho.En tercer lugar, se generaliza un escepticismo destructivo, en el que el mayor daño a la verdad no es solo que la gente crea falsedades generadas por IA, sino el fenómeno inverso: que hechos reales también sean sospechados e incluso descartados como un montaje. Dicho de otro modo, se debilita la distinción entre lo verdadero y lo falso y se habilita a que profesionales de la mentira manipulen a la sociedad sobre temas políticos, sociales y de la vida privada de las personas.En cuarto lugar, lleva a colapsar el sistema judicial y probatorio. Históricamente, grabaciones de seguridad, audios y testimonios documentales han sido piezas claves en la administración de justicia. En un marco de sospecha generalizada, los tribunales enfrentarían prolongadas demoras por peritajes técnicos continuos, con el riesgo de dejar impunes delitos graves al alegar la manipulación de hechos y pruebas con técnicas de IA.En quinto lugar, en términos de Nietzsche, el relato tribal se impone a la verdad y se erosiona el espíritu crítico de la sociedad. Las personas tienden a aceptar o rechazar contenidos por su posición previa, sin detenerse a cuestionar la verdad o falsedad del mensaje. Ante la invasión de contenidos sospechosos, si la mitad de la población cree que son auténticos y la otra mitad que son falsos, según sus afinidades, se impide un diálogo crítico y fecundo en el espacio público.Shutterstock - ShutterstockLos cinco problemas citados convergen en el punto de mayor gravedad: la pérdida de valor de las redes sociales para ser canales de expresión libres de la tutela de los gobiernos. En el pasado previo al surgimiento de internet, en las repúblicas democráticas, la influencia de unos pocos medios de prensa o la propaganda oficial tenían la fuerza para imponer temas de agenda o condicionar de manera más o menos sutil la opinión pública, pero, aun así, la libertad de expresión garantizaba la existencia de voces independientes para luchar a favor de los derechos de los ciudadanos y denunciar a los gobernantes inescrupulosos.En cambio, las dictaduras disponían de la capacidad para eliminar por completo la libertad de expresión y los ciudadanos, más bien los súbditos, se encontraban indefensos ante arbitrariedades y a merced de la propaganda oficial. Este mundo amurallado cambió con la llegada de internet y las redes sociales. De allí en más, los gobiernos democráticos, pero principalmente las dictaduras, perdieron su dominio de la conversación social y su poder para controlar a las personas. La democratización de la comunicación que trajeron las redes fue un logro indiscutido de las nuevas tecnologías.Pues bien, el surgimiento disruptivo de la IA amenaza con desprestigiar ese mundo democratizado de libertad de expresión quebrantando la esencia de su poder: su credibilidad. A diferencia de la aparición de internet y las redes, las nuevas tecnologías de IA entrañan la posibilidad de esterilizar la confianza en los mensajes y reducir su poder de fuego frente a intentos autoritarios y antidemocráticos o directamente, y sin entrar en la arena política, inducir una verdadera duda metódica sobre cualquier aspecto de la vida cotidiana que se procese en los medios de comunicación.Una sociedad instalada en un escepticismo permanente, donde la presunción por defecto es que cualquier estímulo audiovisual puede ser manipulado por IA, genera ciudadanos menos críticos, parálisis social y fragmentación institucional. Y también apatía, porque esos ciudadanos no tienen la energía ni el tiempo para peritar cada publicación o mensaje que consumen a lo largo del día. La consecuencia no deseada es la configuración de escenarios donde la noción de verdad deja de ser una experiencia intuitiva e inmediata y se convierte en una disciplina activa de verificación de contenidos.Inmersos como estamos en este “mundo feliz digital”, en el que un grupo minoritario de “alfas” someten a las mayorías “épsilons” a una tiranía de redes repletas de simulaciones y calumnias, el camino para desenmascarar a los profetas de la mentira es todavía incierto. Sin embargo, no nos resignamos y creemos que surgirán anticuerpos, hoy todavía sin contornos precisos, que nos conduzcan a derrotar a la IA en el terreno donde hoy parece imbatible: su hiperbólica superioridad para engañar y crear “no verdades”.El desafío que plantea la IA a la verdad es gigantesco. Como se suele decir de los generales y la guerra, la batalla tecnológica es demasiado importante para dejarla en manos de los desarrolladores de IA, o aun peor, en manos de sistemas autónomos de IA que construyen por sí mismos la siguiente generación de modelos, como parecen indicar las últimas tendencias. Ante el hecho real y no falaz de la existencia de una IA cada día más poderosa, no estamos ante un desafío tecnológico, como controlar la IA, sino social y político: al igual que en el judo, deberemos aprovechar sus fantásticas capacidades para impedir que la ruptura de la confianza en la verdad altere la esencia misma de la democracia.