A 20 minutos en el futuro.

Max Headrom: 20 minutos en el futuro
 (Film y serie, con influencias cyberpunk
1984)

 

Hace un tiempo atrás, referentes conocidos y otros desarrolladores de programas de Inteligencia Artificial, en su mayoría Ceos y empresarios en nuevas tecnologías, solicitaron a su propia comunidad pausar las investigaciones y el desarrollo abierto de las inteligencias artificiales. Detener el desarrollo de estas por un tiempo de al menos 6 meses, declarar “unas vacaciones de verano” en el uso público de esta nueva creación. Lo hicieron por medio de una carta publicada en la página de la fundación Future of life Institute. Esta institución trabaja desde el 2015 sobre temas del desarrollo humano y las tecnologías, y en el actual contexto el objetivo propuesto es analizar y prevenir los riesgos sobre el próximo paso de las actuales IA, la denominada AGI (Inteligencia Artificial Generativa, en español). Esta organización concentra su atención en cuatro puntos sensibles de riesgo para la humanidad: el desarrollo doméstico de las AGI, las aplicaciones en el campo de las biotecnologías, en la autonomía de armas letales, incluidas las atómicas, y sobre el cambio climático.

El sorpresivo comunicado lanzado por los más de mil Ceos dedicados al desarrollo de estas nuevas tecnologías eleva en un escalón la alarma sobre este tema. El argumento sostiene la necesidad de evaluar los peligros que corre la humanidad con el despliegue de esta nueva invención, y como respuesta, la urgente necesidad de regulación. En las propias palabras del mensaje corporativo: “Estos deben incluir como mínimo: autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; un sólido ecosistema de auditoría y certificación; responsabilidad por daños causados por IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.”

La noticia movilizó rápidamente también al mundo académico. Numerosos científicos de diversas áreas son consultados por distintos medios, y en un balance apresurado, puede percibirse que su versión transita por el llamado a la responsabilidad de quienes están desarrollando estas nuevas herramientas. Al final de cuentas el padre de la bestia debería estar informado de qué cosas puede hacer su creación; y generar los instrumentos y procesos necesarios para impedir las que sean perjudiciales. Existe la sospecha en el mundo del pensamiento que detrás de todo este movimiento puede estar cuajando una campaña de promoción de un nuevo producto con un alto valor global.  Siguiendo en estas líneas, las expertas y expertos coinciden en que no parece necesario frenar la investigación en Inteligencia Artificial, más bien continuar, teniendo en cuenta la responsabilidad que existe frente a la sociedad humana. El alcance global de estas tecnologías es inmediato, y en principio no parece tener un delay, un retraso, determinado por el desarrollo técnico de un país. Depende mas bien de la capacidad económica de las personas de poseer una máquina “aceptable” y de la preparación de quienes serían los usuarios de las mismas.

Hace unos meses, el 10 de marzo del 2023 en Montevideo se reunieron científicos de varias áreas del conocimiento técnico y social para discutir sobre el tema. La carta conocida como Declaración de Montevideo sobre inteligencia artificial y su impacto en América Latina resume un conjunto de sugerencias desde una perspectiva regional. Algunos de los puntos reafirman la necesidad de regulaciones sobre las aplicaciones de las IA, la reivindicación a políticas públicas orientadas a la evaluación de estas y el sentido general de que las tecnologías deben beneficiar al desarrollo humano y su entorno, mas no perjudicarlo.  Las singularidades de la declaración podrían estar incluidas en cualquier otro documento regional. Las diferencias entre los países de nuestro continente, frente al de economías con mayor valor agregado en su producción, se profundizarían aún más con el uso de esta tecnología. Las evaluaciones indican a la fecha que tendrá un impacto profundo en el empleo, desplazando millones de puestos de trabajo; y como es obvio será más severo en las economías de menor escala. Por otra parte, nadie garantiza, ni está seguro, de que las nuevas actividades requeridas sean tan amplias como para cubrir el desempleo que puede generar la utilización de las AGI sin regulaciones ni precauciones.

Otro punto señalado por esta carta es el ya reconocido sesgo cultural e ideológico de estas tecnologías. Los y las científicas reunidos en la capital uruguaya advierten que el desarrollo de las bases de datos de las que se alimentan estas IA contemple los paradigmas actuales sobre derechos humanos y la diversidad cultural de la región, amplia, compleja y contradictoria en muchos espacios de su geografía. A la vez, este camino de integrar la complejidad latinoamericana a la instrumentalización de las AI no debe reducirse a solos aportes de datos. Las regulaciones sobre las IA deben considerar los instrumentos necesarios para reforzar las soberanías de los países de la región y la formación del pensamiento crítico. Este sería un apretado resumen de los 7 puntos de la Declaración de Montevideo.

El desafío que parecen plantear las AGI interpelan a los Estados por una parte y por otro lado a las mismas empresas desarrolladoras de estos nuevos artificios. Desde el lado de la política requiere que esta tome el tema desde los puntos que son más sensibles: las regulaciones legislativas y la formación orientada desde la educación. En ambos puntos nuestros países están atrasados o son débiles. Una política dedicada a pensar en los problemas de su propia reproducción no logra poner en foco el horizonte que anticipa un nuevo escenario que está a solo 20 minutos en el futuro. De parte de las corporaciones tecnológicas, solo un puñado concentradas en muy pocas empresas, la apelación está dirigida a dejar de lado la competencia para incluir en sus desarrollos “llaves” para evitar los abusos. Una decisión en contramano del paradigma capitalista contemporáneo.

Las alertas levantadas por las capacidades que demuestran el despliegue de las AGI colocan a la humanidad frente a una nueva etapa de su existencia. Una especie de monolito, como en el film 2001 Odisea en el espacio, anticipa una nueva etapa de nuestra forma de vivir en el planeta y también más allá de él. Pero no hay que dejarse tentar por creer que enfrentamos un dilema, una contraposición entre nosotros y las máquinas de cálculo. De nuevo podemos redundar en el film de Stanley Kubrick, quien para la apertura de la banda de sonido utilizó una composición que lleva como título Así habló Zaratustra, en homenaje Friedrich Nietzsche. El problema que enfrentamos en nuestro presente es el de nosotros mismos, el de ser Humanos, demasiados humanos. 

Realidad vs Ficción

Sumariamente podríamos decir que las nuevas IA pueden realizar tres tareas: Tienen la capacidad de escribir textos de forma autónoma, desde ensayos hasta ficciones considerando el género, tonos, variantes de estilos, extensión. En segundo lugar, pueden generar imágenes visuales y auditivas. Crear formas visuales en el estilo que se conozca, o instruirlas para crear algunas desconocidas, recrear voces reales o desde cero. Construir una imagen caricaturesca, o tan realista a tal punto que puede confundir la realidad y la ficción, como sucedió con la fotografía del papa Francisco en medio de la campaña de la marca de indumentaria Balenciaga. La tercera tarea que puede realizar estas nuevas IA quizás sea lo más impresionante. Tienen la capacidad de construir y presentar procesos, sean estos, líneas de código en algún lenguaje digital, o utilizando herramientas conocidas como plantillas Excel; o proponiendo recorridos propios con la descripción del problema que necesitamos ordenar; por ejemplo, de las áreas de la administración, con mucha eficacia, pero también de otras disciplinas del conocimiento social, y de las matemáticas ni hablar. La combinación de estas tres tareas, por supuesto generan justamente los pedidos de precauciones a la vez que acrecientan la admiración.

Las alertas levantadas por los mismos desarrolladores sobre las consecuencias que tienen potencialmente frente a los fenómenos actuales y presentes como ampliar las ya presentes Fake news y de construir imágenes tan reales que serían casi imposibles de verificar qué es cierto y que no lo es, nos obligan a pensar la relación entre ficción y realidad.

En el ámbito de la cultura este debate es conocido. El género de las novelas históricas, por ejemplo, se nutren de documentación real, contrastada y fidedigna para elaborar relatos y reconstruir las personalidades de personajes relevantes para el ideario social, pero también para revisar las simbologías nacionales. Sin embargo, en la esfera pública la línea es clara, la novela histórica es un género de la literatura, pero no participan del repertorio de documentación de la construcción de la historia social, más allá de su anclaje en documentos históricos.  

Quizás el problema más serio está en el ejercicio del periodismo, que ahora requiere más esfuerzo para ser creíbles y fiables. Debido a que nuestras democracias liberales, para su desarrollo y salud, requieren de la prensa para obtener información de las políticas de estado, económicas, gremiales y otras, las noticias falsas representan un mal síntoma.  A pesar del auge de este fenómeno no es un problema exclusivamente de estos tiempos. Todos, todas los que estamos involucrados en los temas de la comunicación y el periodismo conocemos una de las primeras Fake News dentro del ejercicio periodístico moderno con el hundimiento del acorazado Maine de los EEUU frente a la Habana en las costas de Cuba. En 1898 el hundimiento del buque norteamericano la prensa escrita, el New York Journal de Randolph Hearts o el New York World de Joshep Pulitzer entre otros, escribieron notas culpabilizando a la colonia española del hundimiento dando así los movimientos últimos para la independencia definitiva de la isla caribeña. El siglo XIX fuertemente referenciado en el logocentrismo, consagrado por la ilustración, tenía en la palabra escrita su forma legitimada, y privilegiada. Ningún documento gozaba de mejor reputación si estaba impreso o traducido a palabras escritas, y de esta herencia, la prensa (junto con la masificación de la educación), se erigiría como representante legítimo de la comunicación de ideas. El presente es diferente. Consolidada en transcurso del siglo XX, la cultura visual desplazó la centralidad de la palabra escrita en tanto referencia a la realidad. Estamos predispuestos a dar crédito a la realidad de la imagen visual más que a la realidad que leemos.

La fascinación ingenua parece ser la primera reacción que tiene nuestra especie frente a las novedades técnicas. La fotografía gozó, por un corto periodo, de ser el documento definitivo sobre la posibilidad de capturar la realidad tal como se presenta al ojo mecánico. El surgimiento de la imagen reproducida por una máquina parecía tener la capacidad de captar la vida tal como se presenta, incluso salvando las dificultades ópticas de nuestros propios ojos. Hasta que en el debate cultural se profundizó en la construcción de la imagen. Desde la toma, la iluminación, el ángulo, foco y demás elementos que constituyen la imagen al ser retratada la vida, hasta los recursos del revelado y composiciones posteriores, demostraron que la objetividad de la fotografía más bien era una aspiración racionalista que no tenía un buen soporte. No hay pocos ejemplos, aún persisten las discusiones sobre la famosísima imagen tomada por Robert Capa, La muerte de un miliciano anarquista, en la guerra civil española, en discusión por sospechas de ser un montaje. La controversia aún no se cierra, también en la imagen sobre el izamiento de la bandera de los soldados norteamericanos en Iwo Jima, tiene la misma duda.

Pero quizás lo más representativo de la lucha por capturar la objetividad de la realidad puede verse en los inicios del cine. Cuando los hermanos Lumière presentaron su invención al público pensaron en mostrar al mundo exactamente esta idea; mediados por una máquina podíamos ver los fenómenos de la vida objetivamente plasmados en una pantalla, con una realidad que no podía recuperar la fotografía. No habían creado el cine, ni eran sus intenciones hacerlo. Este crédito hay que otorgárselo a otro francés Georges Mèliés, quien se ganaba la vida como ilusionista y al conocer el nuevo recurso técnico de representar las imágenes en movimiento inaugura el cine con los films de ficción. Viaje a la luna, de su conterráneo Jules Verné es todavía referido como una obra maestra de la composición y las técnicas del cine. Quizás no podemos todavía reconocer absolutamente los créditos que tiene Mèliés a la forma del cine que conocemos actualmente. Acá la tensión, no fue y no es un debate, se da entre invención científica para capturar objetivamente los fenómenos del mundo moderno y del otro lado, el entretenimiento. No hay conflicto entre realidad y ficción porque entre ambas ideas no había un canal que las uniera, a pesar de que todos sus protagonistas tienen el mismo origen nacional, Francia (segundo).

Dibujo de Norah Borges,  La invención de Morel 1940

La objetividad de la imagen visual, y sobre todo la representación de esta en movimiento vinculada al periodismo tiene en los documentales y en los informes de las cadenas de televisión un momento de excepción. El único caso que citamos en estas líneas es la frondosa documentación visual del conflicto sobre Vietnam que representó la ilustración de la sociedad norteamericana y mundial sobre las atrocidades que se avecinaban. La captura de la imagen visual en movimiento durante el conflicto en Vietnam fue tan significativa que a partir de este momento, el Estado Norteamericano, recreó nuevas formas de “mostrar la realidad”. El conflicto del golfo, bajo la administración de Bush padre, cubierto con exclusividades por la cadena de noticias CNN es hoy el antecedente de cómo se cubre las guerras en occidente. Es conocido la referencia del ensayo de Jean Baudrillar, La Guerra del Golfo no tuvo lugar, señalando justamente la distancia existente entre la imagen visual y la credibilidad sobre los hechos que intenta representar.

El contexto de las IA

Venimos lidiando entre realidad, ficción y recreación; entre la desinformación y la mala información desde hace tiempo, no es una novedad. Sin embargo y al parecer esta nueva invención tecnológica profundiza más hondo en la preocupación por la realidad. Podemos sospechar que hasta una fecha no tan pretérita las posibilidades de reconstruir una idea de realidad adecuada a intereses particulares estaban en manos de quienes tenían la posibilidad de hacerlo, es decir el poder político, económico o religioso. En la actualidad, esta capacidad está dispersa entre los y las miembros de la nueva formación social impulsada por las conexiones a internet de los dispositivos electrónicos personales y las redes sociales sostenidas en estos. No parece apropiado celebrar este tipo de democratización.  

Otro punto novedoso es un fenómeno social, en parte promovido por las nuevas formas de interacción electrónica, un estado de ánimo generalizado que puede verse galvanizado en el término de posverdad. En una nota del 2017 de la BBC, el filósofo A.C. Grayling historiza los orígenes de este fenómeno, sostiene que a partir de la crisis económica del 2008 el mundo cambió. La crisis financiera no sólo hizo estragos en sectores medios de la sociedad, sino que además impulsó un fuerte crecimiento “tóxico” caracterizado por la desigualdad de ingresos. El resultado es una sensación de insatisfacción, frustración y bronca que se traduce en las redes sociales a través de opiniones sin muchos fundamentos reflexivos. "Es terriblemente narcisista. Y ha sido empoderado por el hecho de que todos pueden publicar su opinión… Y si no estás de acuerdo conmigo, me atacas a mí, no a mis ideas.”

Para Grayling estos elementos hacen que los individuos valoren su opinión más que los hechos que puedan contradecirla. Un intento de recuperar una centralidad que, como clase media en caída, o peor, pobres con memoria residual de clase media, cada vez se hace más difícil de sostener. Quizás esta sea una posible explicación del fenómeno “hate” en las redes sociales: "Lograr articular una forma de ponerte en primera fila y lograr ser visto te convierte en una especie de celebridad", agregamos nosotros a cualquier costo y con cualquier recurso. Llegando incluso a instancias de saltar el mundo digital y realizar un intento en el real como el atentado contra Cristina Fernández de Kirchner, personajes marginales que recuerdan mucho al solitario Travis Blake, el personaje que construyó brillantemente Robert De Niro en Taxi Driver (1976).

¿Me hablas a mi? Robert De Niro, Taxi Driver de Martin Scorsese

El punto en cuestión parece inscribirse en este nuevo escenario social que construyen las redes sociales digitales, la relevancia que tienen en nuestra vida doméstica, la contradicción entre aislamiento e integración que tensionan la experiencia de la vida contemporánea, construyendo una extensión de lo que hemos denominado cultura. Lo que sucede según Grayling es justamente que esta nueva cultura online tiene el problema de ser incapaz de distinguir entre realidad y ficción, o es tolerante a la ficcionalización de lo que llamamos realidad.

Lo que recurrentemente escuchamos como opción para enfrentar las consecuencias posibles y reales de las AGI es afirmar el sentido crítico. Dudar, poner entre paréntesis los relatos audiovisuales, o los que circulan por las nuevas redes sociales. Sin embargo, se nos ocurre que incluso este viejo recurso moderno, la duda, la crítica, también cae dentro de este escenario autoafirmativo, que sobrealimenta los efectos negativos de la cultura online. Dudar de lo que dice el otro, criticar lo que dice la otra, no parece tener buenas consecuencias para recrear un nuevo momento social más democrático, de amplitud del conocimiento, de comprensión sobre lo y la diferente.

La duda tiene un viejo representante algo olvidado, o quizás esté perdido como referencia en el medio de la afirmación tecnológica contemporánea. René Descartes en un conocidísimo ensayo, Discurso sobre el método escrito en el s. XVII, concluye que de lo único que podemos estar seguros es de pensar. Una afirmación racional que funda toda una línea en el pensamiento científico. Ahora bien, esta afirmación de estar seguros de pensar no se llega afirmando lo que uno sabe, afirmar su propio pensamiento. Descartes utiliza como método lo que se conoce como duda cartesiana, dudar sobre lo que se yo, sobre lo que veo yo, lo que oigo yo, el pensar pone en duda las afirmaciones propias. Este es el método del pensar moderno y con este método hemos generado las afirmaciones científicas contemporáneas más llamativas: la relatividad del tiempo y posibilidades de alteraciones en las dimensiones conocidas; las formas y leyes singulares de las partículas subatómicas, entre muchos otras. Afirmaciones que contradicen el sentido común, el propio y no el ajeno.

El dilema que enfrenta la educación del siglo XXI es integrar la cultura online a las nociones tradicionales de cultura con un sentido crítico. Un sentido crítico que contradice la autoafirmación de la cultura online (y sus saltos a la vida real también). Esta sería una nueva epopeya civilizatoria. Sin creer que es una exageración, la integración de las nuevas generaciones a la sociedad en sus formas diferentes y desiguales con este sentido crítico es una empresa de gran escala. No requiere de aparatos inmensos, de altas tecnologías. Es una epopeya intelectual, un capital que a la postre no tiene grandes representaciones en la política, ni en la administración del sistema educativo que va detrás de las innovaciones con la misma suerte que tiene el Coyote con el Correcaminos.

Andrés Collado (2023)