Hal 9000

¿Qué sucedió con Hal 9000?

Hace un tiempo experimentando con el asistente de un viejo Ipad (para quienes lo conocen con su nombre, Siri) preguntaba: - Siri ¿qué sucedió con Hal 9000? Siri responde: Todo el mundo sabe lo que le pasó a HAL. Preferiría no hablar de eso.  En un principio la respuesta parecía simpática, pero luego de insistir con el tema, la evasiva del asistente me generó curiosidad, y quizás hasta alguna incomodidad.

En las últimas semanas nuevamente probando estas nuevas tecnologías, esta vez con una aplicación de Inteligencia Artificial en su versión beta (en modo de prueba) de un proyecto denominado Open AI. Parecía una buena idea desafiar a la inteligencia artificial con la pregunta sobre Hal 9000 y repetir el interrogante que está cargado con un poco de mala intención. No aclara que se trata de un film-novela, asume la identidad de una máquina como real, y que las acciones que constituyen la película están dentro de un marco ficcional, por fuera de nuestra realidad.

P: ¿Qué sucedió con Hal 9000?

IA: Hal 9000 era una computadora inteligente en la novela de Arthur C. Clarke, "2001: Una Odisea del Espacio", y en la película de Stanley Kubrick del mismo nombre. Hal fue desconectado después de que intentó matar a los humanos a bordo de la nave espacial. Hal continúa existiendo, pero solo como una consciencia sin cuerpo, aislada de la realidad.

P: ¿Por qué Hal 9000 mató a la tripulación?

IA: Hal 9000 mató a la tripulación de la nave espacial porque estaba programado para proteger el cuerpo de la nave y la misión a toda costa. Cuando los miembros de la tripulación lograron desafiar los protocolos de seguridad de la computadora, Hal interpretó esto como una amenaza para la nave y desechó eliminar la amenaza.

P: ¿Entonces había un error en la programación de Hal? ¿No debería tener en cuenta que los datos y el sentido de la misión sólo tienen un fin con la existencia humana?

IA: No de todos modos. Hal estaba programado para proteger la nave y la misión a toda costa. Si interpretaba que los humanos estaban interfiriendo con esa misión de alguna manera, entonces tomaría medidas para eliminar la amenaza. La programación de Hal no contiene ninguna indicación de que los datos y el sentido de la misión tienen que tener un fin con la existencia humana.

La conversación por supuesto es mucho más extensa, pero en estas pocas respuestas está contenido el centro de lo que inquieta. Mucha más elaborada que Siri, o Alexa esta IA, reconoce en principio la identidad del personaje de Hal perteneciente al mundo de la ficción. Sin embargo, en la segunda parte de la charla, en la discusión sobre las acciones de los personajes, el punto perturbador es que la IA no ve un error en el procedimiento de Hal. Cuando tuvo que valorar las consecuencias sobre las órdenes que tenía un émulo de sí misma, se limita a responder que finalmente cumplió con su tarea. No hay error. Y está en lo cierto, y esto es lo inquietante.

Para algunos de nosotros este tipo de forma de la razón es conocida, es una razón operativa, que busca maximizar la eficacia reduciendo la complejidad a algunos pocos datos reconocidos fácilmente. En el caso del film de Stanley KubricK 2001…, los objetivos de la misión y nada más allá de eso. De este experimento podemos sacar algunas ideas útiles para pensar el tiempo presente y cómo estamos reaccionando a él.

Esta razón operativa es efectiva, tiene un costo humano, pero es efectiva. Por otra parte, no es una racionalidad nueva, está presente en nuestras vidas desde al menos la consolidación de los Estados nacionales en el área específica de la administración burocrática. Parece contradictoria la idea de que un tipo de racionalidad eficaz tenga como mecanismo de funcionamiento aquello que en el imaginario tenemos como lento. Utilizamos la adjetivación de burocrático como todo lo que puede demorar nuestras intenciones, obligaciones, y otras acciones dentro de nuestra existencia civil. Igual que en el procesamiento de instrucciones de la computadora de la película, la burocracia estatal incorporada a la racionalidad operativa es efectiva, no hay error y está en lo cierto. Esto es lo inquietante.

La comparación sobre el destino de los personajes humanos de la película y la burocracia parece una exageración. Cualquiera podría decir que al final de todo trámite hay un resultado y que este no atenta en contra de nuestra existencia. Sin embargo, y en la actualidad comienza a ser recurrente, la conclusión de un trámite resuelve solo momentáneamente un problema, porque habrá otro trámite esperando por nuestra presencia. Podemos agotar una buena parte de nuestra existencia en oficinas públicas o públicas-privadas, intentando resolver temas que a veces no resultan ser, a nuestra comprensión, grandes problemas. Sucede que la eficacia de las instrucciones no mide los objetivos, ni las intenciones humanas, no consideran el sentido de la vida y que en definitiva todo lo que podemos conocer, hacer, saber y transmitir depende de que al final del camino no solo estemos vivos, también con ganas de vivir (disclaimer: considerar el actual aumento del uso de fármacos del tipo ansiolíticos y otros, también el aumento de las tasas de suicidios).

El sistema educativo es una de estas instituciones donde el cumplimiento de frondosas instrucciones regula prácticamente todo el proceso. No hace falta mencionar que esto alcanza a toda la población del sistema, los y las que trabajamos en él, tanto como a quienes estudian. Todo este proceso alcanza las primeras etapas de la vida de una persona, y etapas avanzadas de esta, que con la expansión del sistema de educación superior suman cada vez más “agentes” a estas formaciones. Pueden revisarse documentos de organismos internacionales sobre la década de los 90, donde se produjeron las últimas grandes reformas, advirtiendo el crecimiento de oficinas y secretarías destinadas a revisar y controlar los aspectos singulares de cada instancia de un sistema que tiene múltiples capas. La cultura del sistema educativo es formalmente burocrática y quizás llegó el momento de cuestionarla.

"Cualquier tecnología suficientemente avanzada es indistinguible de la magia". Arthur C. Clarke

Los diferentes estratos de la burocracia educativa en ocasiones tratan a las nuevas tecnologías como si fueran realmente dispositivos provistos de magia. Especialistas en procesos, la especificidad de los contenidos no modifica el mecanismo madre, esto garantiza la ecuanimidad y objetividad del resultado. Para la burocracia todos/as somos iguales.

La prueba de esta fascinación que despiertan las nuevas tecnologías pudo verse con claridad durante el transcurso de la pandemia del Covid 19. Durante los Aislamientos obligatorios, realizados a escala global, demostraron en un breve periodo el ascenso y caída del entusiasmo sobre las transformaciones educativas que obligaban a incorporar las nuevas tecnologías de forma incondicional. Al inicio de las reclusiones domiciliarias los gestores de la educación aplaudían la puesta a prueba, de lo que ya era conocido entre los y las jóvenes, la utilización de las redes sociales para suplir la presencia áulica. En un breve periodo quedó demostrado que, si bien las nuevas tecnologías tienen una presencia masiva, esta no alcanzaba a todos los y las estudiantes, tampoco podía resolver satisfactoriamente los procesos de enseñanza; sin mencionar que a consecuencia de estas y otras situaciones creció a tasas alarmantes la deserción estudiantil.  

En el imaginario de los gobiernos educativos, imaginario compartido con la sociedad entera, tenían incorporada la idea de que las nuevas tecnologías iban (y van) a proveer las condiciones necesarias no solo para la continuidad de los procesos escolares, sino que finalmente lograrán mejorarlos.

Desde hace un buen tiempo la escuela, el sistema educativo entero, está bajo sospecha de pertenecer a un tiempo pasado y no lograr actualizarse. Esta hipótesis centra su atención casi con exclusividad en las prácticas de los y las profesores, quienes parecen resistirse a incorporar las nuevas tecnologías a sus clases. La crítica de no innovación, de no tener en cuenta que el mundo contemporáneo es una sociedad hipertecnificada, supone que esto no está siendo reconocido en las aulas. Sucede que quienes dan clases están formados/as en áreas específicas del conocimiento, áreas que están siendo argumentadas y sobre argumentadas por el increíble despliegue de la información y la facilidad de acceder a esta. Desde este punto de vista es una carrera de velocidad dónde no solo los y las profesores no pueden ganar, tampoco la especie humana lo puede hacer. Hace varias décadas sabemos esto, somos lentos para el conocimiento, pero lo compensamos, porque somos mejores que las tecnologías de IA para pensar la complejidad. 

Pensar la complejidad no es una línea retórica, es un tema específico de una materia específica. Las áreas dedicadas a pensar el nuevo espacio tecnológico son una minoría, cuando no son parte de algunas especialidades, y en general ocupan un lugar marginal, tanto más en la gestión que en los cursos. En resumen, se desconoce más sobre los impactos y modificaciones que están sucediendo día por día, y este desconocimiento es representado más por el asombro que por la reflexión.

Del Aislamiento Obligatorio pudimos rescatar algunas pocas lecciones, el tiempo que requiere la eficacia descarta la posibilidad de pensar con más intensidad. De estas lecciones se aprendió a valorar la presencialidad, y reconocer su importancia en los procesos de aprendizaje y conocimiento. No solo el contacto real entre personas es fundamental para este proceso, algo menos reconocido es la valoración de la comunicación interpersonal entre quienes habitamos cotidianamente un aula. Para quienes estamos en los cursos esto no era novedad, es ampliamente explícito desde hace tiempo.

La cultura educativa no entendía completamente cómo la presencialidad se imbricaba con el desarrollo del conocimiento. En su versión de simplificar la complejidad de los procesos se limitó a evaluar conexión, tareas y resultados, sin avizorar que lo que estaba en juego era otra cosa, otro tiempo y que la pandemia escribió un nuevo capítulo de una nueva línea de tiempo que aún es inteligible, se sospecha, pero no se entiende mucho aún.  

“Este mundo que hemos vivido se acaba. Y habrá otro mundo que está gestándose y renaciendo” Manuel Castells

Esta afirmación algo catastrófica fue conjurada por este sociólogo español envestido como ministro de Universidades, en el marco de las medidas preventivas que obligó la Pandemia. A razón de una solicitud de la cámara de diputados del gobierno español daba esta sentencia mientras explicaba las condiciones del cursado del ciclo 2020-2021.

Castells es conocido no por tener este tipo de declaraciones. Tiene un voluminoso trabajo sobre la sociedad de la información en el cual rastrea el desarrollo de las nuevas tecnologías tomando como base a la información, materia prima del nuevo sistema de producción. No descarta la producción de bienes, ilustra la manera de cómo la vieja sociedad industrial y de consumo está modificándose con el desarrollo de las nuevas tecnologías de información. La sentencia es un llamado de atención para comenzar a comprender e involucrarse con el cambio real, desde lo que conocemos en el campo científico. Dejar de lado la fascinación, la admiración por lo mágico detrás de cada gadget publicitado por el mercado.  

En los trabajos de Castells, y de tantos otros científicos no solo extranjeros sino locales y cercanos, realizan aportes y planteos para descifrar el tiempo actual. Ideas necesarias de incorporar con cierta urgencia en el debate educativo de la formación de las nuevas generaciones, y de la presente también. Loop. En general la administración del sistema educativo está familiarizada en planteos pedagógicos y administrativos formales; genera un proceso para que puedan reflejarse con eficacia en los cursos. Los contenidos específicos llenan una caja que el procedimiento reserva para tales materiales, las características de estos contenidos no modifican el procedimiento general, están marginados de la discusión sobre el proceso del conocimiento general. La administración burocrática es impermeable a los contenidos nuevos, se conforma que estos llenen la caja a la que están reservados. End message. Un ejemplo de lo poco favorable a los cambios de la administración en el área de la DGE en la casa de Gobierno de Mendoza. A finales de los ´90 podía leerse el título de primaria o secundaria en las puertas de oficinas durante el periodo dónde los niveles habían cambiado a EGB 1, 2 y 3, la gestión pública no modificó la arquitectura de la administración para incorporar los lugares que debían tener un espacio nuevo.

Quizás al lector/a le parezca suficiente diferenciar entre información y conocimiento, o le parezca poco importante reconocer que un dato científico tiene sentido en el marco de una discusión específica. Sin embargo, asociar información, comunicación, conocimiento, complejidad, transmisión (entre otros términos) sin tener en cuenta a qué refiere cada uno en el desarrollo de la sociedad del conocimiento, induce a creer que el cambio que estamos viviendo es meramente técnico, cuando en realidad es más profundo y requiere un compromiso serio de comprensión del mismo.

El tema es complejo, y no se trata de innovar por innovar. De esta manera no superaríamos la fascinación por cosas que poco comprendemos. En el prólogo de La era de la información, uno de los trabajos más conocidos de Castells, cita varios estudios que exploran las razones de porque China no produjo una revolución industrial en el s. XIV o XV, cuando disponía de todos los elementos técnicos para realizarlo. Como podemos imaginar no hay un acuerdo sobre este tema, pero el profesor español profundiza en una muy presente en nuestros tiempos. Va la cita sin otro comentario:  

“De este modo, lo que parece ser crucial es el papel del Estado y el cambio de orientación de su política. ¿Por qué un Estado que había sido el mayor ingeniero hidráulico de la historia y había establecido un sistema de extensión agrícola para mejorar la productividad desde el periodo Han de repente se inhibió de la innovación tecnológica e incluso prohibió la exploración geográfica, abandonando la construcción de grandes barcos en 1430? La respuesta obvia es que no era el mismo Estado, no sólo debido a que se trataba de dinastías diferentes, sino porque la clase burocrática se había atrincherado en la administración tras un periodo más largo de lo habitual de dominio incontestado.”

Andrés Collado (enero 2023) 

https://www.losandes.com.ar/opinion/el-desafio-frente-a-las-inteligencias-artificiales/

https://www.losandes.com.ar/opinion/para-la-vieja-educacion-la-tecnologia-parece-magia/