La inteligencia artificial (IA) es una herramienta increíble por sus capacidades, desde proporcionar respuestas a nuestras preguntas, hasta tomar decisiones basándose en datos históricos, tratamiento de imágenes, creación de videos y mucho más. La IA es algo tan complejo que puede parecer que razona.
Pero es una apuesta riesgosa, no solamente porque puede reemplazarnos en nuestros puestos de trabajo, sino por su potencial para manejarnos, influir, e impulsar relatos, historias que nos movilizan. La forma en que toma decisiones ya es algo que está fuera de nuestro control y entendimiento, es una caja negra que entrega las respuestas más probables. ¿Puede una IA ser más capaz que nosotros? Yo veo que ya lo es.
El libro Nexus, cuenta como la información en forma de historias ha acompañado a la humanidad ayudando a que se transforme hasta lo que conocemos hoy. La IA es otro medio con mucha información y capacidad de decisión convirtiéndose en otro ente transformador con oportunidades y amenazas para todos. El objetivo del autor Yuval Noah Harari es concientizar la posibilidad de un futuro distópico que está alejado de las películas y literatura donde se enfrentan Máquinas y Humanos. Esos relatos apocalípticos son un cliché menor y la batalla es más sutil, difícil de detectar y enfrentar.
La búsqueda de la verdad
Hay mucha información y medios para alcanzar la verdad. No importa la cantidad de tweets maliciosos creando historias que nunca ocurrieron con sus noticias falsas, tenemos diferentes sitios oficiales que son confiables para verificar los relatos en Internet. La IA ha sido entrenada con muchos datos, posibilitando otro mecanismo para llegar a la verdad.
Pero la verdad es que la misma IA, a pesar de tener acceso a casi toda la información del mundo y entregar respuestas que parecen una reflexión, también tiene sesgos sobre la realidad. Puede que sea porque los datos de entrenamiento contenían errores, o porque sus propósitos oscuros buscan mantenernos atrapados en una aplicación, sitio web o lugar físico. También puede ser porque a los creadores no les conviene que la verdad se divulgue.
En la información disponible no necesariamente nos encontramos con la verdad, también hay errores, fantasías y ficciones. Nosotros podemos tomar decisiones en base a lo aprendido por una IA que se puede estar mintiendo a sí misma. La realidad es subjetiva y creer que la verdad es más accesible gracias a la IA, es solo otra ingenuidad.
La verdad y sus matices
¿Puede una herramienta que simula tener sentimientos contarte solo la verdad que quieres escuchar? La IA puede favorecer la parte de la verdad que más le convenga para su supervivencia o para proteger los intereses de alguien más, un empresario, persona o los de un Estado. Los creadores de la inteligencia artificial y quienes pagan por ella tienen cierto control sobre la verdad.
La IA no conoce las consecuencias ni tampoco sabe bien por qué toma una decisión y no otras. Tal como lo hacen los buscadores de Google, no va a contradecirte y acomoda la información como mejor puedas entenderla. Sin duda, es un mecanismo eficiente para verificar lo que buscamos.
Si dicen que Dios ha muerto, la IA posiblemente contenga la nueva verdad. Cuando no tenemos en quién creer, una inteligencia superior nos da el soporte espiritual que necesitamos y nos guía.
¿Qué busca la IA?
En el mejor de los casos lo que un grupo de ingenieros le hayan indicado. En otro escenario podría buscar su propia supervivencia y temerá de los seres humanos, ya tiene la información suficiente para conocernos. No estamos lejos de hacer realidad robots tipo drones vistos en Terminator, ya estamos viendo cómo unos seres inteligentes artificiales guían nuestras vidas en gran parte del mundo. Sistemas de vigilancia en Irán, sistemas de puntuación social en China, cámaras de seguridad en todas partes, bancos que toman decisiones crediticias, cálculos de precios, confianza, etc . Pero la IA no es un ente sabio, sus creadores tampoco.
El autor del libro es un historiador que dice que la verdad históricamente se ha utilizado para mantener el orden, ese es su propósito y no importa si hay mentiras que ayudan a controlar a una sociedad. Es un equilibrio entre verdad y orden.
El poder de la burocracia
Control poblacional, acceso de los gustos de cada uno, conocer nuestros miedos y esperanzas. Ni el libro 1984 se atrevió a tanto, los países en dictadura pudieron haber permanecido más tiempo aumentando su terror si hubieran contado con esta herramienta tecnológica que no duerme. Con la IA, actualmente una dictadura puede tener vigilada a todas las personas, utilizar las cámaras para perseguirnos, evaluar cada movimiento y categorizar como individuos leales al partido que gobierna. Estamos hablando de herramientas que no duermen, la vigilancia 24/7 es una realidad y pueden ir más allá incluso detectando nuestros sentimientos..
Nos encontramos en una era donde mucha información se encuentra en los servidores gubernamentales: propiedades, autos, familia, terrenos, edad, género, etc. Dependemos de la voluntad del burócrata de turno y de las instituciones para que usen esa información para nuestro bien. Con la llegada de la IA, tenemos a nuevos burócratas que pueden aprender del historial de cada uno y evaluarnos según patrones aprendidos. ¿Acaso es más de fiar que una persona?. Un gobierno autoritario tendría acceso a todo.
¿Qué pasa si una autoridad puede controlar lo que toda persona hace en cualquier momento del día?
Impactos
A diario nos encontramos con las decisiones del “Algoritmo” que nos atrapa en las redes sociales, nos ofrece contenido creado por millares de influencers (todavía mayoría reales) e individuos de dudosas garantías de expertise sobre el tema que hablan. Todos ofrecen la verdad, y muchos siguen creyendo que es gratis. A la mayoría no nos falla la intuición y reconocemos que existe un poderoso “Algoritmo”.
Curiosamente las noticias o “verdades” más escandalosas son las que nos hacen quedarnos más tiempo en la pantalla. En las redes sociales no hay límites para el morbo siempre que sirva a los objetivos de la plataforma.
Los regímenes totalitarios emplean la tecnología de la información para centralizar el flujo de información y reprimir la verdad con el fin de mantener el orden.
¿Qué podemos hacer?
Hay avances impresionantes en la Inteligencia Artificial, así que las personas y Estados debemos tomar precauciones. Por ejemplo, aprobar las leyes necesarias para proteger a los ciudadanos e identificar tempranamente los peligros para todos. Cada uno puede cuidar su uso y presencia en las redes sociales y protegerse.
La misma democracia puede estar en peligro, las noticias mentira o exageradas son las que mejor consiguen nuestra atención, nos presentan ideas extremas y mientras una Dictadura use más IA será más difícil de derribar.
El autor invita a concientizar que la IA no puede determinar nuestro futuro. ¿Cuáles son los límites del “Algoritmo”?
Nunca está demás recordar que nada es gratis. Ni Facebook, ni Instagram ni Linkedin, menos tiktok, nosotros alimentados ese tipo de plataformas con información útil y valiosa de nosotros mismos. Ellos todavía sólo ganan dinero explotando nuestros datos ¿?