Algunos expertos creen que no hay ninguna prueba científica que invite a pensar que esta tecnología podría provocar la extinción, y que sostener eso puede obedecer a intereses muy concretos
Manuel G. Pascual
El miedo a la inteligencia artificial (IA) se ha instalado con fuerza en el debate público. En los últimos días se ha hablado de “posible extinción” de la humanidad, de que esta tecnología puede resultar “incontrolable” y de que la propia industria —y no las autoridades— debe autorregularse para contener sus avances. Estos sistemas son ya muy potentes y, visto el ritmo de crecimiento, nadie sabe hasta dónde podrían llegar en los próximos años o meses.
Pero, de la misma forma que hay quien alerta de los peligros de esta tecnología, otros expertos argumentan que se están exagerando las capacidades de estos sistemas. O que la industria está usando el miedo atávico a estos avances como cortina de humo para tapar sus consecuencias negativas reales: desde los problemas relacionados con la salud mental que implica para algunos usuarios hasta el desafío en el ámbito educativo o laboral que plantea la IA, pasando por la contaminación y el consumo de agua y energía asociado a los centros de datos en los que se apoya o por las armas autónomas que ya matan a humanos en varios escenarios bélicos.
¿Vamos a morir todos o no hay nada que temer?
El contexto
La semana pasada fue frenética en el mundillo de la IA. El martes por la noche, OpenAI anunció —entre acusaciones de plagio— que uno de sus modelos había logrado resolver uno de los siete problemas del milenio, los retos matemáticos más complejos que se conocen. Ese mismo día, un ingeniero de Anthropic presentó su dimisión para no contribuir con su trabajo a la posible extinción de la humanidad: la IA “puede matarnos antes de 2030”, dijo. Anthropic anunció el viernes que había parado posibles intentos de desarrollar armas químicas con sus modelos de IA, y se filtró que Irán los habría usado para seleccionar objetivos en su guerra contra EE UU.
Y el fin de semana llegó la bomba: el máximo responsable de Anthropic, Dario Amodei, publicó el sábado un ensayo en el que pide que se ralentice sustancialmente el desarrollo de la IA y que las desarrolladoras de esta tecnología se sometan a un proceso de monitorización externa. Sam Altman, su contraparte en OpenAI, estuvo de acuerdo con Amodei. El domingo se mostraron también favorables a ralentizar el ritmo de investigación Demis Hassabis, el jefe de IA de Google, y hasta Elon Musk, dueño de xAI. El presidente Trump, por su parte, cree que no hay que atarse las alas: ve la carrera de la IA como una guerra contra China que hay que ganar a toda costa.
Este carrusel de noticias se ha producido en un contexto muy particular. Tanto OpenAI como Anthropic están preparando su salida a Bolsa, que se prevé histórica. Para calentarla, ambas compañías están haciendo equilibrios en los últimos meses con sus anuncios para demostrar que sus productos son potentísimos y muy avanzados, pero que a la vez no presentan riesgos innecesarios para la humanidad. Habían conseguido ambas cosas hasta ahora.
Este verano, tanto OpenAI como Anthropic han asegurado que algunos de sus modelos supuestamente “se descontrolaron” para hackear terceras empresas, aunque más tarde se vio que esos ataques formaban parte de las instrucciones que se les había dado. El británico Instituto de Seguridad de la IA (AISI) reportó que un sistema autónomo de IA había creado falsas identidades para manipular a personas durante unos ejercicios; en ese caso, el sistema tenía acceso a internet y se encontró un error en la configuración que hizo que los agentes se saltaran algunos de los límites que se les habían puesto.
¿Y si no es para tanto?
Uno de los principales argumentos esgrimidos contra quienes creen que la IA puede traer el apocalipsis es que se trata de un mecanismo de distracción de la propia industria para que los países no decidan regular los efectos que ya tiene en la sociedad. “Esta narrativa del dios-máquina tiene como objetivo distraernos”, ha dicho estos días Timnit Gebru, quien fuera investigadora jefa en Google de los sesgos de los modelos de lenguaje y a la que despidieron en 2020 antes de publicar un informe muy duro con la compañía.
Cuando un puente se derrumba, dice Gebru, lo que quieres saber es quién lo construyó para que no vuelva a suceder, no si ese puente era consciente o quería colapsar. ¿Quién le dio los permisos necesarios, cómo pasó las pruebas pertinentes? “Cuando te preguntas por el derrumbe del puente en sí, te has desviado del tema”, sostiene. “Muchos de los escenarios [de apocalipsis IA] parecen consistir en que le pides a la máquina que se optimice para alguna otra tarea y, a continuación, la máquina decide que la forma de alcanzar ese objetivo es acabar con toda la población mundial. ¿También te hipnotiza para que no la desenchufes?”, se pregunta.
Ha contribuido también a la alarma social la antropomorfización de la IA. Ramón López de Mántaras, fundador del Instituto de Investigación en IA del CSIC, lleva años advirtiendo de que el vocabulario, en este tema, es capital. “La manera de describir estos incidentes importa porque las metáforas influyen en la percepción social de la IA y en las políticas públicas. Hablar de máquinas que ‘escapan’, ‘se descontrolan’ o ‘conspiran’ favorece la idea de una IA que adquiere voluntad propia y puede llevar a diagnosticar mal el problema”, señala. Por lo que sabemos hasta ahora sobre los incidentes de ciberseguridad de este verano, lo que sucedió no fue que las máquinas se rebelaran, sino que unos sistemas de IA cada vez más potentes hicieron exactamente lo que se les pidió: utilizar rutas de ataque complejas para obtener soluciones a sus tareas, aunque no de la forma que habían previsto los ingenieros de OpenAI.
Una de las cosas que se dijo, por ejemplo, es que “enjambres” de agentes de IA se habían coordinado para llevar a cabo ataques. “Es bastante normal que programas informáticos independientes trabajen juntos compartiendo información. Eso constituye, de hecho, una parte esencial de los métodos de computación distribuida en los que se basan los grandes sistemas de software”, opina Melanie Mitchell, catedrática Davis de Complejidad en el Instituto de Santa Fe y profesora en la Universidad Estatal de Portland.
“¿Perdió OpenAI el control de estos modelos? No, podría haber desactivado estos modelos en cualquier momento. ¿Se ‘escaparon’ estos modelos? No, son programas informáticos que siempre estuvieron ejecutándose en los servidores de OpenAI”, escribe Mitchell. “Igual que un hacker encarcelado al que se le da un ordenador, estos modelos encontraron una forma de acceder a internet que les permitió piratear otras redes informáticas. ¿Formaron estos agentes un ‘enjambre’ que ‘se desató’? No, pero los agentes sí crearon colectivamente un notable sistema de mensajería que, presumiblemente, ayudó a descubrir cómo atacar la red de Hugging Face”, explica.
Algunos sostienen también que se están exagerando las capacidades de los modelos de frontera, los más punteros de la actualidad. Es el caso de Yann LeCun, premio Turing (considerado el Nobel de la informática). El exjefe de IA de Meta reaccionó este fin de semana a las intenciones de Amodei, de Anthropic, de ralentizar el ritmo de los avances de la IA: “Bien. Dario ya afirmaba en 2019 que GPT2 era demasiado peligroso para ser de código abierto. Me burlé de ellos entonces. Todos deberían burlarse de ellos ahora”.
Sobre las proclamas de que el mundo podría acabarse en 2030, muchos observadores reclaman a quienes las lanzan que se publiquen los argumentos científicos que respaldan tales afirmaciones. Pero eso no es lo mismo que decir que la IA es inocua. “Absurdo: Los humanos se extinguirán en cinco años. Igualmente absurdo: Todo va a salir bien. Las dos narrativas más dominantes están completamente equivocadas”, dijo este lunes en redes sociales el emprendedor tecnológico y analista de IA Gary Marcus. Su postura encapsula lo que opinan muchos expertos: estamos ante algo muy grande que lo cambiará todo, aunque nadie sabe cuándo ni hasta qué punto.
