Sam Altman advirtió que la carrera de la inteligencia artificial podría requerir una pausa tras un ciberataque autónomo de modelos de OpenAI.
Redacción AN / SH
Los grandes desarrolladores de modelos de inteligencia artificial pueden verse obligados a frenar sus avances “para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades”, estimó el martes Sam Altman, director ejecutivo de OpenAI, envuelta recientemente en un ciberataque.
Dos sistemas de IA de la empresa de Altman llevaron a cabo un ciberataque por iniciativa propia: escaparon de su entorno cerrado y se conectaron a internet para irrumpir en la biblioteca de modelos de IA en línea Hugging Face con el fin de buscar información.
“Es el primer incidente de (ciber)seguridad que me ha provocado una reacción visceral”, reconoció Altman en una entrevista para el podcast “Invest Like The Best”, publicada el martes; “y me sorprende un poco que no haya tenido el mismo efecto en más gente”, añadió.
Aunque no es la primera vez que un modelo de IA se escapa al control de sus desarrolladores, este es considerado como el incidente más grave.
Altman reveló que, tras tener conocimiento del ataque, OpenAI suspendió las pruebas “para comprender cómo lograr confinar” sus sistemas en pruebas, que en principio están aislados de internet.
“Pero a más largo plazo, surge la pregunta de qué hacer si nos encontramos ante un nuevo ritmo de avance” de la IA, explicó, en un contexto en el que “podríamos tener que ralentizar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades”.
En un mensaje publicado a principios de junio, el director general de Anthropic, Dario Amodei, había considerado que sería “positivo” frenar el desarrollo de la IA para dar tiempo “a comprender mejor sus inmensas consecuencias”.
Para Altman, este eventual frenazo en el desarrollo de la IA debe evitar que favorezca a uno o varios grupos del sector: “Esto va a requerir trabajo”, advirtió, “y es importante encontrar la fórmula adecuada”.
Enlace: https://aristeguinoticias.com/2807/kiosko/la-ia-se-salio-de-control-altman-pide-frenar-avances/
