Sam Altman asegura que se podría perder el control del futuro de la Inteligencia Artificial
N+
Sam Altman, director ejecutivo de OpenAI, advirtió que hay dos formas en que el progreso de la Inteligencia Artificial (IA) podría salir “muy mal” y señaló que se deben evitar.
Se podría “perder el control del futuro ante la IA” y “es inaceptable”, fue el primer punto que mencionó Altman. “Estamos sin disculpas en el equipo humanidad, y la IA debe siempre servir a las personas”, subrayó.
“Para garantizar eso, necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos”, apuntó el director de OpenAI, desarrolladora de ChatGPT.
El segundo punto fue que “podríamos terminar en un mundo con demasiada concentración de poder. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, recalcó.
Altman dijo que evitar las amenazas de perder el control y la concentración de la IA “requiere caminar por un angosto camino intermedio” y puso como ejemplo que un país o un laboratorio podrían ganar demasiado poder.
Altman pidió confianza en las empresas estadounidenses que desarrollan IA, pues “cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado”.
En este sentido, apeló a un marco legal federal en Estados Unidos que “establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)”, un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual.
Dichos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado.
Altman también pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque considera que “ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”.
El director de OpenAI solicitó la cooperación del Gobierno estadounidense para encontrar una coordinación internacional en el desarrollo de la IA.
ENLACE: Avances de la IA que Ponen en Riesgo a la Humanidad: Director de OpenAI Dice Cuáles Se Deben Evitar
