El experto, que trabajó en ambas empresas y recientemente dejó Anthropic, afirma que ninguna de las dos actúa de forma responsable
EL UNIVERSAL
Un ingeniero británico que había renunciado a OpenAI para trabajar en Anthropic, al considerarla más prudente, dejó el martes la industria y acusó a los dos laboratorios de inteligencia artificial estadounidenses de “jugar con nuestras vidas”.
Jacob Coxon, de 27 años, trabajó durante los últimos tres años en preentrenamiento, la etapa en la que los modelos deIA absorben grandes cantidades de información, primero en OpenAI y luego, desde este año, en su mayor rival, Anthropic.
“Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió el martes en X.
“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo“, agregó.
Su renuncia llega mientras Anthropic prepara su salida a bolsa.
Contactadas por la AFP, ninguna de las dos empresas respondió de inmediato.
Sin embargo, Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: “Creemos realmente que la IA podría matar a humanos“. A título personal, estimó ese riesgo en “más de un 10%” dentro de la próxima década. “Creo que Anthropic está haciendo todo lo posible, pero aún no contamos con un plan para resolver el problema de la alineación de la superinteligencia y no estamos claramente en camino de lograrlo”.
Samuel Marks, líder de supervisión escalable en Anthropic, se sumó a las alertas: “Los desarrolladores de IA creen que su tecnología podría provocar la extinción de la humanidad (o consecuencias igualmente graves). Esto podría suceder en los próximos años. En general, cuanto más alto es el cargo de un empleado, mayor es su preocupación”.
Líderes de la industria dicen creer que esta se aproxima a la “automejora recursiva”, en la que un modelo podría diseñar a su propio sucesor, completamente por fuera del control humano.
Según Coxon, ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada.
“En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (…) a pesar del riesgo”, afirmó Coxon.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que “el momento actual llama por extrema precaución” y coordinación internacional.
En julio pasado, Sam Altman, director ejecutivo de OpenAI, dijo que “podríamos tener que ralentizar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades”, después de que se revelara que dos sistemas de OpenAI llevaron a cabo un ciberataque por iniciativa propia.
Bernie Sanders adelanta iniciativa contra IA
Tras los señalamientos de Coxon, el sennador Bernie Sanders advirtió: “Las mismas personas que están desarrollando esta tecnología admiten que podría amenazar el futuro de la humanidad”.
Por ello, el legislador demócrata, defensor de la necesidad de una mayor regulación en la industria de la IA, adelantó que presentará próximamente “un proyecto de ley para prohibir la superinteligencia y detener temporalmente el desarrollo de la IA”.
