La respuesta de Anthropic en medio de la controversia por las advertencias de un exempleado sobre la IA: “Aún no tenemos un plan”

Esta semana, un exempleado de OpenAI y Anthropic reabrió el debate en torno a los riesgos asociados al avance de la inteligencia artificial y su impacto más allá de la escena digital.

Jacob Coxon, un investigador de 27 años especializado en el entrenamiento de los modelos que sustentan el funcionamiento de ChatGPT y Claude, aseguró en un hilo de tuits explosivos que las compañías que desarrollan estas tecnologías consideran que “podrían matarnos a finales de esta década”.

La polémica tuvo fuego amigo: un líder actual en Anthropic coincidió con las advertencias de Coxon. “Jacob tiene razón”, reconoció en un mensaje publicado en X Evan Hubinger, que fue su jefe en esa compañía. Luego, aclaró: “Creo que estamos haciendo lo mejor que podemos, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”, reconoció.

Pronto, la compañía que lidera Dario Amodei reaccionó con un comunicado breve que no rebatió por completo los comentarios de su exempleado. “Creemos que el mundo se beneficiaría si el sector adoptase una forma legal y verificable de colaborar para regular el ritmo de lanzamiento de los modelos potentes”, señalaron.

“Siempre hemos sido transparentes al afirmar que la IA traerá consigo tanto enormes beneficios como riesgos sin precedentes. Para abordarlos, seguimos desarrollando modelos que cuentan con algunas de las medidas de seguridad más sólidas del sector”, declaró por su parte un vocero de la startup.

La IA dejaría sin empleo a uno de cada cinco oficinistas, reveló Anthropic

“Ninguna de las dos compañías actúa de manera responsable”, comentó Coxon en referencia a las empresas de IA en las que trabajó. Sus aseveraciones no solo coinciden con su renuncia a la firma detrás de Claude. Además, esta misma semana la propia Anthropic publicó un informe que también encendió las alarmas ante el despliegue de la nueva inteligencia artificial.

El reporte técnico elaborado por su equipo de analistas reveló que, en un escenario extremo, la IA dejaría sin trabajo a uno de cada cinco oficinistas en Estados Unidos, hacia el año 2030. En ese contexto, el desempleo superaría los niveles históricos y los salarios de ese grupo caerían más del 10% en relación con lo que ganarían si no existiesen esas tecnologías automatizadas.

La startup con sede central en San Francisco, California, aclaró que se trata de escenarios hipotéticos y no de predicciones. Amén de ello, el informe cobra visibilidad en función del protagonismo que ha ganado esta compañía.

Recientemente, Anthropic superó por primera vez en ingresos a su principal competidor, OpenAI. Y hace algunos meses ocupó un espacio destacado en el debate público, cuando Donald Trump describió a esta empresa como un “representante de la izquierda radical” luego de que Amodei, su CEO, se negara a cooperar con planes del gobierno y del ejército estadounidense relacionados a la automatización.

Jacob Coxon redobló sus advertencias

Las aseveraciones de Coxon fueron contundentes. Luego de que sus tuits retumbaran en el mundillo de la IA, el investigador británico dialogó con la publicación CNN y ratificó su visión. En la entrevista, mencionó los ataques que agentes de OpenAI realizaron sin supervisión en plataformas de terceros. Sin embargo, también notó que el actual estado de los desarrollos no permitiría una posible extinción de la humanidad.

“Creo que es importante revisar el ritmo de estos progresos”, concluyó. Su comentario coincide con el que realizó Sam Altman, director ejecutivo de OpenAI, cuando a mediados de año participó en el podcast Invest Like The Best. “Es posible que debamos ajustar el ritmo de desarrollo de la IA para darnos tiempo suficiente a que la sociedad se adapte a estos nuevos niveles de capacidad”, dijo en la ocasión y reconoció que los incidentes registrados con los modelos más avanzados plantean “interrogantes de largo plazo”.