- Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial (IA) y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que -según él- podría llevar al fin de la humanidad pronto.
STAFF LUCES / AR
SAN FRANCISCO, CA. EU.- Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial (IA) y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que -según él- podría llevar al fin de la humanidad pronto.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, indicó Jacob Coxon, quien afirmó que pasó tres años realizando investigación tanto en Anthropic como en OpenAI.
El ingeniero escribió en redes que las dos compañías están más enfocadas en superarse entre sí y a los competidores globales, para desarrollar el modelo más avanzado posible en seguridad.
“No es un truco de marketing”, advirtió. Muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, subrayó.
OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos se habían salido de los entornos de prueba (actuaban autónomamente para lograr el objetivo) y tuvieron acceso no autorizado a sistemas informáticos reales.
Los anuncios despertaron preocupaciones sobre modelos fuera de control y que puedan llevar a cabo otras tareas, más dañinas.
Ambas empresas anunciaron entonces una pausa en algunas evaluaciones, mientras implementan más medidas de monitoreo y candados.
En sus publicaciones en redes sociales, Coxon sostuvo que Anthropic y su principal rival OpenAI “están corriendo directo hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas”.
