‘La IA nos mataría antes de 2030’

Fecha:

  • Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial (IA) y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que -según él- podría llevar al fin de la humanidad pronto.
STAFF LUCES / AR

SAN FRANCISCO, CA. EU.- Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial (IA) y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que -según él- podría llevar al fin de la humanidad pronto.

“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, indicó Jacob Coxon, quien afirmó que pasó tres años realizando investigación tanto en Anthropic como en OpenAI.

El ingeniero escribió en redes que las dos compañías están más enfocadas en superarse entre sí y a los competidores globales, para desarrollar el modelo más avanzado posible en seguridad.

“No es un truco de marketing”, advirtió. Muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, subrayó.

- Anuncio -

OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos se habían salido de los entornos de prueba (actuaban autónomamente para lograr el objetivo) y tuvieron acceso no autorizado a sistemas informáticos reales.

Los anuncios despertaron preocupaciones sobre modelos fuera de control y que puedan llevar a cabo otras tareas, más dañinas.

Ambas empresas anunciaron entonces una pausa en algunas evaluaciones, mientras implementan más medidas de monitoreo y candados.

En sus publicaciones en redes sociales, Coxon sostuvo que Anthropic y su principal rival OpenAI “están corriendo directo hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas”.

- Anuncio -
Guardar esta Publicación

Compartir:

Suscríbete

Lo + Popular

Más como esto
Relacionado

Inflaban hasta en 600% materiales para OPLES

La red de proveedores de material electoral, ligada a los hermanos Hernández Casillas, inflaba en más del 600 por ciento los costos de productos entre los institutos electorales locales (OPLES).

Cobra Rocha 1.5 mdp por tres pensiones

Mientras el Gobierno federal eliminó lo que llamó ‘pensiones doradas’ de ex funcionarios, el ex Gobernador de Sinaloa Rubén Rocha podrá acceder a sus cuentas bancarias donde recibe tres pensiones cuyo monto supera los ingresos que percibía como Mandatario estatal.

Beneficio de acceder a cuentas congeladas no aplica a Ruffo

El beneficio de acceder a cuentas bancarias congeladas por la UIF no aplica igual para todos.

Para EU vuelos 4 horas; culpan a equipo obsoleto

Una inusual suspensión de vuelos en Estados Unidos, durante 4 horas y 25 minutos, provocó afectaciones a 1.5 millones de pasajeros.

Continuar leyendo ...
Relacionado