‘La IA nos mataría antes de 2030’

Fecha:

  • Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial (IA) y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que -según él- podría llevar al fin de la humanidad pronto.
STAFF LUCES / AR

SAN FRANCISCO, CA. EU.- Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial (IA) y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que -según él- podría llevar al fin de la humanidad pronto.

“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, indicó Jacob Coxon, quien afirmó que pasó tres años realizando investigación tanto en Anthropic como en OpenAI.

El ingeniero escribió en redes que las dos compañías están más enfocadas en superarse entre sí y a los competidores globales, para desarrollar el modelo más avanzado posible en seguridad.

“No es un truco de marketing”, advirtió. Muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, subrayó.

- Anuncio -

OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos se habían salido de los entornos de prueba (actuaban autónomamente para lograr el objetivo) y tuvieron acceso no autorizado a sistemas informáticos reales.

Los anuncios despertaron preocupaciones sobre modelos fuera de control y que puedan llevar a cabo otras tareas, más dañinas.

Ambas empresas anunciaron entonces una pausa en algunas evaluaciones, mientras implementan más medidas de monitoreo y candados.

En sus publicaciones en redes sociales, Coxon sostuvo que Anthropic y su principal rival OpenAI “están corriendo directo hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas”.

- Anuncio -
Guardar esta Publicación

Compartir:

Suscríbete

Lo + Popular

Más como esto
Relacionado

Promete Morena encarar elecciones con gasto mínimo; descarta derroche

Morena y sus aliados en la coalición de la 4T, prevé encarar el proceso electoral de 2027 con un gasto mínimo de sus prerrogativas públicas y una estrategia centrada en el trabajo territorial.

Murió la voz original de Topo Gigio, ¡a los 100 años!

Giuseppe ‘Peppino’ Mazzullo, el actor italiano que dio la voz original al entrañable personaje Topo Gigio, falleció a los 100 años.

Apuesta Corte por una justicia que transforme vidas: Aguilar

El presidente de la SCJN afirmó que detrás de cada expediente existen personas y que el máximo tribunal debe convertirse en un factor de cambio para la sociedad.

Avanza al 41% proyecto ‘Agua para Campeche’

La entidad campechana forma parte de los 17 proyectos estratégicos que impulsa la presidenta Claudia Sheinbaum, a través de la Conagua.

Continuar leyendo ...
Relacionado