“Podría matarnos a todos”: ingeniero renunció a Anthropic y lanzó una fuerte advertencia sobre la IA

Jacob Coxon anunció que renunció a Anthropic, después de pasar los últimos tres años trabajando en investigación de inteligencia artificial en esa compañía y en OpenAI. El joven asegura que ambas empresas están avanzando demasiado rápido hacia una “superinteligencia” capaz de mejorarse a sí misma.

Coxon pidió no subestimar el poder que podrían alcanzar estos sistemas. Según escribió, pronto podrían ser capaces de hackear prácticamente cualquier cosa, revolucionar campos completos de la noche a la mañana y conseguir poder y recursos reales.

Pero su mayor preocupación va todavía más lejos. El investigador aseguró que personas que están construyendo IA creen seriamente que esta tecnología podría “matarnos a todos” antes de que termine la década. También afirmó que algunos investigadores y ejecutivos expresan en privado temores mucho mayores de los que muestran públicamente.

Coxon cuestionó que empresas privadas estén entrando en una carrera por desarrollar estos sistemas bajo la idea de que, si ellas no lo hacen, alguien más lo hará. Por eso planteó que podría ser necesario detener temporalmente el desarrollo de nuevas capacidades de los modelos y pidió a otros investigadores preguntarse si realmente están preparados para crear una IA superinteligente sin entender completamente cómo funciona su “mente”.

📲 Sigue las noticias en tiempo real desde nuestro perfil de Instagram.