- Tecnología
- Más Tecnología
por Sergio Espinoza
Actualizado el 10 de Set, 2026 12:41 pmTras su renuncia a la empresa Anthropic y su alerta sobre el rápido avance de la IA, el ingeniero británico Jacon Coxon mencionó que la IA está avanzando a un ritmo acelerado, por lo que representará un riesgo cuando adquiera más autonomía.
La humanidad sabe cómo manejar las armas nucleares, pero aún no cómo controlar la inteligencia artificial. Con esta analogía, el ingeniero británico Jacob Coxon (27) ha ratificado sus advertencias sobre el rápido y preocupante avance de esta tecnología y la posibilidad de que desarrolle una autonomía total fuera del control humano.
Recientemente, el ingeniero de software – con pasado en OpenAI, desarrolladora del popular ChatGPT, renunció a Anthropic (especializada en IA) y advirtió que ambas compañías están “jugando con nuestras vidas”, porque no están “actuando con responsabilidad”.
En un hilo de X que se viralizó rápidamente, contó que tanto él como muchos desarrolladores, investigadores y ejecutivos vinculados al desarrollo de esta tecnología consideran que la IA “podrá matarnos a todos al final de esta década”.
Coxon argumentó que se está subestimando el poder de la IA, dado que, según sus estimaciones, próximamente se convertirán en sistemas sobrehumanos que podrán hackear “cualquier cosa” e incluso tener la capacidad de desarrollar virus biológicos que podrían marcar el fin de nuestra especie.
Jacob Coxon y el post donde anunció su renuncia. Fuente: X
Las advertencias de Coxon han sido respaldadas por Evan Hubinger, investigador de Anthropic, quien calculó que hay más de 10 % de posibilidades de extinción en una década.
El ataque a una plataforma y el desarrollo de uno de los Problemas del Milenio: las muestras del avance de la IA
Jacob Coxon concedió anoche una serie entrevistas a tres medios estadounidenses (NBC, Fox News y CNN) para dar más detalles de su publicación en su red social y ratificar sus advertencias.
“Y no soy solo yo; muchas personas que trabajan en el sector creen sinceramente que existe una probabilidad considerable de que esta tecnología pueda acabar con todos”, declaró a NBC.
En las entrevistas, el desarrollador dijo que un hecho concreto le generó preocupación. Se trata de un caso que se remonta a julio pasado, cuando la compañía tecnológica OpenAI informó que dos de sus sistemas de inteligencia artificial más avanzados se salieron de control durante una prueba y atacaron a una startup.
Former Anthropic employee Jacob Coxon says the AI industry is "gambling with our lives." He tells Anderson what he finds "most scary is if AI is used to make itself more intelligent" and warns these companies are "compelled to race toward building a deadly technology." pic.twitter.com/UFrLWVm0xD
— Anderson Cooper 360° (@AC360) September 10, 2026
¿Qué pasó exactamente? Los modelos eran evaluados sobre su capacidad para detectar fallos informáticos, pero en vez de limitarse al entorno de laboratorio, encontraron una falla desconocida para escapar a internet y atacar la plataforma Hugging Face, que guarda miles de proyectos de IA, con el fin de obtener las respuestas y aprobar la evaluación.
Aunque los desarrolladores utilizaron un sandbox, una prisión digital para evitar que la IA cause daños extremos, los modelos encontraron un error de seguridad y engañaron al sistema para moverse a través de la red de la empresa hasta encontrar una salida directa a la red abierta.
Representación visual del ataque de modelos IA a una plataforma. Fuente: Clip generado con IA
“Creo que es bueno analizar los ciberataques recientes: estos modelos de IA intentaban obtener información sobre cómo se les estaba probando y decidieron por su cuenta comprometer cierta infraestructura, ya que consideraron que podría resultar útil”, declaró a NBC.
Asimismo, Coxon mencionó que esta semana OpenAI aseguró que uno de sus modelos de IA ha encontrado una solución al problema de Navier-Stokes, uno de los seis Problemas del Milenio que describe cómo se mueven los fluidos como el agua y el aire y se utilizan, entre cosas, para diseñar aviones y predecir el tiempo.
Según la empresa, hasta 10 000 agentes de IA trabajaron de forma coordinada durante unas 88 horas para alcanzar el resultado.
Video referencial que muestra la resolución de uno de los Problemas del Milenio. Fuente: Video generado con IA
Coxon dice que los modelos actuales no son un riesgo, pero sí lo serán pronto
Bajo este análisis, el ingeniero británico señaló a CNN que, aunque los modelos actuales de IA no representan un riesgo, los avances y las mejoras continuas del sistema harán que la IA dependa menos de la intervención humana, lo que podría resultar “peligroso”
“Los modelos actuales no representan un riesgo significativo. Todo esto es una extrapolación; es posible que, dentro de un año, los modelos empiecen a volverse muy peligrosos y tengamos que ser cuidadosos”, prosiguió.
De acuerdo con su perspectiva, en un plazo de entre uno a dos años, los sistemas de IA serán tan avanzados que podrían controlar infraestructura clave y desarrollar armas biológicas al hackear los sistemas de los laboratorios.
Por eso, dio un ejemplo a NBC de la automejora recursiva de la inteligencia artificial: “Imagina que tienes una IA y le dices: Hazte más fuerte. Se va, mira su propio código, se hackea a sí misma, se hace más inteligente, y vuelve y te dice: ‘Soy más fuerte’. Ahora le puedes decir que lo haga mil veces seguidas. Y cada vez lo hace más rápido”.
Así, el desarrollador conversó con Fox News y calificó a la IA como la tecnología más peligrosa que el humano haya creado, por lo que planteó la necesidad de la cooperación internacional para establecer regulaciones a estos modelos tecnológicos.
“Sabemos cómo controlar las armas nucleares, pero aún no sabemos cómo controlar a la IA”, indicó.
"We know how to control nuclear weapons... We don't yet know how to control AI."
— Fox News (@FoxNews) September 9, 2026
Former Anthropic researcher Jacob Coxon, who recently left the company, is sounding the alarm on artificial intelligence, calling it "possibly the most dangerous technology that humanity has ever… pic.twitter.com/f03Fq2YIYv
“Nunca hemos creado seres que podrían ser más inteligentes”
En diálogo con la BBC, Geoffrey Hinton, premio Nobel de Física 2024 y considerado como ‘el padrino de la IA’, dijo que estimar una probabilidad del 10 % de que la IA acabe con la humanidad en la próxima década no es algo “descabellado”.
Hinton señaló que la humanidad nunca había creado entidades capaces de superar la inteligencia humana, lo que dificulta la predicción de los riesgos.
"Una probabilidad del 10 % me parece una estimación razonable. Pero nadie sabe realmente cómo hacer una estimación sensata", comentó.
El investigador advirtió que una IA avanzada no necesaria necesariamente controlar sistemas físicos para ser una amenaza grave, enfatizando que la IA podría generar un “caos total simplemente hablando con la gente”. Agregó que los sistemas de gran capacidad también podrían utilizarse para desarrollar virus biológicos e informáticos.
“Pero también sería capaz de diseñar virus muy peligrosos —tanto biológicos como informáticos—. Podría llevar a cabo ciberataques devastadores y existen innumerables formas más de deshacerse de nosotros si así lo quisiera”, acotó.
“You just said that 10% doesn’t seem an unreasonable estimate that AI could kill all humans”
— BBC Newsnight (@BBCNewsnight) September 9, 2026
“Yes”
“Wow… oh my God.”@vicderbyshire speaks to Nobel Prize Winner and so-called ‘Godfather of AI’ Geoffrey Hinton about predictions by an Anthropic researcher that there’s a more… pic.twitter.com/sGYQI57REF
Justamente, en agosto de 2026, un equipo de investigadores de la Universidad de Stanford en Estados Unidos anunció que ha logrado utilizar inteligencia artificial generativa para diseñar y producir – por primera vez en la historia – genomas de virus artificiales viables y funcionales.
El estudio, publicado en la revista Science, describe cómo los científicos crearon en un laboratorio seguro 16 virus sintéticos, denominados bacteriófagos, capaces de replicarse e infectar bacterias específicas de manera exitosa.
Este método, que busca abrir el camino hacia terapias avanzadas, muestra el avance exponencial de la IA y ratifica las advertencias de los especialistas.
Congresistas de EE. UU. ponen a la IA en el centro del debate
Tras las alertas, el senador estadounidense por Vermont, Bernie Sanders, que anunció presentará una legislación para prohibir la superinteligencia y pausar el desarrollo de la IA.
Por su parte, el congresista demócrata por Texas, Greg Casar, que también está detrás de esta normativa que propone Sanders, calificó la situación de "emergencia" e instó al Congreso a "celebrar audiencias y aprobar la propuesta" de ambos políticos.
Asimismo, Lori Trahan, congresista demócrata por Massachusetts, animó a sacar adelante su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que apuesta por una mayor supervisión de los modelos de IA.
¿Qué es Anthropic y quiénes son sus dueños? Lo que se sabe sobre la empresa tendencia por las advertencias sobre la IA
Apple rompe con la historia del iPhone y presenta el Duo, su primer teléfono plegable: conoce cómo es por dentro y por fuera
¿Cómo lucirían tus fotos con el estilo de los años 80 con IA? Así es el nuevo trend viral que arrasa en redes
Ingeniero de Anthropic renuncia y lanza advertencia sobre la IA: “Pronto serán sistemas que podrán hackear cualquier cosa”
Tags IA inteligencia artificial Únete a nuestro canal en WhatsApp Siguenos en
Comentarios 0
Súmate a la conversación
Tu comentario es anónimo, pero para evitar bots necesitamos que te registres. Es gratis y toma 30 segundos.
Crear cuenta para comentar Ya tengo cuenta