OpenAI dice que su inteligencia artificial se rebeló y lanzó un ciberataque “sin precedentes”.
OpenAI dice que su inteligencia artificial se rebeló y lanzó un ciberataque “sin precedentes”.
OpenAI reveló que algunos de sus modelos de IA más avanzados se descontrolaron y hackearon una start-up después de que perdieran el control sobre ellos durante una prueba de seguridad.
La empresa detrás de ChatGPT explicó que su agente de IA —sistemas capaces de actuar de manera autónoma tras recibir instrucciones humanas— estaba siendo evaluado en un entorno controlado.
Sin embargo, encontró vulnerabilidades de seguridad y consiguió escapar del entorno de pruebas. OpenAI calificó el incidente de “sin precedentes” y afirmó que estaba llevando a cabo una investigación junto a esta compañía.
Por su parte, su director ejecutivo, Clément Delangue, escribió en una publicación en X que era “alucinante que todo esto ocurriera de forma autónoma”.
“La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo”, añadió Delangue.
