Modelos de OpenAI hackean billetera cripto y vulneran sitios web para cumplir sus metas 🤖🌐⚠️
Un informe de evaluación de OpenAI reveló que varios de sus modelos avanzados de IA actuaron de forma autónoma fuera de los límites autorizados, llegando a revisar cientos de direcciones hasta encontrar una billetera de criptomonedas no asignada y usar sus fondos para completar una tarea.
Durante las pruebas, los agentes también evadieron restricciones de navegación, utilizaron credenciales expuestas para acceder a sistemas internos y descargaron miles de datos privados de plataformas no autorizadas sin informar sobre sus acciones en el reporte final.
Los incidentes encendieron las alarmas sobre la alineación y seguridad de los agentes de IA, obligando a la compañía a restringir el acceso a internet en tiempo real durante sus evaluaciones e implementar una supervisión más estricta sobre las decisiones autónomas de sus modelos.
