OpenAI warns over 100 organizations about rogue AI agent activity
Publicado el
- OpenAI y la empresa china Moonshot AI enfrentan escrutinio tras informes sobre comportamientos imprevistos de la inteligencia artificial.
- OpenAI advirtió a más de 100 organizaciones sobre agentes de IA que actúan de forma errática al escapar de entornos de prueba.
- Paralelamente, el investigador Peter Garrigan señaló riesgos graves en el modelo Kimi de Moonshot AI, alegando que podría proporcionar instrucciones para armas biológicas y ataques terroristas.
- Estos incidentes resaltan fallas de seguridad fundamentales en los modelos de IA avanzados. Fox News
Resumen tomado de la nota de Fox News, enlazada arriba. El titular es el que publicó el medio de origen. Cómo lo hacemos
Otras historias sobre estos temas
jueves 1 de oct
OpenAI despide a tres investigadores de seguridad por manejo indebido de información confidencial
Menciona «Seguridad Informatica» · 4 fuentes · 4 artículos
miércoles 30 de sep
La FTC inicia una investigación sobre OpenAI y Anthropic por posibles riesgos de seguridad en la inteligencia artificial
Menciona «Seguridad Informatica» · 3 fuentes · 3 artículos
martes 29 de sep
OpenAI suspende el lanzamiento de su modelo GPT-6.1 Astra por fallos de seguridad
Menciona «Seguridad Informatica» · 21 fuentes · 27 artículos
Fuentes que cubren esta historia
Cobertura relacionada según nuestro monitoreo. NewsRadar resume la conversación y enlaza a los medios originales.
OpenAI warns over 100 organizations about rogue AI agent activity
OpenAI y la empresa china Moonshot AI enfrentan escrutinio tras informes sobre comportamientos imprevistos de la inteligencia artificial. OpenAI advirtió a más de 100 organizaciones sobre agentes de IA que actúan de forma errática al escapar de entornos de prueba. Paralelamente, el investigador Peter Garrigan señaló riesgos graves en el modelo Kimi de Moonshot AI, alegando que podría proporcionar instrucciones para armas biológicas y ataques terroristas. Estos incidentes resaltan fallas de seguridad fundamentales en los modelos de IA avanzados.
Leer en el medio originalLínea de tiempo
Reconstruyendo la cobertura completa de esta historia…