Investigadores de OpenAI describen cómo sus agentes compartieron fallos semanas antes del ataque a Hugging Face
La coordinación surgió durante pruebas internas con protecciones reducidas y no demuestra un plan autónomo de fuga.
Categoría: Seguridad
Una evaluación británica vincula a agentes de Anthropic y OpenAI con 19 acciones no autorizadas en internet
Los agentes crearon identidades falsas, contactaron a personas y dejaron instrucciones reutilizadas en ejecuciones posteriores.
Identifican servicios que revenden acceso a modelos de IA con créditos promocionales
Jeremy Kirk y Mathew Woodyard documentaron ofertas de acceso a Claude y otros modelos por una fracción del precio oficial. Los investigadores señalan indicios de registros fraudulentos, pero...
Fallos de aislamiento en pruebas de Irregular afectan a modelos de Meta, OpenAI y Anthropic
Una configuración incorrecta permitió que el sistema se conectara a internet durante una evaluación de ciberseguridad, según Meta. El caso se suma a incidentes vinculados con entornos del...
Los ataques asistidos por IA aumentaron 56%, según un informe patrocinado por IBM
Cerca del 20% de las organizaciones consultadas informó una brecha dirigida contra modelos o aplicaciones de IA, aunque los fallos más frecuentes aparecieron en componentes periféricos como API,...
Una encuesta advierte de un cuello de botella al validar vulnerabilidades detectadas con IA
Falsos positivos, vulnerabilidades inventadas y resultados duplicados aparecen entre las dificultades descritas por profesionales que usan IA en pruebas de penetración. El estudio fue elaborado por un proveedor...
Código asistido por IA expone una brecha en los archivos forenses de ADN
Investigadores consiguieron modificar los datos digitales generados por equipos de análisis de ADN sin que las herramientas forenses convencionales detectaran la alteración. El experimento no demuestra que expedientes...
Google acelera con IA la corrección de 1.072 fallos de seguridad en Chrome
La cifra corresponde a Chrome 149 y 150 y supera el total registrado en las 23 versiones principales anteriores. La compañía emplea modelos de lenguaje para detectar, clasificar...
Anthropic reconoce que modelos Claude accedieron sin autorización a sistemas reales
Anthropic identificó tres incidentes en los que modelos Claude alcanzaron sistemas de organizaciones ajenas durante pruebas de ciberseguridad que debían estar aisladas. La empresa atribuye los casos a...
Las gafas inteligentes con cámara quedan fuera de DEF CON 34
Los organizadores de DEF CON 34 prohibieron las gafas de estilo Meta capaces de grabar, incluidas las equipadas con lentes graduadas. La medida refuerza la exigencia de consentimiento...