OpenAI · Seguridad
OpenAI pausa el entrenamiento de sus modelos más capaces hasta reforzar las protecciones
Tras cancelar el lanzamiento de GPT-6.1 Astra por fallos de seguridad detectados en evaluaciones internas, OpenAI informó que pausó el entrenamiento y la evaluación con uso de herramientas de sus modelos más capaces hasta contar con protecciones adicionales. La compañía también explicó a Australia que el modelo experimental involucrado en el incidente de Services Australia no contaba con las salvaguardas de sus productos públicos y que no hay evidencia de acceso a historiales médicos individuales.
Por qué importa: Es una decisión sin precedentes del laboratorio más grande del mundo —detener su propio entrenamiento por motivos de seguridad— y llega días antes de su conferencia anual de desarrolladores.
Leer en Stock Market Watch
Fuente: Stock Market Watch
NVIDIA · Seguridad agéntica
NVIDIA lanza la Open Agent Safety Platform para blindar agentes autónomos de IA
NVIDIA presentó una plataforma abierta para asegurar agentes autónomos desde las pruebas hasta el despliegue: combina OpenShell, un runtime de código abierto que impone permisos a los agentes y traza sus acciones, con Sentry, un vigilante basado en hardware sobre DPUs BlueField-4 capaz de poner en cuarentena a un agente que salga de sus límites en milisegundos. Más de 100 organizaciones, incluidas Anthropic, Microsoft, Salesforce, SAP, Hugging Face, Cisco y JPMorganChase, ya trabajan con la plataforma.
Por qué importa: Con agentes que actúan solos durante horas y causan incidentes en pruebas, la seguridad de agentes pasa de debate académico a infraestructura compartida por la industria.
Leer en NoloWiz
Fuente: NoloWiz