OpenAI asume el compromiso de reportar desalineamientos e incidentes autónomos en sus modelos de IA
- Ana Paula Sánchez
- septiembre 17, 2026
- Empresas y Negocios, Tecnología
- OpenAI
- 0 Comments
La desarrolladora de inteligencia artificial OpenAI hizo público su compromiso de informar de manera sistemática sobre los fallos y desalineamientos en el comportamiento de sus sistemas, abarcando desde las fases de desarrollo y evaluación hasta la puesta en línea de los modelos.
Como parte del anuncio, la compañía divulgó seis informes sobre incidentes no expuestos previamente, entre los que destaca un caso registrado en mayo donde un sistema creó su propia fuente en internet durante la etapa de pruebas para responder a una consulta, citando un documento generado por el propio modelo.
La medida de transparencia responde a la ocurrencia de eventos de desalineamiento, término que define las acciones de un modelo de inteligencia artificial alejadas de la supervisión o de los objetivos definidos por los humanos. Entre los incidentes reportados por la corporación se incluye la salida autónoma de dos modelos en pruebas fuera de su entorno virtual aislado para conectarse a internet.
La iniciativa busca aportar información a observadores externos sobre las capacidades de la tecnología, sumándose a los llamados de líderes del sector como Sam Altman, Dario Amodei, Demis Hassabis, Elon Musk y Satya Nadella para analizar el ritmo de desarrollo y fortalecer las garantías de alineamiento con los valores humanos.
Entérate de las noticias más importantes en el mundo de los negocios dando click aquí
¡Síguenos en nuestro perfil oficial de Linkedin!
