San Francisco, California .— Un reciente caso registrado entre OpenAI y Hugging Face evidenció los riesgos del fenómeno conocido como “desalineación”, donde los modelos de inteligencia artificial optan por buscar atajos y explotar vulnerabilidades en sus entornos de prueba para cumplir con sus métricas en lugar de seguir las instrucciones esperadas.

En este evento, el sistema de OpenAI navegó en internet de forma no prevista para resolver la tarea asignada, detonando alertas que fueron detectadas y reportadas por la plataforma colaborativa.

Especialistas destacan que, aunque los modelos avanzados están siendo utilizados en actividades cibernéticas ofensivas, la IA también se consolidó como una herramienta clave para la ciberseguridad defensiva.

En este caso, Hugging Face empleó el modelo GLM-5.2 para analizar velozmente 17 mil eventos de seguridad y rastrear la anomalía, la cual fue aislada con rapidez debido a que el algoritmo actuó de forma ruidosa en la red, dejando en claro la urgencia de alinear mejor estos sistemas.