Seguridad en IA
La seguridad en IA es crítica para proteger modelos, datos y usuarios. En esta guía aprenderás los conceptos clave: ataques adversariales, robustez, privacidad y defensas modernas.
Tabla de contenidos
- Ataques adversariales
- FGSM
- PGD
- Robustez del modelo
- Privacidad en IA
- Differential Privacy
- Seguridad en producción
- Ejemplo conceptual
- Ejercicios
1. Ataques adversariales
Los ataques adversariales modifican ligeramente la entrada para engañar al modelo. Son invisibles para humanos pero devastadores para redes neuronales.
- Imágenes alteradas
- Texto manipulado
- Audio modificado
2. FGSM (Fast Gradient Sign Method)
FGSM genera un ataque usando el gradiente del modelo.
x_adv = x + ε · sign(∇ₓ loss(model, x, y))
Es rápido y muy efectivo.
3. PGD (Projected Gradient Descent)
PGD es una versión iterativa de FGSM, más poderosa.
x₀ = x
xₙ₊₁ = clip(xₙ + α · sign(∇ₓ loss), ε)
4. Robustez del modelo
La robustez mide qué tan resistente es un modelo a perturbaciones.
- Entrenamiento adversarial
- Modelos más estables
- Regularización adicional
5. Privacidad en IA
La privacidad protege datos sensibles usados para entrenar modelos.
- Anonimización
- Encriptación
- Federated Learning
6. Differential Privacy
Differential Privacy añade ruido controlado para proteger datos individuales.
dp_optimizer = DPAdamGaussianOptimizer(
l2_norm_clip=1.0,
noise_multiplier=0.5
)
7. Seguridad en producción
En producción se deben proteger modelos y endpoints.
- Rate limiting
- Autenticación
- Detección de anomalías
- Protección contra ataques adversariales
8. Ejemplo conceptual
if detect_attack(x):
reject_request()
log_event()
alert_team()
9. Ejercicios
- Define qué es un ataque adversarial.
- Explica FGSM.
- ¿Qué diferencia hay entre FGSM y PGD?
- Define robustez del modelo.
- Menciona una técnica de privacidad en IA.
# pista fgsm
"Usa el signo del gradiente."# pista privacidad
"Federated Learning, DP, anonimización."