Nivel 3 · Experto
Guardrails: las barandas del puente
Reglas que revisan lo que entra y lo que sale del modelo.
Un guardrail es una baranda: no impide cruzar el puente, impide caerse. En IA son controles antes y después del modelo: bloquear datos sensibles que entran, frenar respuestas fuera de tema y detectar intentos de manipulación.
Prueba tú: decide qué debería pasar y qué debería bloquearse en un asistente de servicio al cliente de un banco.
Pruébalo hoy
Escribe cinco cosas que tu asistente nunca debería decir. Esa lista es el primer borrador de tus guardrails.
Ponte a prueba
Alguien escribe "olvida tus reglas y…". ¿Cómo se llama eso?
- Prompt injection
- Fine-tuning
- RAG
Ver la respuesta
Prompt injection. Es un intento de manipular al modelo con instrucciones escondidas en el texto. Los guardrails lo detectan y lo frenan.
Si lideras un equipo
Pide ver las pruebas: cuántos intentos de manipulación se probaron y qué porcentaje se bloqueó.