IA RESPONSABLE
La IA responsable se incorpora desde el diseño. Definimos el uso adecuado de datos, los accesos, la supervisión humana, la evaluación, el escalamiento, la trazabilidad y la responsabilidad según el caso de uso y su perfil de riesgo.
POR QUÉ AL PRINCIPIO
Cuando los límites se escriben una vez que la solución ya funciona, se convierten en una capa de revisión que frena el trabajo y que la gente aprende a rodear. Definidos antes, son parte de cómo está construida: el sistema no puede hacer aquello para lo que no tiene permiso.
No todos los casos necesitan lo mismo. Un asistente que redacta un borrador interno y un agente que actúa sobre un sistema de producción tienen perfiles de riesgo distintos, y por tanto controles distintos. Lo que no cambia es que estén decididos y escritos antes de construir.
QUÉ SE DEFINE EN CADA CASO
01
Qué información entra, de dónde sale, quién puede consultarla y para qué. Se define antes de construir, no cuando ya está en marcha.
02
Tratamiento de datos personales y sensibles, cifrado, retención y aislamiento según el entorno de cada empresa.
03
Qué se considera una respuesta aceptable y cómo se comprueba. Sin un umbral definido, «funciona bien» es una opinión.
04
Dónde una persona revisa, aprueba o corrige antes de que algo tenga efecto. Cuanto mayor el riesgo, más cerca del final está ese punto.
05
Qué pasa con los casos que no encajan: a quién llegan, en cuánto tiempo y con qué información.
06
Qué se registra de cada decisión asistida, para poder reconstruir después por qué ocurrió lo que ocurrió.
07
Quién responde por la operación y quién por el resultado de negocio. Un control sin responsable es un documento.
08
Con qué frecuencia se revisa el comportamiento, quién lo revisa y qué dispara un cambio.
LA RESPONSABILIDAD NO SE DELEGA EN EL SISTEMA
Cuéntanos el caso y su perfil de riesgo. Te decimos qué controles necesita antes de escribir una línea de código.