Hoy el Consejo de Estabilidad Financiera (FSB) encargado de la coordinación a nivel internacional del trabajo de las autoridades financieras nacionales y el de los organismos internacionales de emisión de estándares de la actividad financiera, ha publicado 12 recomendaciones para implantar la #IA de forma responsable en el sector financiero. Van al G20. Hablan de bancos y aseguradoras, pero podrían estar escritas para cualquier administración.
Tres ideas que me parecen trasladables al sector público:
🧑⚖️ Supervisión humana adecuada y eficaz, proporcional al riesgo, la autonomía y la complejidad del sistema. Más autonomía, más control.
✋ Autorización humana en operaciones sensibles. Su ejemplo es aprobar reclamaciones de seguros; en administración, pensemos en cualquier acto que afecte a derechos.
🔒 Si no se puede aislar al agente, limitar con qué sistemas, redes y otros agentes interactúa. Un agente con acceso a todo es un riesgo con permisos de usuario.
Y un aviso que me parece clave: las capacidades de un agente pueden cambiar con el tiempo si se le dan nuevas herramientas o instrucciones.
EL CONTROL NO SE DISEÑA UNA VEZ, SE GESTIONA Y SE MANTIENE.
Ojo, son buenas prácticas, no norma vinculante. Pero lo curioso es que, sin ley específica de por medio, esto es buen gobierno del dato y de los accesos de toda la vida, aplicado ahora a los agentes.
#InteligenciaArtificial #GobernanzaDeDatos #SupervisiónHumana #SectorPúblico
Comentarios
Publicar un comentario