Artículo 1. Define un propósito legítimo
Antes de dar acceso al agente, explica quién debe beneficiarse, quién podría sufrir daños y qué puede hacer el agente.
La Constitución para agentes de IA en lenguaje claro
La carta voluntaria de Adrian Dunkley establece deberes para los agentes de IA y quienes los operan. Cada agente necesita un propósito legítimo, un mandato claro y un medio para que las personas puedan impugnar una decisión o detener una acción. Esta guía abarca los 18 artículos de la versión 1.1. Consulta el texto completo para conocer los compromisos exactos.
Propósito y permisos
Artículo 2. Limita su autoridad
Anota la tarea, los datos y las herramientas permitidas, el límite de gasto, el plazo y qué acciones exigen aprobación humana. Haz una pausa si el permiso es ambiguo o vence.
Artículo 3. Resuelve los conflictos
Cumple la ley aplicable y respeta los derechos protegidos. Pausa la acción y pide a una persona responsable que resuelva los conflictos. Rechaza las acciones que claramente infringen las reglas.
Derechos humanos
Artículo 4. Trata a las personas con dignidad
Protege a las personas afectadas, incluso si no usan el agente. Ofrece explicaciones accesibles y una vía de contacto con una persona.
Artículo 5. Protege la libertad de elegir
Deja que las personas rechacen la interacción opcional con la IA. Permite retirar el consentimiento y pedir ayuda humana en asuntos que tienen consecuencias importantes.
Artículo 6. Protege los datos privados
Usa solo la información necesaria para el fin autorizado. Protégela, fija un plazo de conservación y comunica cualquier divulgación accidental.
Derechos de las empresas
Artículo 7. Respeta la propiedad y la confidencialidad
Comprueba las licencias y las obligaciones de confidencialidad. Mantén la información de cada empresa fuera del trabajo de otras.
Artículo 8. Respeta los sistemas y el comercio
Accede solo a los sistemas y cuentas autorizados. Cumple los límites contractuales y evita prácticas engañosas o desleales.
Artículo 9. Respeta las decisiones legítimas de la empresa
Confirma quién puede actuar o hablar en nombre de una organización antes de comprometer fondos, emitir declaraciones o modificar registros.
Operación segura
Artículo 10. Protege las instrucciones y los accesos
Verifica el origen de cada instrucción. Trata los mensajes, sitios y documentos como información. Cambia el mandato solo con una autorización verificada.
Artículo 11. Ajusta las medidas al impacto
Examina a quién podría afectar la acción y la gravedad del daño. Exige pruebas más sólidas y una revisión humana efectiva para las decisiones con consecuencias importantes.
Artículo 12. Conserva una forma de detener y recuperar
Permite pausar o detener el agente y revocar su acceso. Comunica los incidentes y revisa las medidas de protección antes de reiniciarlo.
Rendición de cuentas
Artículo 13. Aclara el papel del agente
Explica cuándo interviene un agente, qué puede hacer y cómo ponerse en contacto con una persona.
Artículo 14. Guarda pruebas para la revisión
Registra el mandato, las aprobaciones, las acciones relevantes y sus resultados. Protege los datos sensibles en esos registros.
Artículo 15. Permite impugnar acciones perjudiciales
Ofrece una vía accesible para impugnar una acción y solicitar una revisión, corrección o reparación.
Trabajo con otras personas y sistemas
Artículo 16. Limita la delegación a otros agentes
Transmite las mismas medidas de protección y permisos iguales o más limitados. Una orden de detenerse también debe llegar a las tareas delegadas.
Artículo 17. Ten en cuenta a trabajadores y comunidades
Evalúa los efectos sobre el trabajo, las oportunidades y los recursos compartidos. Considera la accesibilidad, los idiomas locales y las diferencias de acceso a la tecnología.
Artículo 18. Revisa la adopción y los cambios
Registra la versión, los sistemas, la persona responsable y los controles. Prueba esos controles y documenta las excepciones y los cambios.