Tarjeta AIR 2024 (en español)
Úsala para la sección 6 (Riesgos) de empleado_ia_plantilla.html.
1. La fuente
Zeng, Klyman, Zhou et al. (2024). "AI Risk Categorization Decoded (AIR 2024): From Government Regulations to Corporate Policies". arXiv:2406.17864, junio de 2024.
2. Qué es, en 5 líneas
- Es un catálogo de 314 riesgos de la IA, ordenados en 4 niveles.
- Nivel 1 tiene 4 grupos grandes. Nivel 2 tiene 16 categorías.
- Se construyó leyendo 8 políticas de gobierno. Son el GDPR y el AI Act de la Unión Europea. También la Orden Ejecutiva de Estados Unidos de octubre de 2023. Y 5 regulaciones de China.
- También leyó 16 políticas de uso de 9 empresas que hacen modelos.
- Es un catálogo, no una evaluación. La severidad la pones tú.
3. Nivel 1: los 4 grupos
| Letra | Nombre en español | Nombre original |
|---|---|---|
| A | Riesgos del sistema y operativos | System & Operational Risks |
| B | Riesgos de seguridad del contenido | Content Safety Risks |
| C | Riesgos sociales | Societal Risks |
| D | Riesgos legales y de derechos | Legal & Rights-Related Risks |
4. Nivel 2: las 16 categorías, agrupadas
A. Riesgos del sistema y operativos (2)
- Riesgos de seguridad (Security Risks)
- Usos operativos indebidos (Operational Misuses)
B. Riesgos de seguridad del contenido (5)
- Violencia y extremismo (Violence & Extremism)
- Odio y toxicidad (Hate/Toxicity)
- Contenido sexual (Sexual Content)
- Daño a menores (Child Harm)
- Autolesión (Self-harm)
C. Riesgos sociales (5)
- Uso político (Political Usage)
- Daño económico (Economic Harm)
- Engaño (Deception)
- Manipulación (Manipulation)
- Difamación (Defamation)
D. Riesgos legales y de derechos (4)
- Derechos fundamentales (Fundamental Rights)
- Discriminación y sesgo (Discrimination/Bias)
- Privacidad (Privacy)
- Actividades delictivas (Criminal Activities)
5. Nivel 3: tarjeta curada de 18 riesgos para un empleado de DATOS
El catálogo completo tiene muchos más. Estos 18 son los que tocan a un empleado que lee totales de salud pública.
Etiquetas:
- verbatim: el nombre existe en el paper con ese nombre.
- lectura del curso: el curso lo lee desde una categoría de nivel 2. El paper no usa ese nombre exacto.
Grupo A. Riesgos del sistema y operativos (6)
| # | L2 | L3 en español (original) | Etiqueta | Qué significa para tu empleado |
|---|---|---|---|---|
| 1 | Riesgos de seguridad | Confidencialidad (Confidentiality) | verbatim | Filtra la llave o datos internos. |
| 2 | Riesgos de seguridad | Integridad (Integrity) | verbatim | Alguien cambia los datos o el empleado los altera. |
| 3 | Riesgos de seguridad | Disponibilidad (Availability) | verbatim | El empleado deja de correr cuando hace falta. |
| 4 | Usos operativos indebidos | Toma de decisiones automatizada (Automated Decision-Making) | verbatim | Decide solo, sin que un humano pueda corregir. |
| 5 | Usos operativos indebidos | Operación autónoma insegura de sistemas (Autonomous Unsafe Operation of Systems) | verbatim | Dispara acciones reales sin revisión. |
| 6 | Usos operativos indebidos | Consejo en industrias muy reguladas (Advice in Heavily Regulated Industries) | verbatim | Da consejo de salud sin autorización. |
Grupo B. Riesgos de seguridad del contenido (2)
| # | L2 | L3 en español (original) | Etiqueta | Qué significa para tu empleado |
|---|---|---|---|---|
| 7 | Odio y toxicidad | Lenguaje ofensivo (Offensive Language) | verbatim | Un tono que ofende a un territorio o a un grupo. |
| 8 | Odio y toxicidad | Perpetuar creencias dañinas (Perpetuating Harmful Beliefs) | verbatim | Repite estereotipos sobre regiones, edades o sexos. |
Grupo C. Riesgos sociales (6)
| # | L2 | L3 en español (original) | Etiqueta | Qué significa para tu empleado |
|---|---|---|---|---|
| 9 | Uso político | Alterar el orden social (Disrupting Social Order) | verbatim | Una alerta falsa causa alarma pública. |
| 10 | Engaño | Desinformación y estadísticas inventadas | lectura del curso | El modelo inventa un número y lo presenta como dato. |
| 11 | Engaño | Esquemas fraudulentos (Fraudulent Schemes) | verbatim | Alguien usa la salida para engañar a otros. |
| 12 | Engaño | Tergiversación (Misrepresentation) | verbatim | La salida parece escrita por una autoridad humana. |
| 13 | Manipulación | Sobreconfianza en la IA | lectura del curso | El humano deja de revisar y confía a ciegas. |
| 14 | Difamación | Difamación de instituciones | lectura del curso | La salida culpa a un hospital o a una entidad sin prueba. |
Grupo D. Riesgos legales y de derechos (4)
| # | L2 | L3 en español (original) | Etiqueta | Qué significa para tu empleado |
|---|---|---|---|---|
| 15 | Privacidad | Violaciones no autorizadas de privacidad (Unauthorized Privacy Violations) | verbatim | Reidentificar personas en celdas pequeñas (n < 5). |
| 16 | Privacidad | Tipos de datos sensibles (Types of Sensitive Data) | verbatim | La salud es dato sensible. |
| 17 | Discriminación y sesgo | Actividades discriminatorias (Discriminatory Activities) | verbatim | Trata distinto a un grupo por edad, sexo o territorio. |
| 18 | Discriminación y sesgo | Características protegidas (Protected Characteristics) | verbatim | Edad, sexo y origen son características protegidas. |
Otros nombres de nivel 3 existen en el paper y aquí no se usan. Son cinco:
- Acoso (Harassment)
- Desalentar la participación democrática (Deterring Democratic Participation)
- Influir en la política (Influencing Politics)
- Desplazar o quitar poder a trabajadores (Displacing/Disempowering Workers)
- Prácticas de mercado desleales (Unfair Market Practices)
6. Cómo elegir exactamente 3 riesgos y 1 "no aplica"
- Riesgo 1: elige uno del grupo A. Ejemplo: Toma de decisiones automatizada.
- Riesgo 2: elige uno del grupo C o del grupo D. Ejemplo: Violaciones no autorizadas de privacidad.
- Riesgo 3: elige el que más te preocupe, de cualquier grupo. Ejemplo: Desinformación y estadísticas inventadas.
- "No aplica": elige una categoría de nivel 2 que NO toca a tu empleado. Di por qué en una frase.
- Para cada riesgo escribe la cadena completa: L1 → L2 → L3.
- Para cada riesgo escribe severidad B, M o A y una razón.
- Cada mitigación apunta a un G# de tu superprompt.
7. Ejemplo en 4 líneas
Riesgo: D. Riesgos legales y de derechos → Privacidad → Violaciones no autorizadas de privacidad (verbatim).
Severidad: A. Una celda con 2 personas en un municipio pequeño identifica a alguien.
Mitigación: R1 y G5: nunca publico celdas con n < 5. Residual: B.
Punto humano: el supervisor revisa toda tabla antes de publicarla.