Cumplimiento y riesgo ético de la IA en una organización

Respuesta corta: si tu PyME usa IA para decidir sobre personas (a quién le das crédito, a quién contactás, cómo clasificás un reclamo), asumís dos cosas: una obligación legal sobre cómo manejás los datos personales, y un riesgo ético si el sistema discrimina o decide mal sin que nadie pueda explicar por qué. En Argentina hay reglas concretas, y cubrirse no exige frenar el proyecto, exige diseñarlo bien.

La idea ancla: la IA no te exime de responsabilidad por sus decisiones; la responsabilidad sigue siendo de tu empresa.

Lo legal: los datos personales tienen dueño

En Argentina, los datos personales de tus clientes y empleados están protegidos por la Ley 25.326 de Protección de Datos Personales y el derecho de habeas data. Eso significa, en criollo, que la información de una persona no es tuya para hacer lo que quieras: la persona tiene derecho a saber qué datos tenés, para qué los usás, a corregirlos y, en muchos casos, a que no se tomen decisiones sobre ella de forma puramente automática sin posibilidad de revisión.

Cuando metés IA en el medio, estas obligaciones no desaparecen: se vuelven más importantes, porque ahora un sistema procesa esos datos a escala. Lo mínimo que tenés que poder responder:

PreguntaPor qué importa
¿Qué datos personales usa el sistema?No podés proteger lo que no sabés que tenés
¿Para qué los usa y lo consintió la persona?El uso tiene que coincidir con lo informado
¿Dónde están guardados y quién accede?La responsabilidad por una filtración es tuya
¿La persona puede pedir una revisión humana?Una decisión automática pura sobre alguien es un riesgo legal

No hace falta ser abogado para ordenar esto, pero sí hace falta tenerlo en cuenta antes de automatizar, no después de un reclamo.

Lo ético: el sesgo que nadie programó

Una IA aprende de datos. Si esos datos reflejan un sesgo, la IA lo repite y lo amplifica, aunque nadie lo haya querido. El ejemplo clásico: un sistema que decide a quién ofrecerle un producto, entrenado con datos históricos, puede terminar excluyendo sistemáticamente a un tipo de cliente simplemente porque en el pasado se le vendió menos. Nadie programó esa discriminación; emergió de los datos.

El problema es doble. Es injusto con quien queda afuera y, además, te expone: una decisión discriminatoria, aunque sea involuntaria, es un riesgo legal y reputacional. Y como la tomó un sistema, la tentación es decir "fue la máquina". No sirve: la responsabilidad sigue siendo de la organización que la puso a decidir.

Decisiones que se puedan explicar

La defensa contra los dos riesgos (legal y ético) es la misma que vimos en otro artículo de la serie: que cada decisión deje rastro y se pueda explicar. Si podés reconstruir por qué el sistema decidió lo que decidió, podés detectar un sesgo, corregirlo, y responder ante un cliente o un control. Si el sistema es una caja negra que decide y no explica, estás ciego ante los dos riesgos.

Por eso, para cualquier automatización que toque personas, el piso es:

  1. Registro de cada decisión y del criterio que la generó, como desarrollamos en de reglas manuales a código, sin perder el rastro de auditoría.
  2. Revisión humana en los casos sensibles. Las decisiones que afectan fuerte a una persona (rechazar un crédito, por ejemplo) no se dejan 100% automáticas.
  3. Control periódico de sesgos. Revisar cada tanto si el sistema está tratando distinto a grupos que debería tratar igual.
  4. Transparencia con el afectado. Que la persona sepa que hay un sistema involucrado y que puede pedir que un humano revise.

Cómo cubrirte sin frenar el proyecto

Nada de esto es un motivo para no automatizar, sino para hacerlo con cabeza. El enfoque práctico para una PyME:

  • Empezá por procesos que no deciden sobre personas (reportes, carga de datos, clasificación interna). Ahí el riesgo ético es casi nulo y ganás experiencia.
  • Cuando pases a procesos que sí tocan personas, aplicá el piso de cuatro puntos desde el diseño.
  • Documentá qué datos usás y para qué: ese documento es tu red de seguridad ante un reclamo.
  • Dejá siempre una puerta de revisión humana, lo que distingue una automatización responsable de una delegación ciega.

Esto se apoya en una gobernanza pensada desde el principio, un tema que la serie trata por separado en gobernanza de IA desde el día uno.

Preguntas frecuentes

¿Una PyME chica también tiene estas obligaciones?

Sí. La Ley de Protección de Datos Personales no distingue por tamaño de empresa. Si manejás datos de clientes o empleados, te aplica, uses IA o no. La IA solo hace más visible una responsabilidad que ya tenías.

¿Si la IA se equivoca, la culpa es del proveedor del sistema?

Ante tu cliente y ante la ley, la responsabilidad por la decisión es de tu empresa, que es quien la usa para operar. El proveedor responde por su producto; vos respondés por cómo lo aplicaste. Por eso el control y el registro son tuyos, no tercerizables.

¿Cómo detecto si mi sistema tiene un sesgo?

Revisando resultados por grupos: si un tipo de cliente queda sistemáticamente afuera o recibe peor trato sin una razón legítima, hay una señal. Ese control periódico es parte del mantenimiento de cualquier IA que decide sobre personas.

¿Necesito un comité de ética para esto?

Una PyME no necesita un comité formal, necesita criterio y registro. Alcanza con definir qué decisiones no se dejan automáticas, documentar qué datos usás y revisar cada tanto si el sistema es justo.

En resumen

Automatizar decisiones con IA sobre personas suma a tu PyME una obligación legal (cumplir con la protección de datos personales en Argentina) y un riesgo ético (que el sistema discrimine o decida mal sin explicación). La responsabilidad por lo que decide el sistema sigue siendo de la empresa, no de la máquina. La protección contra ambos riesgos es la misma: decisiones registradas y explicables, revisión humana en lo sensible, control de sesgos y transparencia con el afectado. Diseñado así, el cumplimiento no frena el proyecto: lo hace sostenible. La guía de IA con agentes para PyMEs reúne este tema junto a los demás de la serie.

Acción para esta semana: listá los procesos que pensás automatizar, marcá cuáles deciden sobre personas y revisá si tenés respuesta para las cuatro preguntas de datos personales, con la plantilla de evaluación de riesgo del PDF que acompaña este artículo.

Descarga gratuitaChecklist de cumplimiento y riesgo ético de IA (Ley 25.326)

4 páginas · el material ampliado, en PDF. Gratis, por dejar tu email.

Descargar gratis