En estos últimos tiempos, cada vez más, hemos oído el impacto de la Inteligencia Artificial (IA), no sólo en las organizaciones sino también en nuestra vida diaria. Pero un concepto que tal vez no todos conocen es que la construcción de estos sistemas, o bien lo que denominamos de forma genérica “automatización”, se realiza a través de algoritmos: el corazón de los sistemas basados en IA.

Si buscamos su definición exacta podemos decir que “un algoritmo es un conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución a un tipo de problema”. Por el momento, son desarrollados por humanos, por lo que pueden tener un sesgo en su construcción.

Corresponde entonces definir el concepto de sesgo algorítmico, pues “ocurre cuando un sistema informático refleja los valores de los humanos, implicados en la codificación y recolección de datos usados para entender el algoritmo”.

¿Qué implica? Que la inteligencia artificial no es perfecta, que pueden manifestarse errores y alterar los procesos de una organización, o bien, afectarnos en nuestra vida diaria.

Tengamos en cuenta que, actualmente -y sin discriminación alguna del ámbito/disciplina-, los algoritmos ya toman decisiones por nosotros, estos son algunos ejemplos:

  • La Inteligencia Artificial ya está decidiendo qué CV descartar en un proceso de selección de personal.
  • Los sistemas de IA están ya evaluando los perfiles de quienes solicitan un crédito, investigando sus perfiles sociales y determinando indicadores de riesgos.
  • La IA y los algoritmos ya son utilizados para determinar los perfiles de compatibilidad en los sitios de citas.
  • En determinados países, los jueces están dictando sentencia con la ayuda de herramientas automatizadas, obviamente para aquellas repetitivas y menores.

Tal como mencionamos, no debemos olvidar que los algoritmos son programados por humanos, por lo que pueden tener sesgos, y con ellos, generar un impacto negativo en los resultados: con consecuentes decisiones erróneas, segregando a determinados grupos sociales, etc.

Por esto, es importante que cualquier tipo de organización, al momento de implementar este tipo de tecnología, lo haga con una apropiada Gobernanza de IA, la cual debería tener mínimamente los mecanismos de control y autorización para la implementación de una solución basada en IA; las capacidades de las personas incluidas en el proyecto; las instancias de control y monitoreo a definir; las pruebas de validación previas a que el sistema sea puesto en productivo, entre otras.

Dentro de esta Gobernanza es necesario incluir algunos principios éticos:

  • Beneficencia: Tener en cuenta el bien común a medida que se desarrolla la IA, con especial atención en la sostenibilidad, cooperación y apertura.
  • Fiabilidad y Robustez: Los sistemas de IA deben operar dentro de los parámetros de diseño, además de realizar predicciones y decisiones consistentes y repetibles.
  • Legalidad: Todas las partes interesadas, en cada etapa del ciclo de vida de un sistema IA, deben obedecer la ley y cumplir con todas las reglamentaciones pertinentes.
  • Agencia Humana: Para niveles más altos de riesgo ético, permitir una mayor supervisión e intervención humana en las operaciones de los modelos de IA.
  • Privacidad: Cuando se utilizan los datos de las personas para diseñar y operar soluciones de IA, informar a las personas cuáles se recopilarán y cómo se utilizarán.
  • Responsabilidad: Se le debe asignar a alguien la responsabilidad de las implicaciones éticas del uso o mal uso de los modelos de IA.
  • Justicia: Diseñar y operar la IA para que no muestre prejuicios contra grupos o individuos.
  • Interpretabilidad: Los procesos de IA, por si solos, deberían poder explicar su proceso general de toma de decisiones y, en caso de alto riesgo, justificar cómo hicieron predicciones específicas o eligieron ciertas acciones.
  • Seguridad: Los sistemas de IA y los datos que contienen deben protegerse de las amenazas cibernéticas, incluidas las herramientas de IA que operan a través de terceros o están basadas en la nube.

Como hemos visto, los algoritmos ya están entre nosotros y han venido para quedarse. Lo importante es que las organizaciones y las personas entiendan que estos programas traen beneficios pero también riesgos. Por lo tanto, no sólo deberemos ser conscientes de esos riesgos, sino que también tendremos que estar preparados.