Si bien la tecnología viene dando pasos agigantados de desarrollo en la última década, y los temas de inteligencia artificial y su uso ha pasado a ser algo habitual en la mayoría de las industrias de consumo, hemos sido testigos de cómo en los últimos meses se ha proliferado el asombro, preocupación, e incluso malestar y miedo ante el desarrollo cada vez más avanzado de esta y otras tecnologías.
Surgen por tanto dudas fundadas respecto a la seguridad de la data, la legalidad de su recolección y uso, la regulación oportuna y la ética. Lo que para muchos antes era un mito, aunque el concepto de IA (Inteligencia artificial) data de 1956 y su uso como lo conocemos (si dejamos a un lado los cimientos de IA) de finales del siglo XX, ahora es una realidad inminente, sobre todo porque se augura la utilización de tecnologías avanzadas en industrias y áreas de la humanidad en las que antes no resultaba tan obvio.
Lo que nació dentro del ámbito de la investigación y la ciencia, es ya de gran atractivo para las diversas industrias y empresas, quienes han gestionado grandes inversiones para continuar su desarrollo.
Surgen distintas preocupaciones éticas respecto del uso de tecnologías avanzadas en los negocios, dentro de las que podemos mencionar el mérito de la recolección de la data, el consentimiento libre del individuo cuya data es utilizada, la amplitud o disminución del poder de los individuos o empresas por el uso de la data recabada, las ventajas o beneficios en comparación con los posibles costos subyacentes, entre otras.
Estas preguntas generales no pretenden restar validez a otras muchas interrogantes respecto de la ética en el uso de las tecnologías para producción médica, armamentos o seguridad estatal, los cuales no abordaremos en esta oportunidad, ya que nos enfocaremos en una visión más general.
Otro tema interesante para considerar y citado por diversos autores es que, en tanto las tecnologías inteligentes aprenden a pensar y tomar decisiones en base a la información captada, cómo se logrará incluir dentro de sus algoritmos de análisis los parámetros o referencias éticas que sean pertinentes considerar en la toma de las decisiones.
Dice Argandoña que la IA, como el resto de las tecnologías diseñadas por el ser humano, puede derivar en aplicaciones tanto nocivas como beneficiosas para las personas[1]. Existen varios ejemplos contundentes en la historia de descubrimientos químicos, físicos y tecnológicos, muy beneficiosos para su creación original y a su vez muy perniciosos en otros usos, pudiendo mencionar ejemplos como la energía nuclear y la pólvora.
Ahora bien, así como no se puede considerar que toda tecnología es positiva, tampoco es pertinente suponer que toda tecnología es perniciosa. En definitiva, su fin último y resultado final positivo o negativo dependerá de varios aspectos, desde la intención y objetivo mismo de su desarrollo, hasta las circunstancias relacionadas con su ejecución y entorno. De ahí la importancia de considerar la pertinencia de aplicar el razonamiento ético a la creación y uso de las nuevas tecnologías.
Ahora bien, el nivel de precaución ética podría ser distinto dependiendo del tipo de tecnología avanzada. No es lo mismo una tecnología que trate reproducir el razonamiento humano y tome decisiones autónomas, que una tecnología que se enfoque en colección innovadora de data de los potenciales clientes para recomendación de productos y servicios.
Se recomienda por tanto que los desarrolladores tomen en consideración las implicaciones de facto y probables de sus productos de cara a mitigar riesgos. Muchas de estas tecnologías van evolucionando de manera orgánica, no controlada, como es el caso de algunos tipos de IA, por tanto, podría ser novedoso y acertado considerar incluir enfoques o parámetros éticos como parte de los algoritmos de análisis que utilizarán las computadoras correspondientes.
Cabe recordar una vez más que ética no es igual a moral, y resulta oportuno distinguir la diferencia entre una y otra, pues surgen en las discusiones “éticas” respecto de la tecnología mucha inclinación a recomendar más bien de principios “morales”. Puede ser relevante el análisis moral de las tecnologías avanzadas, pero en este artículo solo abordaremos la perspectiva ética, por lo que presentamos de forma gráfica las principales diferencias entre una y otra.
Podemos presentar en un ejemplo estas diferencias: la sustitución de unos campesinos agricultores en una empresa agrícola por una máquina que de manera más rápida seleccione los mejores frutos para venta y descarte los otros, podría considerarse moralmente incorrecto, pues deja sin empleo a dos personas y reduce el sustento de dos familias. Sin embargo, podría ser éticamente apropiado, si la decisión tiene por objeto lograr unas metas de abastecimiento regional tendentes a mejorar el acceso a alimentos, teniendo por tanto un fin socialmente superior.
Ahora bien, con algunas tecnologías las implicaciones pueden ser mucho más cuestionables y arriesgadas que el hecho de eliminar plazas laborales. En algunos casos, tenemos tecnologías que
captan e interpretan datos
captan, interpretan datos y emiten recomendaciones
captan, interpretan datos y toman decisiones de manera autónoma
¿Cómo aseguramos que el proceso de captación de datos es apropiado y se obtienen las autorizaciones correspondientes por parte de los usuarios? Actualmente esto se cubre con la llenada de formularios de adhesión, rara vez leídos antes de ser aceptados con un cotejo.
¿Cómo aseguramos que la interpretación realizada por una computadora es la correcta y que la tecnología utilizada no realiza juicios de valor erróneos que pudiesen tener connotaciones de exclusión, racistas, perjudiciales, como, por ejemplo, un sistema que por algoritmos selecciona candidatos a empleos tomando en cuenta solo datos del curriculum vitae? Existen estudios de casos que estudian y presentan esta problemática[2], en los cuales la solución incluyó no solo el ajuste de los algoritmos sino también la revisión posterior de la selección por parte de un ser humano.
Y finalmente, ¿cómo aseguramos que en la toma de decisiones autónomas no se incurre en alguna violación o falta a normativas vigentes, o se perjudica un cliente? ¿Sobre quién recae la responsabilidad del daño causado? Esto abarca más que una responsabilidad legal, en términos éticos, el cliente ha elegido un suplidor por ciertas condiciones, expectativas y confianza en la prestación de servicios, que en cierta medida ha sido delegada en una computadora, con o sin el consentimiento de dicho cliente.
Siendo que estamos otorgando a computadoras la capacidad de auto aprender, poco podemos hacer en la actualidad para detener estos avances, como sugieren algunos. Pero podemos tomar medidas diversas para mitigar, desde el punto de vista ético, los riesgos que suponen este desarrollo.
A continuación, algunas recomendaciones generales para las empresas que utilizan o desarrollen tecnologías avanzadas en la ejecución de sus negocios:
1. Desarrollar un código de ética. Si bien la ética supone la libertad de decisión, un código de ética es una recomendable referencia y acuerdo a lo interno de la empresa respecto de los valores y acciones a tomar en cuenta en el uso de tecnologías avanzadas, donde se incluyan temas como la privacidad de los datos, la seguridad y la equidad en la toma de decisiones.
2. Realizar capacitaciones periódicas. Se recomienda mantener a los empleados y actores clave debidamente actualizados e instruidos respecto del uso apropiado de tecnologías avanzadas, incluyendo los riesgos y beneficios potenciales.
3. Realizar auditorías periódicas. Auditar periódicamente el uso de tecnologías avanzadas para garantizar el cumplimiento de las normas éticas acordadas, así como de las leyes y reglamentos aplicables.
4. Contar con programadores y personal técnico con la debida prudencia ética. Se recomienda incluso que los mismos se acojan a los principios éticos de la empresa, incluyendo acogerse al código o normativa ética de esta.
5. Fomentar la transparencia. Promover la transparencia en el uso de tecnologías avanzadas proporcionando información clara y comprensible sobre cómo funcionan, qué datos recopilan y cómo se utilizan.
6. Participar en la innovación responsable. Participar en la innovación responsable considerando los posibles impactos sociales, económicos y ambientales de las nuevas tecnologías y diseñándolas de manera que maximicen sus beneficios y minimicen sus riesgos.
Estas recomendaciones pueden ser de gran utilidad de cara a que las tecnologías avanzadas se desarrollen y utilicen en los negocios de manera ética y confiable.
[1] ARGANDOÑA, A. (2019). Ética e inteligencia artificial (I). IESE Blog Network: Economía, Ética y RSE. Recuperado de blog.iese.edu/antonioargandona/2019/03/25/etica-einteligencia-artificial-i. [2] Kelly Joyce and Kris Unsworth, Discriminatory Algorithm. NSF Award #1338205 Ethics of Algorithms (NSF's EESE program)