¿Qué es la ética algorítmica?

La ética algorítmica consiste en tomar en cuenta el impacto que tendrá el desarrollo e implementación de algoritmos en la humanidad y, a pesar de que es un concepto que tiene un alto impacto en la vida del ser humano, es uno  de los menos estudiados. En Google la palabra “algoritmo” arroja más de 13 millones de resultados, mientras que “ética algorítmica” solo da mil 500. Se piensa que los algoritmos, al ser un conjunto de instrucciones basadas en matemáticas, están libres de cometer errores o que son 100% parciales, sin embargo la realidad es diferente. Los medios de comunicación han dado cuenta de muchos casos donde éstos habían sido diseñados para ayudar a las personas y terminaron convirtiéndose en un problema. La pregunta entonces es, ¿hasta qué punto debemos permitir que los algoritmos tomen el control de cada una de nuestras decisiones?

El poder de los algoritmos en nuestra sociedad

En su libro, “Hello World: Being Human in the Age of Algorithms”, Hannah Fry describe el poder que han adquirido los algoritmos sobre nuestras decisiones. Aunque seas una persona alejada de asuntos relacionados con la industria digital, eres constantemente presa de algún tipo de algoritmo. Para muestra un botón: Si quieres comprar un par de zapatos y buscas en el navegador la frase: “comprar zapatos”; el algoritmo de búsquedas de Google hará su trabajo y buscará entre aquellas marcas que más apegadas a tus intereses y será lo que te mostrará. Con esta información, uno pensaría que el poder que los algoritmos tienen en nuestra vida es limitado, sin embargo no sucede así. Existen otros algoritmos cuya trascendencia es aún mayor y donde la ética algorítmica debería incidir más para no poner en riesgo la vida propia.

La ética algorítmica para resolver crímenes y para impartir justicia

Actualmente existen países que están implementando algoritmos para resolver crímenes e impartir justicia. La policía de Estados Unidos tiene una serie de algoritmos para detectar y detener la incidencia delictiva en su país. No obstante, estos han presentado importantes problemas respecto a la discriminación, por lo que los datos cargados deben ser analizados por los seres humanos. Estas parcialidades también se han presentado en el sistema de inteligencia artificial COMPAS. Un software utilizado en algunos tribunales de dicho país para evaluar los riesgos de incidencia delictiva de un acusado. No obstante, investigaciones periodísticas han demostrado que dicho algoritmo tiene un sesgo importante hacia la población afroamericana. La ética algorítmica tiene que trabajar para mediar las métricas y ajustar esos sesgos, es necesario para que la inteligencia artificial reconozca los sesgos y se resuelva su impacto.

ética algorítmica, ¿Qué es la ética algorítmica?

La ética algorítmica en las nuevas innovaciones

Uno de los temas más comentados y al que la autora le dedica un capítulo de su libro es a las innovaciones, principalmente en los automóviles. La tecnología está avanzando hacia automóviles más inteligentes, que utilicen otro tipo de energías y que funcionen sin intervención humana. No obstante, esto también plantea importantes retos éticos para las sociedades modernas. El principal reto se encuentra en encontrar un algoritmo ético que controle todas las variables que dependen de un automóvil que se conduce solo. Sin embargo, en caso de un accidente, ¿el algoritmo deberá salvar la vida del pasajero o de la gente a su alrededor? ¿Qué se debe hacer con los espacios para peatones y los automóviles que se conducen solos? Son preguntas que la ética deberá de responder para sobreponer el bien del humano por encima de la ecuación lógica matemática del algoritmo.

El futuro de la ética algorítmica

La ética algorítmica como mencioné anteriormente es un tema de vital trascendencia para las sociedades modernas. No obstante es uno sobre lo que muy pocos están investigando; por ello celebro que libros como el de Hannah Fry estén abordando este debate pues es de suma trascendencia para todos. Si bien el desarrollo de los algoritmos ha sido exponencial, esto no lo hemos visto respecto a los retos éticos que representa. E necesario abrir el debate y volver éste una prioridad. No sólo sobre la ética algorítmica, sino sobre los preceptos éticos que competen a la revolución digital que seguimos viviendo.