Artículo facilitado por Carver

La inteligencia Artificial, compuesta básicamente por algoritmos y datos, adquiere cada vez más un papel relevante en nuestra vida diaria en la toma de decisiones y en la elaboración de recomendaciones y patrones de conducta.

Recibimos continuamente recomendaciones como consumidores que equivocadamente consideramos inocuas como qué comprar, qué nueva serie visualizar en Netflix, una ruta más eficiente a nuestro destino o incluso estrategias ganadoras en el ajedrez o el póker. Pero, ¿qué ocurre cuando automáticamente los algoritmos toman decisiones a nivel de descartes en procesos de selección, admisiones en universidades de elite o acceso a alquileres y viviendas?, por no hablar de usos militares.

Aunque prevalece la idea de que en gran medida las IA son árbitros neutrales, entidades que siempre toman la decisión correcta o que ven patrones que nuestras mentes humanas no pueden o no quieren ver, son finalmente, herramientas que permiten manipular el comportamiento y socavar la elección racional autónoma. Igualmente se presentan problemáticas no resueltas en caso de errores o fallos de las aplicaciones como por ejemplo si un error en estos sistemas provoca un perjuicio o daño, ¿la responsabilidad podría recalar en las personas que diseñaron el algoritmo?.

¿Son realmente neutrales? ¿O son los algoritmos una forma de amplificar y extender los prejuicios y la discriminación que prevalece en la sociedad, ampliando la brecha social?

Estos debates son parte inherente a la naturaleza y condición humana y al progreso tecnológico. Es fundamental regular las normas éticas conforme avance su uso en cada sector.

Desde el laboratorio CARVER LAB, llevan años trabajando en estos temas y aunque su modesta contribución se basa en la creación de herramientas automáticas para mejorar la eficiencia en flujos de trabajo de grandes compañías, siguen muy de cerca estos debates que aúnan la tecnología, filosofía y ética.

De todos nosotros depende que avancemos en la dirección correcta hacia un futuro mejor, inclusivo y más sostenible, donde la IA sea una herramienta para mejorar la vida de las personas.