A principios de esta semana, la CNBC expresó su preocupación por la inteligencia artificial:
El regulador bancario de la Fed advierte de que la inteligencia artificial podría dar lugar a prácticas ilegales en la concesión de préstamos, como la exclusión de minorías.
El siglo 21 se acerca rápidamente al cuarto de siglo. Con la aparición de herramientas de inteligencia artificial accesibles y cada vez más populares, no sería la peor apuesta que el crecimiento, desarrollo y eventual ubicuidad de la inteligencia artificial es casi inevitable. Será fascinante ver cómo la inteligencia artificial afecta al cambio en varias industrias, especialmente en el sector financiero y en Hollywood.
La advertencia de la CNBC procede de un discurso pronunciado el mismo día por el Vicepresidente de Supervisión de la Reserva Federal, Michael S. Barr, titulado Furthering the Vision of the Fair Housing Act:
La economía digital ha generado fuentes de datos alternativas, algunas de las cuales pueden proporcionar una ventana a la solvencia de una persona que no tiene un historial crediticio estándar.
Hasta aquí todo bien. Con un coste relativamente bajo, el aprendizaje automático puede encontrar nuevas formas de ayudar a quienes luchan por encontrar crédito. Sin embargo, continúa diciendo:
Aunque estas tecnologías tienen un enorme potencial, también entrañan el riesgo de infringir la legislación sobre préstamos justos y perpetuar las mismas disparidades que pueden resolver.
Una mala entrada de datos puede dar lugar a malos resultados. Peor aún, pueden existir problemas fundamentales en el propio sistema:
El uso del aprendizaje automático o de otro tipo de inteligencia artificial puede perpetuar o incluso amplificar el sesgo o las imprecisiones inherentes a los datos utilizados para entrenar el sistema o hacer predicciones incorrectas si ese conjunto de datos es incompleto o no representativo.
Puso un ejemplo:
Por ejemplo, el redlining digital en marketing —el uso de criterios para excluir a comunidades mayoritariamente minoritarias o solicitudes de minorías— es un riesgo...
Eso es ciertamente posible. Uno esperaría que en un informe crediticio, el empleo pasado y actual y el historial financiero influyeran en la evaluación, no la raza.
En última instancia, el uso de la inteligencia artificial debería aceptarse por su potencial para ahorrar tiempo y dinero. Aunque puede emplearse para ayudar a los agentes de crédito en las solicitudes de crédito, podría dar lugar a prácticas de exclusión. Definir estas prácticas y demostrar su existencia podría suponer un costoso reto para los reguladores federales, que probablemente no entiendan la tecnología por sí mismos. Aún no hemos llegado a la fase en la que una nefasta inteligencia artificial pueda ser la culpable de nuestros problemas. Si llegara ese día, nos enfrentaríamos a problemas mucho mayores.
No obstante, en un mundo más libre, sin un sistema de Reserva Federal responsable de los auges y las crisis económicas, habría menos comunidades empobrecidas y mucha menos disparidad económica. A medida que la inteligencia artificial avanza, sin un regulador financiado por los contribuyentes, su potencial ayudaría a los empresarios de todo el espectro socioeconómico a sacar productos valiosos al mercado.
