Un informe del Banco de Pagos Internacionales (BPI) advierte que, a pesar de que la inteligencia artificial (IA) promete eficiencia y conocimientos transformadores en el sector financiero, la mala gobernanza, la toma de decisiones poco transparente y la dependencia excesiva de proveedores externos podrían dejar a las instituciones de este rubro en una situación de vulnerabilidad.
La investigación aboga por un “enfoque basado en el riesgo” para integrar la IA, con énfasis en la seguridad de los datos, la equidad y la supervisión humana para evitar la acumulación de riesgos sistémicos.
El informe del BPI identifica varios desafíos críticos que enfrentan las instituciones financieras al implementar tecnologías de IA. En el centro de estos problemas está la rápida expansión de los casos de uso de la IA, en particular en la suscripción de créditos, la detección de fraudes y los servicios de cara al cliente, como los chatbots.
La seguridad de los datos: un inconveniente importante
El estudio, desarrollado por Juan Carlos Crisanto, Cris Benson Leuterio, Jermy Prenio, and Jeffery Yong, llama la atención sobre los riesgos relacionados con los datos, que se ven exacerbados por la creciente dependencia de proveedores externos para los modelos de IA y los servicios basados en la nube.
Estas relaciones externas, si bien ofrecen escalabilidad y rentabilidad, introducen vulnerabilidades como las filtraciones de datos y la dependencia de un proveedor, advierte.
Desde una perspectiva de gobernanza, la institución con sede en Basilea, Suiza, destaca la necesidad de contar con marcos de rendición de cuentas claros, en particular a medida que la IA se integra cada vez más en las actividades financieras básicas.
Más intervención humana, por favor
Los autores recomiendan que las instituciones financieras establezcan mecanismos de supervisión sólidos, incluidos sistemas de “intervención humana” o “human-on-the-loop”, para garantizar que la intervención humana siga siendo central en los procesos de toma de decisiones.
Esto es particularmente importante, argumentan, para mitigar los riesgos asociados con los resultados impulsados por la IA en el sector financiero que podrían conducir a resultados perjudiciales para los clientes.
La investigación también destaca el papel fundamental de la experiencia y las habilidades en la gestión de los riesgos de la IA. La falta de competencia técnica en los niveles superiores podría dar lugar a una supervisión insuficiente y a una mitigación ineficaz de los riesgos.
A medida que evolucionan las tecnologías de IA, las instituciones deben asegurarse de que sus equipos estén preparados para comprender y gestionar las complejidades de estos sistemas.
Los autores señalan que las instituciones financieras siguen siendo cautelosas sobre el uso de la IA generativa en funciones de cara al cliente debido a las preocupaciones sobre la privacidad de los datos, la precisión de los modelos y la confianza de los consumidores.
Citan el potencial de “alucinación” como un problema particularmente preocupante para las aplicaciones de alto riesgo. La alucinación implica que los sistemas de IA generan resultados inexactos o inapropiados.
No dejes de leer: Los nuevos productos de Meta FAIR que buscan facilitar el aprendizaje automático
Nuestras redes sociales, únete y sé parte de la tecnología
