El sector financiero implementa con prudencia las herramientas de IA que comienzan a aflorar en un entorno ya regulado por el Reglamento de IA, consciente de la importancia de potenciar su supervisión para controlar su aplicación y la derivación de distintas responsabilidades. Así lo concluyen los especialistas convocados por el Colegio de la Abogacía de Madrid con motivo de la consulta abierta por la Comisión Europea sobre el uso de la IA en el sector financiero.
En este debate se discutió cómo controlar los sistemas de IA. Para los expertos, todo depende de quién implementa ese sistema: no es lo mismo que se desarrolle en una entidad de manera interna a que lo haga un proveedor externo. Se trata de saber qué se está haciendo por si la CNMV solicita explicaciones sobre el desarrollo que se está llevando a cabo. Por tanto, es importante tener un sistema de control sobre la herramienta de IA implementada. Actualmente, casi toda la IA que se emplea se contrata a terceros.
En el debate, José Ramón Couso, diputado de la Junta de Gobierno del ICAM y responsable de la sección de Derecho Bancario de la entidad colegial, aprovechó para explicar que se está ultimando el III Congreso de Derechos Digitales y Activos Bancarios, que tendrá lugar el próximo mes de octubre en el ICAM, codirigido por Alfredo Muñoz.
En su intervención, comentó que se ha aprovechado la consulta abierta por la Comisión Europea sobre IA para realizar este análisis con expertos como Jesús Mardomingo, socio responsable del área financiera de Dentons; Fernando Zunzunegui, profesor de derecho financiero y mercantil en la Universidad Carlos III; Guillermo Meléndez, director del laboratorio de IA de Bolsas y Mercados Financieros; y Ana Felicitas, catedrática de Derecho Mercantil en la Universidad Rey Juan Carlos.
En su turno de palabra, Guillermo Meléndez confesó que lleva aplicando modelos de IA en los mercados financieros desde 2008: «Estas herramientas llevan más tiempo en producción de lo que se podría pensar. En aquellos años, hablar de IA era algo poco conocido para los directores de inversiones. Ahora se pueden optimizar carteras con enjambres cuánticos».
Este experto recordó que desde ESMA se habla de que la IA aporta «eficiencia, innovación y mejor toma de decisiones. A mi juicio, hay otros elementos a tener en cuenta. Los modelos econométricos parten de la explicabilidad de las variables; con la IA se gana en precisión, pero falta explicabilidad». Desde su punto de vista, la IA no es solo generativa.
Su «árbol» de la IA está compuesto por machine learning y deep learning, al igual que la IA generativa. Además, están los algoritmos genéticos de carácter «enjambre», que fomentan la inteligencia emergente y pueden resolver problemas complejos. También está la lógica difusa, que traslada la subjetividad a través de unos y ceros. Y una quinta rama es la computación cuántica, que impulsa modelos híbridos de deep learning y abre la puerta a aplicaciones interesantes para el sector financiero.
Para este experto, «el abogado debe conocer todas estas herramientas y saber cómo funcionan. Sistemas de recomendación como Netflix, Spotify y Amazon son sistemas de IA. Junto a ellos, el aprendizaje por refuerzo es tan importante como la IA generativa. Coexisten también modelos como JEPA de Meta, una IA poco conocida, y Pathways, que junto con Transformes dio el salto a ChatGPT».
Meléndez recordó que el uso de estas herramientas ayuda a prevenir y detectar el fraude online en las entidades financieras, siendo clave la formación para manejar esas máquinas, «donde la IA generativa es la que más riesgos genera y más fallos tiene en su desarrollo. En esta lucha contra el fraude hay tres tipos de aprendizaje: offline, online y por refuerzo. A nivel de arquitectura, el 99% son estáticas; pocas veces se emplea la llamada arquitectura evolutiva. En este escenario, Google lanzó LaMDA en 2019 como herramienta de IA».
La IA es clave en el sector financiero
Por su parte, Jesús Mardomingo es consciente de que se ha abierto un debate sobre si los abogados deben programar. «El sector financiero, especialmente el ámbito bursátil, se basa en datos. Las nuevas tecnologías, como blockchain y la IA, están teniendo un impacto significativo en la sociedad y en los principales sectores. El volumen de datos que genera el sector financiero es enorme. Es importante saber qué tipo de IA se emplea para cada actividad. La IA ha venido para quedarse en el sector financiero».
Para este experto, los beneficios de la IA son notables en el sector financiero, pero también genera muchos riesgos. Uno de los más importantes, al que hace referencia el BCE, es el gobierno corporativo. Es fundamental controlar bien la tecnología para evitar que estas herramientas controlen a la propia entidad financiera, lo que generaría un riesgo sistémico, derivado del uso de tecnología por parte de las empresas del sector. En el mercado de capitales, es más frecuente el consumo de proveedores, y esa concentración genera dicho riesgo sistémico.
Desde su punto de vista, para entender el Reglamento de IA «hay que ir a la exposición de motivos, donde se habla de la entrada de la norma regulada de la IA para comprender la puesta en servicio de estas herramientas. La norma pretende generar confianza sobre el uso de la IA y verla como un aliado en el uso de tecnologías, garantizando que esta respete los derechos humanos. Al mismo tiempo, este Reglamento garantiza la libre circulación de mercancías y servicios».
A juicio de este experto, «con esta tecnología podemos dar un salto importante en el entorno de las entidades financieras. Se verán afectadas por la norma y se generarán dos niveles de entidades: aquellas que prestan servicios de IA y los proveedores, que pueden crear marcas blancas, como ya ocurre en el sistema financiero español. Esto implica que algunos servicios serán ofrecidos por terceros. Sin embargo, la IA plantea grandes oportunidades para el sector financiero: el desarrollo del Fintech ha promovido la innovación en el sector y la mejora en la toma de decisiones».
Sobre los riesgos de la IA, Mardomingo indicó que «se necesita una supervisión de estas herramientas responsable y capacitada, que no descuide la importancia del juicio humano. Al mismo tiempo, es fundamental que exista transparencia en lo que se está realizando y lograr la explicabilidad de lo que la entidad está incorporando como herramienta. Otro tema importante es la seguridad y privacidad de los datos. Hay que evitar compartir datos sesgados que perjudiquen el desarrollo de estas iniciativas».
Se necesita una regulación
Fernando Zunzunegui quiso enviar un mensaje de tranquilidad sobre la situación actual: «El sistema financiero se ha descentralizado en los últimos años y se muestra estable. En enero de 2025 entrará en vigor el reglamento financiero DORA, como sistema de resiliencia y seguridad al que se están adaptando los bancos y las entidades financieras. Al mismo tiempo, hemos pasado del Open Banking a los Espacios Europeos de Datos, donde está por aprobarse un borrador sobre datos financieros».
En este escenario, cree que la industria «va a crear sistemas de intercambio de datos que competirán entre ellos bajo una adecuada supervisión. La regulación de la IA es una regulación de sistemas. El legislador establece que las máquinas deben tener su autonomía, capacidad de adaptación, entre otras cuestiones. Así nos ofrecen consejos, predicciones y contenidos, entre otros elementos. Hay un enfoque de riesgo, con sistemas prohibidos que pueden ser multados con el 7% anual de la cifra de negocios a nivel mundial, por encima de las sanciones de protección de datos».
A juicio de este jurista, «en el sector financiero hay que darse cuenta de que las herramientas de IA tienen un enfoque transversal. La propia norma de IA define a los supervisores del sector financiero para vigilar la implementación de estas herramientas en el mercado. Esta regulación vendrá con directrices establecidas por las entidades financieras. Se trata de que exista flexibilidad, seguridad jurídica y competitividad. Con esta normativa, Europa se sitúa a la vanguardia de la innovación protegiendo los derechos fundamentales».
“La propia IA califica en su anexo como sistemas de alto riesgo el scoring crediticio, la evaluación de solvencia por parte de los bancos al conceder préstamos hipotecarios y otras financiaciones, así como la evaluación de riesgos y precios en seguros de vida y salud. Al mismo tiempo, los define como servicios privados esenciales, lo cual abre otro debate. En este escenario, las entidades financieras se quejan de la elevada carga normativa que sufren”.
Zunzunegui valora positivamente cómo se ha asignado al Banco de España la supervisión financiera desde el uso de la IA: “Esa evaluación externa realizada por dos entidades financieras extranjeras deja claro en un informe que no puede quedarse en los controles internos de crédito, sino que debe ir mucho más allá, como lo hace la propia CNMV. Las entidades financieras europeas supervisan el mercado y el uso de la IA a nivel sectorial. Al final, se trata de crear una nueva normativa que sustituya a la ya existente a nivel financiero, con el apoyo de juristas, tecnócratas y otros expertos”.
Un ejemplo de uso: los DEX
En su turno de palabra, Ana Felicitas se centró en un caso de uso de la IA en el sector financiero, que son los DEX, mercados descentralizados que operan en el mundo cripto. Su punto positivo es que fomentan la innovación tecnológica. “Este es un entorno volcado en la innovación. Las DAOs son sociedades en el punto máximo de la innovación. Son estructuras que permiten el gobierno en redes. Hasta ahora, la descentralización funciona en blockchain. Funciona con un nivel de innovación superior al de las sociedades tradicionales y emplean la IA en la gestión de su administración”.
En este contexto, los DEX serían las estructuras que podrían utilizar los mercados para organizar su funcionamiento en el futuro. “Sobre la consulta abierta de la Comisión Europea sobre mercados financieros, se trata de indagar cuáles son los fenómenos de aplicación de la IA y los aspectos sustantivos y sectores de actividad más afectados por su funcionamiento”.
Al mismo tiempo, mostró su preocupación por las categorías de riesgo de estas herramientas de IA: “Es fundamental conocer estas herramientas para entender su funcionamiento. Existen protocolos de infraestructuras DEX en casi todas las DLT. Los DEX no es que hayan escapado de la regulación, sino que el regulador no ha podido abordarla. Quizá porque el funcionamiento es tan disruptivo que aún no ha surgido una norma capaz de captar su operativa. Hay que regular la DLT de forma completa, algo que no es sencillo en estos momentos. Hay cuestiones sin regular que generan conflictos de interés”.
Para esta experta, los DLT como estructura financiera tienen una parte técnica que puede dificultar el desarrollo de un proyecto de regulación global. En este escenario, los DEX impulsan un mercado peer to peer, sin una entidad centralizada, como carta de presentación de estos mercados descentralizados. “En este contexto, al no haber una entidad centralizada que gestione las transacciones entre partes, hay que buscar una alternativa. El pool de liquidez se creó para gestionar estas estructuras DEX, donde se generan distintas figuras de contratación”.
Según Felicitas, el pool de liquidez debe equipararse a figuras que existen en los mercados tradicionales. Al mismo tiempo, comentó que los mercados descentralizados tienen tres estructuras: “unas funcionan por libros de órdenes, que se acercan a las figuras tradicionales; otros, como agregadores de liquidez, que actúan como mercados superpuestos a los básicos; y, al mismo tiempo, hay mercados automatizados como tercera estructura. Esa estructura de pool no solo actúa como conexión, sino que es equiparable a la actividad tradicional que realizan los miembros de los mercados. Aquí, el uso de algoritmos es importante para crear sistemas inteligentes en estos sistemas”.
