technology may redistribute the performance of fiduciary functions, but it must not be permitted to dissolve the fiduciary responsibility attached to the exercise of entrusted power.
La autora realiza una afirmación básica y plenamente compartible: la utilización de la IA por parte de individuos que soportan deberes fiduciarios no afecta a su responsabilidad aunque provoque un desplazamiento del juicio discrecional que "debe" el fiduciario al beneficiario (el administrador a la SA) del cerebro del individuo a la máquina. Y ese desplazamiento, como siempre en Derecho, no provoca un desplazamiento de la responsabilidad. El fiduciario es libre para utilizar cualquier tecnología en el proceso de toma de decisiones discrecionales pero la tecnología no modifica su deber de ejercer de buena fe su juicio en el mejor interés del beneficiario.
a) La utilización de IA afecta al deber de diligencia. Pensemos en el mundo pre-IA en una situación en el que un administrador ha de decidir sobre una operación y consulta a un experto jurídico, económico o tecnológico. Solo cumple con su deber de diligencia si ha seleccionado bien al experto y se ha asegurado de comprender el consejo experto y valorarlo críticamente. Del mismo modo, dice la autora, se infringirá el deber de diligencia si el administrador utiliza herramientas inadecuadas, poco fiables o mal comprendidas o no utiliza las que, estando disponibles, mejoran sustancialmente la calidad de la información necesaria para adoptar una decisión. O sea que, según los casos, el administrador puede estar obligado por su deber de diligencia a utilizar la IA.
b) Por otro lado, los deberes de diligencia se desplazan a la selección, adquisición y supervisión de los sistemas. Como de cualquier maquinaria o tecnología. Si el administrador no puede entender por sí solo la tecnología, debe asegurarse de que hay en la organización quien la entiende. La aceptación acrítica de una recomendación algorítmica no constituye confianza razonable, sino abdicación del juicio.
La distinción tradicional entre estándar de conducta (diligencia) y el estándar de revisión (business judgment rule) adquiere una nueva relevancia. Las distintas formas de deferencia judicial que se conceden tanto al juicio empresarial honesto como al ejercicio de facultades fiduciarias discrecionales comparten un mismo presupuesto: que el juicio ha sido efectivamente ejercido... El sesgo de automatización, esto es, la tendencia a aceptar acríticamente los resultados producidos por una máquina, pone precisamente en cuestión ese presupuesto. Los tribunales que revisan el proceso de adopción de decisiones se preguntarán si el fiduciario comprendía suficientemente el funcionamiento y el significado de los resultados generados por el sistema como para hacerlos propios y parte de una decisión que pueda considerarse propia.
La deferencia acrítica no es confianza legítima en una herramienta; es una abdicación del juicio propio expresada en el lenguaje de la diligencia.
c) Cuando elementos sustanciales del juicio fiduciario son desplazados de hecho hacia el sistema de IA. La IA desdibuja quién está tomando realmente la decisión. Si un consejo de administración sólo aprueba operaciones recomendadas por un algoritmo o si un trustee sigue sistemáticamente las sugerencias de un modelo sin apartarse nunca de ellas, la aprobación humana empieza a parecer una simple ratificación formal de un juicio producido en otra parte. Mantener a un humano en el proceso decisorio es insuficiente si no se trata de una persona con información, conocimientos y potestades suficientes para cuestionar y, en su caso, rechazar las recomendaciones del sistema. Al mismo tiempo, cuanto más se delega de hecho en la máquina, más intensos se vuelven los deberes de supervisión del fiduciario. No se puede desplazar la toma de decisiones a las máquinas y, en consecuencia, la responsabilidad por los daños que esas decisiones produzcan se queda donde siempre estuvo: en quien decidió adoptar, configurar o supervisar el sistema.
«Cuanto menos decide el fiduciario por sí mismo, mayor es su deber de supervisión, porque la delegación transforma el deber de emitir el juicio en un deber de estructurar, verificar y supervisar el juicio de otro. La teoría de la agencia explica por qué esta tarea resulta especialmente exigente: los incentivos, los mecanismos de supervisión y las sanciones se trasladan con dificultad a agentes artificiales que operan a gran velocidad y a gran escala, que no tienen intereses propios que puedan verse afectados ni patrimonio alguno contra el que dirigirse. Precisamente allí donde el delegado artificial no puede asumir responsabilidad jurídica por sus actos, la responsabilidad debe permanecer en quien delega.»
d) No hay fiduciarios artificiales, esto es, los deberes fiduciarios de ejercicio de juicio discrecional en el mejor interés del beneficiario sólo pueden pesar sobre individuos humanos. Un sistema puede gestionar un patrimonio de forma semejante a un individuo humano, pero los deberes fiduciarios presuponen la existencia de un sujeto al que puedan atribuirse conductas (acción u omisión, capacidad de obrar) y que pueda responder (que tenga un patrimonio, capacidad jurídica). Dado que los sistemas de IA carecen de capacidad jurídica y de obrar, no pueden ser considerados "fiduciarios artificiales".
«Atribuir personalidad jurídica a la máquina mediante una norma legal no haría más que desplazar el problema, porque las decisiones, los incentivos y los activos que están detrás del sistema seguirían siendo los de personas físicas y empresas identificables.
e) Deber de lealtad y conflictos de interés. Las máquinas no tienen intereses y, por tanto, no pueden verse tentados de tomar decisiones como fiduciarios que estén sesgadas o directamente contradigan el mejor interés del beneficiario y favorezcan el propio. Como dice la autora, el problema se traslada a la "arquitectura" o diseño de la plataforma. Por ejemplo, en el caso de plataformas de asesoramiento automatizado (roboadvisor), puede ocurrir que los algoritmos favorezcan sistemáticamente los productos del asesor y el uso de inteligencia artificial precisamente agrava el problema porque encarece la transparencia y hace menos valioso el consentimiento del beneficiario. Y el problema no es solo para el beneficiario, sino para el fiduciario porque el beneficiario depende del fiduciario, pero el fiduciario depende a su vez de un proveedor tecnológico al que paga el fiduciario. La responsabilidad frente al beneficiario debería extenderse, pues, al que diseña la infraestructura tecnológica.
f) Por último, la IA permite mejorar la supervisión de los fiduciarios. Los beneficiarios pueden "chequear" lo que están haciendo sus fiduciarios a bajo coste utilizando IA para esa supervisión. Y esto genera una espiral (arms race) entre fiduciario y beneficiario. Porque si el beneficiario puede descubrir que la decisión de su fiduciario no fue "la mejor" disponible, difícilmente podrá el fiduciario justificar que ha cumplido con sus deberes.
Como instrumento, la IA puede detectar anomalías, señales de alerta e incumplimientos normativos que escapan a la capacidad humana, aliviando las limitaciones informativas que durante mucho tiempo han obstaculizado la labor de supervisión de los consejos de administración y de las autoridades encargadas de vigilar a los fiduciarios sujetos a regulación. Ambos papeles se encuentran vinculados mediante una relación recursiva. A medida que la supervisión asistida por máquinas pasa a estar razonablemente disponible, también puede elevarse el estándar de lo que se considera una supervisión adecuada; pero cada nueva herramienta de control que se adopta se convierte, a su vez, en un nuevo objeto que requiere supervisión. Esta dinámica recursiva puede impulsar por sí misma la evolución de los estándares fiduciarios, en la medida en que el aumento de la capacidad computacional va elevando progresivamente el nivel de vigilancia que se considera adecuado, incluida la supervisión de los propios sistemas computacionales.
Maria Lucia Passador, AI and Fiduciary Law, 2026
No hay comentarios:
Publicar un comentario