Lo que sigue son extractos del trabajo de la profesora Estupiñán que se cita al final de la entrada.
la utilización de sistemas de IA en la toma de decisiones empresariales no genera un nuevo deber fiduciario autónomo, distinto del deber de diligencia que ya conocemos. Ahora bien, esto no significa que deje a tal deber inalterado, en tanto que conlleva una concreción de su contenido operativo. Concreción esta que se produce, en términos estructuralmente idénticos a los que ya empleó el legislador de 2003 cuando precisó que la diligencia exige informarse de la marcha de la sociedad, o a los que empleó el de 2014 cuando exigió una dedicación adecuada en atención a las funciones de cada administrador. La utilización de IA es, simplemente, la circunstancia tecnológica de nuestro tiempo a la que el estándar del ordenado empresario debe responder.
... debe emplear un criterio razonable al elegir la herramienta. Esto es, valorar su idoneidad para el tipo de decisión a la que se destina, la trayectoria y solvencia técnica de su proveedor, la existencia de documentación e instrucciones de uso adecuadas
... (debe tener) una comprensión funcional (de la IA), en el sentido de: a) saber si el sistema es predictivo, generativo o de apoyo a la decisión, conforme a la taxonomía expuesta en el epígrafe II; b) conocer, siquiera en términos generales, los datos con los que ha sido entrenado y sus limitaciones conocidas; y c) entender el alcance y los riesgos específicos de la recomendación que se recibe. Es exactamente el umbral que Möslein identificaba, en sede de gobernanza algorítmica, como comprensión básica de cómo operan los dispositivos empleados, y es también el umbral que, a nuestro juicio, permite afirmar que la información recibida es, en sentido jurídicamente relevante, «suficiente» a los efectos del artículo 226 LSC
..... (debe existir) control humano significativo y mantenido en el tiempo. ... en In re Caremark International Inc. Derivative Litigation y revitalizada por el Tribunal Supremo de Delaware en Marchand v. Barnhill exige que el consejo realice un esfuerzo de buena fe por implantar y, sobre todo, mantener en funcionamiento un sistema razonable de supervisión de los riesgos críticos del negocio, sin que baste con haberlo diseñado en su momento si después se abandona su seguimiento. La lógica es idéntica a la que defendemos aquí para los sistemas de IA, esto es, que la supervisión inicial no convalida el abandono posterior.
... la IA no decide, y la decisión sigue siendo del administrador. Esta manifestación se traduce en la prohibición concreta de aceptar el resultado de un sistema de IA como fundamento de una decisión sin sometimiento a un juicio crítico propio, por mínimo que este sea. No se trata de exigir que el administrador repita o verifique técnicamente el cálculo del sistema (algo que, en la mayoría de los casos, le resultaría imposible), sino de exigir que valore razonadamente si el resultado obtenido resulta plausible a la luz de la información adicional de que dispone, de su conocimiento del negocio y de su propio criterio empresarial
Propuesta de párrafo añadido al artículo 226
«Cuando el administrador se sirva de sistemas de inteligencia artificial u otras herramientas tecnológicas de apoyo a la decisión, el deber de diligencia comprenderá, además, la selección razonable de dichos sistemas, su comprensión suficiente para valorar los riesgos inherentes a su utilización, la supervisión continuada de su funcionamiento y la validación crítica de sus resultados.»
La regla de protección de la discrecionalidad empresarial cubre el uso de la IA
la utilización de IA no excluye, en ningún caso, la aplicación del artículo 226 LSC. La regla de protección de la discrecionalidad empresarial sigue operando exactamente igual que ante cualquier otra decisión estratégica o de negocio. Lo que cambia es el contenido de los requisitos que deben acreditarse para beneficiarse de ella: la «información suficiente» y el «procedimiento adecuado» del artículo 226.1 LSC incorporan ya, cuando media un sistema de IA, las exigencias de selección razonable, comprensión funcional, supervisión continuada y validación crítica... El administrador que las satisface conserva intacta la protección de la regla, aunque el resultado de la decisión haya sido desfavorable. El que no las satisface pierde esa protección, no porque la IA haya alterado la naturaleza de la regla, sino porque no ha podido acreditar los presupuestos. cuya prueba, recuérdese, le incumbe a él y no a quien reclama, que la regla exige.
No hay comentarios:
Publicar un comentario