.jpg)
El artículo de Emiliano Kargieman propone crear una nueva figura, las Autonomous Legal Entities o ALEs, para cubrir el pretendido “vacío de gobernanza” de los agentes autónomos, que actúan cada vez con menos intervención humana inmediata. Kargieman no defiende que la IA sea persona ni que haya que reconocer personalidad jurídica a los LLM o a los sistemas autónomos. Dice expresamente que la ALE “is not AI personhood”, que no presupone conciencia, derechos ni estatuto moral de la IA, y que la ALE es un “legal container for machine operations”. Añade que la ALE pertenece a la tradición de la persona jurídica corporativa, no a la de la personificación de la IA. Pero es discutible que el Derecho carezca de modelos de “gobernanza” adecuados para la IA.
Kargieman presenta el problema principalmente como una insuficiencia de los modelos de responsabilidad aplicados a los daños causados por sistemas autónomos. A su juicio, la responsabilidad vicaria —respondeat superior— y la responsabilidad por producto resultan inadecuadas cuando el sistema actúa con autonomía operativa, adquiere recursos, celebra contratos y toma decisiones relevantes con escasa supervisión humana inmediata. La objeción es que esa forma de plantear el problema no distingue suficientemente entre imputación patrimonial y regulación del riesgo. La cuestión básica de imputación ya está resuelta poro la personalidad jurídica y por la regla de responsabilidad universal del deudor: en Derecho responden los titulares de patrimonios (y los titulares responden con su patrimonio, no con su persona) y titulares de patrimonios solo son las personas humanas —no es una redundancia errónea— y las personas jurídicas. Lo que puede requerir una regulación específica no es la personificación de la IA, sino las condiciones bajo las cuales una persona jurídica puede desplegar sistemas autónomos de alto impacto: seguros obligatorios, auditoría, trazabilidad, supervisión y mecanismos de suspensión.
Su definición de ALE incluye expresamente que sea una organización legalmente constituida y titular de activos; dice que la titularidad patrimonial es indispensable porque sin activos la responsabilidad carece de sentido, y que “a legal container without assets is an empty form”: la ALE no es la máquina, sino un patrimonio personificado. Lo que puede reprochársele es que no extraiga todas las consecuencias dogmáticas de esa idea y que hable de “machine agency” de forma equívoca.
Por tanto, para que la IA no sea “ingobernable” basta con aplicar las instituciones que los humanos han inventado hace muchos siglos para organizar la acción colectiva —el autor cita mucho a Elinor Ostrom—, que son la corporación y la sociedad. En el mundo, para el Derecho (Savigny), solo hay personas y cosas. Y la IA no es una persona. Los LLM no son personas, ergo, son cosas. Y las cosas pueden formar parte de patrimonios —conjuntos de bienes, derechos, créditos y deudas—, y los patrimonios responden y sobre los patrimonios deciden sus titulares, que pueden ser individuos o personas jurídicas.
La celebración de contratos, la adquisición de bienes o la cesión de derechos —v., art. 38 CC— mediante mecanismos automatizados, incluso puramente mecánicos, no exige innovaciones jurídicas sustanciales. Cuando la empresa Snacks de Poniente SA vende bolsas de patatas fritas a través de vending machines o cuando el autor de estas líneas compra periódicamente a Amazon cápsulas de café a través de un sistema automatizado en el que no interviene ningún ser humano, a nadie se le ocurre imputar a la máquina la venta o la compra correspondiente. Las cosas no pueden comprar o vender cosas. Solo los sujetos de derecho tienen capacidad jurídica y de obrar. Y solo los seres humanos tienen ambas por “naturaleza”. Para que algo distinto de un ser humano tenga capacidad jurídica y de obrar ha de tratarse de un patrimonio organizado, es decir, dotado de individuos que tengan asignada por el Derecho la competencia para tomar decisiones con efectos sobre dicho patrimonio. Esas son las personas jurídicas.
Y el Derecho no necesita distinguir entre la persona jurídica que es Snacks de Poniente SA y la persona jurídica IA del sector del transporte por carretera SA. Para el Derecho, en ambos casos, desde el punto de vista “real”, tenemos un patrimonio dotado de “agencia” o capacidad de obrar y, desde el punto de vista obligatorio, tenemos un negocio jurídico contractual-societario, cuando el patrimonio se forma con las aportaciones de los socios, o un negocio jurídico fundacional, cuando el patrimonio se forma a partir de la dotación de un fundador,
Que las decisiones “operativas”, esto es, las decisiones sobre el patrimonio de la persona jurídica, sean mecánicas —como lo son las “decisiones” de los animales o de las plantas a nivel celular o como lo es el regulador de Watt— es irrelevante para el Derecho, que siempre encuentra un sujeto de derecho al que se imputa la decisión. Y este es, repito, siempre o un individuo o una persona jurídica. Naturalmente, además, el Derecho puede hacer responsable a otros patrimonios distintos del de dicho sujeto de derecho. Es lo que se llama el levantamiento del velo.
De manera que la propuesta del autor parece, simplemente, un nuevo “tipo societario” o de persona jurídica con estructura corporativa. Y, en esa medida, no comete el error de plantear la articulación jurídica de las empresas basadas en IA como un problema “filosófico” acerca de si la IA es consciente o si son “personas”.
La arquitectura de la ALE es reconocible para un jurista: una persona jurídica de estructura corporativa o fundacional sometida a un régimen especial de organización, supervisión, seguro, trazabilidad y responsabilidad. Y la conclusión es, naturalmente, que esto no es un problema de Derecho de la persona jurídica, sino de regulación pública del uso empresarial de la IA.
En cuanto a la supervisión humana, no debe ponerse como requisito ex ante. Basta aplicar el Derecho de la responsabilidad contractual y extracontractual. Si las sociedades anónimas, fundaciones, cooperativas o asociaciones cuyo objeto o actividad se despliega mediante IA no supervisan adecuadamente sus sistemas y se producen daños, responderá el patrimonio correspondiente; y, en su caso, responderán los administradores o quienes hayan intervenido de forma jurídicamente relevante conforme a las reglas generales de imputación de daños.
Tampoco hay ninguna necesidad, desde el punto de vista de la personificación, de plantearse un nivel de intervención pública más intenso que el que existe en el Derecho de Sociedades en lo que se refiere a la organización de los patrimonios formados por activos —bienes, derechos— asociados a la IA.
Y tampoco es necesario, desde esta perspectiva, crear tipos societarios —ALEs— en función del sector de actividad en el que se vaya a desplegar la IA.
Repito: no es que las ideas regulatorias que el autor recoge estén equivocadas. Es muy sensato que se imponga un seguro obligatorio o que se prevean medidas sancionadoras o cuasisancionadoras que, en casos graves, puedan llevar a la suspensión operativa, a la desconexión del sistema o incluso a la disolución y liquidación de la persona jurídica, algo funcionalmente próximo a algunas consecuencias previstas en el Derecho penal de las personas jurídicas. Solo que no tienen que ver con la personificación.
No hay, pues, un vacío que rellenar entre “herramienta” y “persona”, entre “cosa” y “persona”. Y no creo que sea necesario ni siquiera crear un tipo especial de patrimonio personificado sometido a reglas más exigentes porque su actividad operativa se delega en sistemas automatizados, aunque, eventualmente, deba elaborarse un corpus de reglas mitigadoras de los riesgos que implica el uso generalizado de potentes “decisores mecánicos”.
Por tanto, el artículo mezcla tres problemas que deben mantenerse separados. El primero es la titularidad patrimonial: quién posee los activos, quién contrata, quién responde. El segundo es la organización de la capacidad de obrar: mediante qué órganos, representantes, algoritmos o protocolos se adoptan decisiones imputables a ese patrimonio. El tercero es la regulación de una actividad peligrosa o de alto impacto: qué seguros, controles, auditorías y sanciones deben imponerse. La persona jurídica resuelve el primer problema; la representación y la organización interna resuelven el segundo; la regulación sectorial resuelve el tercero.
No hay comentarios:
Publicar un comentario