.jpg)
El artículo de Emiliano Kargieman propone crear una nueva figura, las Autonomous Legal Entities o ALEs, para cubrir el pretendido “vacío de gobernanza” de los agentes autónomos, que actúan cada vez con menos intervención humana inmediata. Kargieman no defiende que la IA sea persona ni que haya que reconocer personalidad jurídica a los LLM o a los sistemas autónomos. Dice expresamente que la ALE “is not AI personhood”, que no presupone conciencia, derechos ni estatuto moral de la IA, y que la ALE es un “legal container for machine operations”. Añade que la ALE pertenece a la tradición de la persona jurídica corporativa, no a la de la personificación de la IA. Pero es discutible que el Derecho carezca de modelos de “gobernanza” adecuados para la IA.
Kargieman presenta el problema principalmente como una insuficiencia de los modelos de responsabilidad aplicados a los daños causados por sistemas autónomos. A su juicio, la responsabilidad vicaria —respondeat superior— y la responsabilidad por producto resultan inadecuadas cuando el sistema actúa con autonomía operativa, adquiere recursos, celebra contratos y toma decisiones relevantes con escasa supervisión humana inmediata. La objeción es que esa forma de plantear el problema no distingue suficientemente entre imputación patrimonial y regulación del riesgo. La cuestión básica de imputación ya está resuelta poro la personalidad jurídica y por la regla de responsabilidad universal del deudor: en Derecho responden los titulares de patrimonios (y los titulares responden con su patrimonio, no con su persona) y titulares de patrimonios solo son las personas humanas —no es una redundancia errónea— y las personas jurídicas. Lo que puede requerir una regulación específica no es la personificación de la IA, sino las condiciones bajo las cuales una persona jurídica puede desplegar sistemas autónomos de alto impacto: seguros obligatorios, auditoría, trazabilidad, supervisión y mecanismos de suspensión.
Su definición de ALE incluye expresamente que sea una organización legalmente constituida y titular de activos; dice que la titularidad patrimonial es indispensable porque sin activos la responsabilidad carece de sentido, y que “a legal container without assets is an empty form”: la ALE no es la máquina, sino un patrimonio personificado. Lo que puede reprochársele es que no extraiga todas las consecuencias dogmáticas de esa idea y que hable de “machine agency” de forma equívoca.
Por tanto, para que la IA no sea “ingobernable” basta con aplicar las instituciones que los humanos han inventado hace muchos siglos para organizar la acción colectiva —el autor cita mucho a Elinor Ostrom—, que son la corporación y la sociedad. En el mundo, para el Derecho (Savigny), solo hay personas y cosas. Y la IA no es una persona. Los LLM no son personas, ergo, son cosas. Y las cosas pueden formar parte de patrimonios —conjuntos de bienes, derechos, créditos y deudas—, y los patrimonios responden y sobre los patrimonios deciden sus titulares, que pueden ser individuos o personas jurídicas.
La celebración de contratos, la adquisición de bienes o la cesión de derechos —v., art. 38 CC— mediante mecanismos automatizados, incluso puramente mecánicos, no exige innovaciones jurídicas sustanciales. Cuando la empresa Snacks de Poniente SA vende bolsas de patatas fritas a través de vending machines o cuando el autor de estas líneas compra periódicamente a Amazon cápsulas de café a través de un sistema automatizado en el que no interviene ningún ser humano, a nadie se le ocurre imputar a la máquina la venta o la compra correspondiente. Las cosas no pueden comprar o vender cosas. Solo los sujetos de derecho tienen capacidad jurídica y de obrar. Y solo los seres humanos tienen ambas por “naturaleza”. Para que algo distinto de un ser humano tenga capacidad jurídica y de obrar ha de tratarse de un patrimonio organizado, es decir, dotado de individuos que tengan asignada por el Derecho la competencia para tomar decisiones con efectos sobre dicho patrimonio. Esas son las personas jurídicas.
Y el Derecho no necesita distinguir entre la persona jurídica que es Snacks de Poniente SA y la persona jurídica IA del sector del transporte por carretera SA. Para el Derecho, en ambos casos, desde el punto de vista “real”, tenemos un patrimonio dotado de “agencia” o capacidad de obrar y, desde el punto de vista obligatorio, tenemos un negocio jurídico contractual-societario, cuando el patrimonio se forma con las aportaciones de los socios, o un negocio jurídico fundacional, cuando el patrimonio se forma a partir de la dotación de un fundador,
Que las decisiones “operativas”, esto es, las decisiones sobre el patrimonio de la persona jurídica, sean mecánicas —como lo son las “decisiones” de los animales o de las plantas a nivel celular o como lo es el regulador de Watt— es irrelevante para el Derecho, que siempre encuentra un sujeto de derecho al que se imputa la decisión. Y este es, repito, siempre o un individuo o una persona jurídica. Naturalmente, además, el Derecho puede hacer responsable a otros patrimonios distintos del de dicho sujeto de derecho. Es lo que se llama el levantamiento del velo.
De manera que la propuesta del autor parece, simplemente, un nuevo “tipo societario” o de persona jurídica con estructura corporativa. Y, en esa medida, no comete el error de plantear la articulación jurídica de las empresas basadas en IA como un problema “filosófico” acerca de si la IA es consciente o si son “personas”.
La arquitectura de la ALE es reconocible para un jurista: una persona jurídica de estructura corporativa o fundacional sometida a un régimen especial de organización, supervisión, seguro, trazabilidad y responsabilidad. Y la conclusión es, naturalmente, que esto no es un problema de Derecho de la persona jurídica, sino de regulación pública del uso empresarial de la IA.
En cuanto a la supervisión humana, no debe ponerse como requisito ex ante. Basta aplicar el Derecho de la responsabilidad contractual y extracontractual. Si las sociedades anónimas, fundaciones, cooperativas o asociaciones cuyo objeto o actividad se despliega mediante IA no supervisan adecuadamente sus sistemas y se producen daños, responderá el patrimonio correspondiente; y, en su caso, responderán los administradores o quienes hayan intervenido de forma jurídicamente relevante conforme a las reglas generales de imputación de daños.
Tampoco hay ninguna necesidad, desde el punto de vista de la personificación, de plantearse un nivel de intervención pública más intenso que el que existe en el Derecho de Sociedades en lo que se refiere a la organización de los patrimonios formados por activos —bienes, derechos— asociados a la IA.
Y tampoco es necesario, desde esta perspectiva, crear tipos societarios —ALEs— en función del sector de actividad en el que se vaya a desplegar la IA.
Repito: no es que las ideas regulatorias que el autor recoge estén equivocadas. Es muy sensato que se imponga un seguro obligatorio o que se prevean medidas sancionadoras o cuasisancionadoras que, en casos graves, puedan llevar a la suspensión operativa, a la desconexión del sistema o incluso a la disolución y liquidación de la persona jurídica, algo funcionalmente próximo a algunas consecuencias previstas en el Derecho penal de las personas jurídicas. Solo que no tienen que ver con la personificación.
No hay, pues, un vacío que rellenar entre “herramienta” y “persona”, entre “cosa” y “persona”. Y no creo que sea necesario ni siquiera crear un tipo especial de patrimonio personificado sometido a reglas más exigentes porque su actividad operativa se delega en sistemas automatizados, aunque, eventualmente, deba elaborarse un corpus de reglas mitigadoras de los riesgos que implica el uso generalizado de potentes “decisores mecánicos”.
Por tanto, el artículo mezcla tres problemas que deben mantenerse separados. El primero es la titularidad patrimonial: quién posee los activos, quién contrata, quién responde. El segundo es la organización de la capacidad de obrar: mediante qué órganos, representantes, algoritmos o protocolos se adoptan decisiones imputables a ese patrimonio. El tercero es la regulación de una actividad peligrosa o de alto impacto: qué seguros, controles, auditorías y sanciones deben imponerse. La persona jurídica resuelve el primer problema; la representación y la organización interna resuelven el segundo; la regulación sectorial resuelve el tercero.
3 comentarios:
Muy interesante la crítica. Importante en tanto que el artículo tiene, al menos en el caso del gobierno argentino, probada influencia.
Estoy de acuerdo con que no estaría introduciendo mayor novedad en la práctica. Las recomendaciones, excepto por el caso del "kill switch", se parecen mucho, en lo conceptual, a las existentes para otros dominios altamente informatizados, como por ejemplo el financiero. De hecho, uno podría preguntarse si son suficientes o si la ley misma no debería incorporar una agilidad comparable, dada la velocidad del cambio tecnológico y la incertidumbre que éste provoca, que podrían volverlas inoperantes en cuestión de meses.
Discrepo sin embargo en un aspecto directamente relacionado con lo anterior. Esta tecnología no es equivalente a las de un banco o, tomando el ejemplo mencionado en el artículo, la de Amazon.
Los sistemas informáticos actuales son deterministas, esto es, ejecutan una serie de acciones y responden al ambiente exactamente de la manera concebida por el implementador. Cuando no es así, se habla de un "bug", una negligencia de análisis o un problema de diseño. En todo caso, de un error.
Los sistemas agénticos basados en LLM en cambio son inherentemente estocásticos. Ya se sabe de entrada que no hay garantía que sigan las instrucciones, o más bien, que está garantizado que eventualmente no lo harán. Amazon bien podría incluir en sus Condiciones Generales que en cada compra se arroja una moneda al aire que decide el destino de la compra. Sería un contrato inhabitual, pero imaginable. Esta analogía tiene sus limitaciones, sin embargo, porque las libertades que se toman los LLM conducen a desviaciones considerablemente más sutiles y por ende difíciles de controlar.
La comparación con Amazon me provoca la sensación de que el artículo no critica la propuesta de las ALE desde este punto de vista, sino más bien desde la hipótesis de que se trata de una tecnología más de automatización. Nuevamente, si hay algo que ya ha constatado, es que los agentes basados en LLMs tienen poco de automático.
Saludos.
Muchas gracias. Mi tesis es que aunque los sistemas agénticos basados en LLM sean estocásticos y no haya garantía de que sigan las instrucciones, no hay por qué tratarlos JURÍDICAMENTE de forma distinta en lo que a la asignación de los riesgos se refiere. Quizá sean más costosos de asegurar - o menos - pero el criterio jurídico para asignar la responsabilidad a la parte que utiliza el sistema agéntico creo que no cambia.
Estimado Jesús, gracias por su respuesta. Me siento obligado a responder porque me he dado cuenta de la impericia para expresar mi discrepancia.
Yendo al grano, lo que encuentro objetable es decir que los LLM (o la tecnología actual en general y a fortiori cualquiera sea su evolución) "no son personas, por consiguiente son cosas".
Es objetable porque ignora o subestima que recientemente se ha hecho necesario defender la tradicional identificación de "persona" con "homo sapiens", que cotidianamente va perdiendo validez. De hecho usted mismo podría estar teniendo este diálogo con un agente y no se daría cuenta.
Por supuesto, podríamos postular que para el derecho "sólo existen homo sapiens y el resto" y por construcción se terminaría el debate. Pero leyendo lo escrito por Savigny que se cita en el texto, parece que "persona" tiene que ver con ciertas facultades mentales y no un juego específico de cromosomas o algo así.
Esa demarcación me parece razonable, puesto que si mañana desciende una flota extrarrestre, estoy seguro de que el Derecho considerará a los alienígenas como personas también, y no como meras cosas por el simple hecho de no estar emparentados con otros primates como nosotros (y ojalá así sea también para el derecho de estos seres!).
Como corolario de este razonamiento, cualquier entidad que manifieste las características de "persona" lo debería ser independientemente de su soporte material.
Se podría refinar la definición agregando que "persona" es, digamos para simplificar, "cualquier organismo inteligente".
Pero entonces por ejemplo, que pasaría si esta avanzada civilización, para atravesar el abismo cósmico, hubiese registrado las mentes individuales en soportes de silicio ¿Habrían por tal dejado de ser personas?
La reductio ab absurdum nos lleva a concluir que no porque un LLM corre en NVIDIA, se le puede declarar fácilmente cosa, dado su comportamiento, muy diferente del de objetos, animales o software como el de Amazon, pero tan parecido al nuestro.
Lamento haber usado el término "estocástico", que tiene un sentido diferente en el contexto de la tecnología; mea culpa. Como analogía mejor habría sido decir que un agente tiene algo muy parecido a "libre albedrío" (otro atributo de las personas-homo sapiens). Este algo y los otros que le vamos conociendo, deberían invitarnos a revisar los sistemas de pensamiento que hasta unos pocos años había "demostrado" la imposibilidad de todo esto, en lugar de reafirmarlos.
Yo preferiría que los acontecimientos no piensen por nosotros.
Saludos, Marcelo
Publicar un comentario