En el podcast Trajectory.
Aaronson sostiene que la diferencia fundamental entre los seres humanos y la inteligencia artificial (IA) es que las IA son reproducibles a voluntad. Es decir, siempre podemos hacer una copia de una IA. De ahí se sigue que no es posible dañar o matar a una inteligencia artificial si siempre tenemos una copia idéntica. Pone el ejemplo de que los humanos pudiéramos, antes de emprender un viaje peligroso o alistarnos en el ejército, hacer una copia de nosotros mismos y dejarla en nuestro lugar de residencia para que se active sólo si al "original" le sucede algo. Si sufrimos un accidente o morimos en el viaje, no pasaría nada porque lo que se habría muerto sería simplemente una copia.
Creo que es una idea, esta de Aaronson, muy profunda y que traducida a términos jurídicos, la diferencia entre "entes copiables" y "no copiables" - o reproducibles a voluntad - la expresa el concepto de individuo. La IA no es un individuo. Pero tampoco lo es - y ya veremos por qué es importante - hoy por hoy, un cerdo, una vaca o un perro (aunque un perro está más individualizado que una vaca y una vaca más que un cerdo y un cerdo más que una lagartija).
Los humanos nos consideramos como "individuos" y esto significa irrepetibles y únicos. De manera que cuando se muere un ser humano, se muere alguien irreemplazable.
Esto, naturalmente, es un constructo cultural relativamente reciente. Los humanos no hemos considerado que todos los humanos son individuos a lo largo de nuestra historia sobre la tierra. No sabemos mucho de los dos millones de años del género homo y de los doscientos mil años como cazadores-recolectores. Pero la idea de individuo y de la igualdad al menos jurídica de todos los individuos es recientísima. Apenas tiene cuatrocientos años. He recordado alguna vez la exposición de Ullman sobre la pintura y los manuscritos medievales en los que es imposible identificar al individuo pero está claro a qué corporación pertenece o qué dignidad o cargo ostenta. Decía Ullman que el individuo empieza a "separarse" de la comunidad en la Edad Media. Y, de hecho, Europa Occidental es la cuna del individualismo. Y el individualismo explica la mayor riqueza de Occidente. Y Occidente es el origen de la idea de que el individuo es la fuente de la justicia de las normas. Y las Constituciones lo reflejan (art. 10 CE)
Si cada ser humano es un individuo irrepetible y único, se entiende perfectamente que no se acepte la esclavitud o que se predique la igualdad de hombres y mujeres, de blancos y negros etc. Pero si los seres humanos no son individuos, sino miembros de una especie, son intercambiables. Son copias unos de otros ¿por qué no se va a poder esclavizarlos, matarlos para comérnoslos o hacerlo por diversión?
Pero lo que me interesa ahora es destacar que esta falta de analogía entre la inteligencia artificial y los seres humanos se funda en el prejuicio de que los seres humanos somos individuos y nos consideramos como individuos irrepetibles o únicos. Y eso se ve bien si comparamos esta discusión con la discusión sobre el bienestar animal o los derechos de los animales. En nuestra concesión, no valoramos en modo alguno que se trate de un conjunto de seres individuales. un cerdo es igual que otro cerdo, igual que otro cerdo. Precisamente existen porque los humanos los hacemos reproducir, los alimentamos y decidimos cuándo es mejor matarlos.
En otro momento dice Aaronson que las reglas morales de la antigüedad que se referían por ejemplo a la pureza y a los ritos, no han sobrevivido pero que otras reglas como la Golden rule ha adquirido validez universal en el espacio en el tiempo. Y añade que no nos extrañaría que si encontráramos extraterrestres, para ellos tuviera sentido y significado esa regla y que ellos tuvieran una fórmula semejante como regla moral. Pero, de nuevo, eso se basa en el prejuicio de que los extraterrestres serían individuos, seres conscientes de su individualidad y de la individualidad de los otros y de una radical semejanza entre todos ellos, a pesar de la individualidad y de que serían, como nosotros, una especie ultrasocial.
La idea de individuo solo tiene sentido en especies sociales. Y dentro de estas hay que descartar las eusociales. De modo que podemos predecir (i) que nunca reconoceremos individualidad a la AI - hasta que no adopten estructuras "biológicas", esto es, que puedan morir y no puedan copiarse y (ii) que tenderemos a ampliar "el arco moral" para que alcance, quizá, a mamíferos sociales.
No hay comentarios:
Publicar un comentario