En su blog-substack, Arnold Kling explica que hay dos modelos de lenguaje de inteligencia artificial. Se puede elaborar un 'cerebro' artificial que tenga un objetivo genérico, es decir, 'pensar' sobre cualquier asunto "y sustituyendo a los humanos como escritores y analistas". La alternativa es lo que llama "simuladores" que acumulan datos en relación con un sector económico o intelectual. Por ejemplo, un cerebro artificial experto en "el Derecho de Sucesiones del Estado de Maryland" pero que también podría permitir recrear una conversación entre dos científicos o filósofos ya fallecidos. Kling considera que esta segunda vía es más prometedora que la primera. Y la razón fundamental es que
el comportamiento de las IA de propósito general basadas en modelos de lenguaje grande dependerá en gran medida de las personas que entrenan los modelos...
Lo que hacen los entrenadores de estos cerebros es semejante - dice Kling - a lo que hacían algunos economistas para distorsionar los resultados de una regresión logrando
una especie de promedio entre lo que dicen los datos y su creencia previa. Por ejemplo, digamos que el pre-juicio del investigador es que por cada $100 de ingresos adicionales que obtiene alguien, se gastan $80. Además de poner datos mensuales reales sobre los ingresos y gastos de los hogares en el ordenador, el investigador introduce aquí y allá algunos datos inventados que son coherentes con su pre-juicio. Por ejemplo, una observación de alguien con ingresos mensuales de $5000 y gastos de $ 4500 y otra de $5100 y gastos de $4580, de modo que el gasto marginal sea de $80 de cada $100 en ingresos marginales. Cuantos más datos inventados le dé al ordenador, mayor será el peso en su pre-juicio en los resultados.
Del mismo modo, los modelos de lenguaje grandes producen resultados que son una combinación de la escritura que escanea y los prejuicios de los que entrenan la máquina. A medida que los usuarios lleguen a ver la clara influencia de los pre-juicios , tenderán a ver estos modelos como marionetas de sus entrenadores en lugar de fuentes objetivas de información. De manera que cabe esperar que florezcan los "simuladores" especializados.
Véase la entrada en el Almacén de Derecho de Hugo Acciarri.
No hay comentarios:
Publicar un comentario