miércoles, 8 de marzo de 2023

Scott Aaronson sobre el futuro de ChatGPT

 


Si... quiero que GPT y otros modelos de lenguaje sean parte del mundo en el futuro... (es, en) parte (por)... curiosidad y asombro. 

... entes en la tierra capaces de una conversación inteligente... solo queda una especie. Sí, nos hemos "comunicado" con gorilas y chimpancés y perros y delfines y loros grises, pero solo después de una creación; hemos rezado a innumerables dioses, pero se han tomado su tiempo para responder; durante un par de generaciones hemos utilizado radiotelescopios para buscar compañeros de conversación en las estrellas, pero hasta ahora han respondido con el silencio. 

Ahora hay un segundo tipo de entidad conversadora. Un extraterrestre ha despertado, es cierto, un alienígena de nuestra propia creación, un golem, más el espíritu encarnado de todas las palabras en Internet que un yo coherente con objetivos independientes. ¿Cómo podríamos no entusiasmarnos... por aprender todo lo que este alienígena tiene que enseñar? Si el alienígena a veces lucha con acertijos aritméticos o lógicos, si sus misteriosos destellos de brillantez se entremezclan con estupidez, alucinaciones y autoconfianza fuera de lugar ... Bueno, pues ¡aún más interesante! ¿Podría el alienígena cruzar la línea hacia la sensibilidad, para sentir ira, celos, enamoramiento y el resto de emociones en lugar de simplemente hacer un papel teatral de manera convincente? ¿Quién sabe? Y supongamos que no: ¿es menos fascinante un p-zombie, saliendo de la sala de seminarios de filosofía a la existencia real? 

Por supuesto, hay tecnologías que inspiran asombro pero que restringimos muy severamente. Un ejemplo clásico son las armas nucleares porque las armas nucleares matan a millones de personas. Podrían haber tenido muchas aplicaciones civiles: alimentar turbinas y naves espaciales, desviar asteroides, redirigir el flujo de los ríos, pero nunca se han utilizado para nada de eso, principalmente porque nuestra civilización tomó una decisión explícita en la década de 1960, por ejemplo, a través del tratado de prohibición de pruebas, de no normalizar su uso. 

Pero GPT no es exactamente un arma nuclear. Cien millones de personas se han inscrito para usar ChatGPT, en el lanzamiento de producto más rápido en la historia de Internet. Sin embargo, a menos que me equivoque, el número de muertos de ChatGPT es cero. Hasta ahora, ¿cuáles han sido los peores daños? ¿Hacer trampa en los trabajos del colegio, angustia emocional, shock futuro? Uno podría preguntarse: hasta que algún daño concreto se convierta al menos, digamos, en el 0.001% de los riesgos que aceptamos en automóviles, sierras eléctricas y tostadoras, ¿no deberían la maravilla y la curiosidad superar el miedo en la balanza?

Scott Aaranson, Should GPT exist, 2023


No hay comentarios:

Archivo del blog