John Schilling, apud, Gavin Leech
Dice Aaranson (que trabaja para OpenAI) que la disputa en el seno del consejo de administración de OpenAI no era entre partidarios de convertir la empresa en una "maximizadora de beneficios" y los que querían poner en el mercado una Inteligencia Artificial (IA) segura para todos. Y añade, en relación con el "botón nuclear"
En resumen, me parece que en realidad nunca obtuvimos una prueba limpia de la cuestión con la que la mayoría de los defensores de la seguridad de la IA están obsesionados: a saber, si OpenAI (o cualquier otra organización constituida de manera similar) tiene, o podría esperarse que tenga, un "interruptor de apagado" que funcione, si, por ejemplo, podría autodestruirse... si un número suficiente de sus directivos o empleados se convenciera de que el destino de la humanidad dependía de dicha autodestrucción. No sé contestar a esa pregunta pero sé que nadie sabe la respuesta. Si dispondremos de una respuesta en el futuro, el tiempo lo dirá.
Mi intuición me lleva a pensar que, al igual que con la responsabilidad social corporativa y la ESG en general, lo que deberíamos ir preparando es legislación y administración pública capaz de asegurar que, con independencia de los deseos, incentivos y conciencia moral de los que controlan las empresas de IA, funcionarios independientes podrán adoptar las decisiones más acertadas al respecto. Lo hicimos con la energía nuclear, con los medicamentos ¿por qué no habría de funcionar el sistema con la Inteligencia Artificial?
El partido del progreso moderado dentro de los límites de la ley
... el partido fue fundado en 1904 en el restaurante "El Litro de Oro" (en checo: Zlatý litr) en el barrio Vinohrady de Praga... El nombre del partido se refería al controvertido Rescripto Imperial fechado el 12 de septiembre de 1871, en el que se pedía al Landtag bohemio, como órgano representativo del poder político checo, que contribuyera al "orden constitucional contemporáneo, en el espíritu de la moderación y la reconciliación". Lo más probable es que el partido se fundara como una respuesta directa al comportamiento excesivamente complaciente del Partido Socialdemócrata Checo ("Evolución, no Revolución")...
La plataforma del candidato para el distrito electoral de Vinorhady, Jaroslav Hašek, consistía en siete puntos:
- La reintroducción de la esclavitud.
- La nacionalización de los porteros ("similar a lo que ocurre en Rusia [...], donde cada conserje es simultáneamente un informante de la policía").
- La rehabilitación de animales.
- El internamiento psiquiátrico de los diputados débiles mentales.
- La reintroducción de la Inquisición.
- La inmunidad judicial para los sacerdotes y la Iglesia ("En los casos en que una colegiala es desflorada por un sacerdote").
- La introducción obligatoria del alcoholismo.
Más sexo, mentiras y encuestas
Según una encuesta, el 41 % de los franceses son favorables a limitar los vuelos que una persona puede realizar en toda su vida a 4. Entre los que tienen 18 a 24 años, esta proporción se eleva al 59 %.
En educación, hay que ser conservador
La terapia dialéctica conductual (TDC) es un tipo de terapia conversacional. Se basa en la terapia cognitivo-conductual (TCC), pero está especialmente adaptada para personas que sienten emociones muy intensas. El objetivo de DBT es ayudarle a que comprenda y acepte sus sentimientos difíciles; aprenda habilidades para gestionarlos y sea capaz de hacer cambios positivos en tu vida. "Dialéctico" significa tratar de entender cómo dos cosas que parecen opuestas pueden ser ambas verdaderas. Por ejemplo, aceptarte a ti mismo y cambiar tu comportamiento puede parecer contradictorio. Pero la TDC enseña que es posible lograr ambos objetivos juntos.
Pues bien, según este estudio, (vía Scott Alexander), la utilización de estas técnicas - enseñanza de "habilidades" para gestionar tus propias emociones - con preadolescentes y adolescentes en el marco escolar o familiar no se recomienda porque empeora las cosas. Aunque dice Alexander que debe utilizarse en un marco terapéutico o clínico, donde produce buenos resultados.
La ambición de Lenin y la paz de Brest-Litovsk
Los alemanes, viendo que los rusos no se decidían, iniciaron una ofensiva que les acercó más a Petrogrado y a Kiev en Ucrania. A Lenin casi le dio un síncope y, antes de que los alemanes pudieran quitarle el poder, prefirió la rendición incondicional. Por el Tratado de Brest-Litovsk (3 de marzo de 1918) Lenin cedió a Alemania gran parte de la Rusia europea, Bielorrusia y Ucrania. Perdió así el país un tercio de su población y de su tierra cultivable, casi la mitad de su industria y el 80% de sus yacimientos de carbón. Todo valía, con tal de que sobreviviera el gobierno comunista. Se trataba de un caso extremo de ansia de poder, pero ciertamente no el único.
El aprendizaje produce rendimientos superlineales: hay que estar siempre aprendiendo
El caso más común de crecimiento exponencial en la época preindustrial fue probablemente la erudición. Cuanto más se sabe, más fácil es aprender cosas nuevas. El resultado, entonces como ahora, era que algunas personas estaban asombrosamente más informadas que el resto sobre ciertos temas. ¿Existen reglas generales para encontrar situaciones con rendimientos superlineales? La más obvia es buscar un trabajo que produzca efectos multiplicadores. Hay dos formas de multiplicar los resultados. Puede que éstos se acumulen, en el sentido de que hacerlo bien en un ciclo hace que lo hagas mejor en el siguiente. Esto ocurre, por ejemplo, cuando se construye una infraestructura o se hace crecer una audiencia o una marca. O los resultados pueden multiplicarse porque hayas aprendido en el primer ciclo ... puedes pensar que lo estás haciendo mal... puedes creer que no conseguirás lo que te has propuesto. Pero si estás aprendiendo mucho, entonces, aunque no lo parezca, estás consiguiendo un crecimiento exponencial. Esta es una de las razones por las que Silicon Valley es tan tolerante con el fracaso. La gente de Silicon Valley no tolera ciegamente el fracaso. Sólo seguirán apostando por ti si creen que estás aprendiendo de tus fracasos. Porque si aprendes, merece la pena apostar por ti: puede que tu empresa no haya crecido como tú querías, pero tú sí has crecido y ese crecimiento se debería traducir en crecimiento exponencial con el paso del tiempo. De hecho, las formas de crecimiento exponencial que no consisten en el aprendizaje se entremezclan tan a menudo con el aprendizaje que probablemente deberíamos tratar esto como la regla y no como la excepción. Lo que nos lleva a otra heurística: hay que estar siempre aprendiendo. Si no estás aprendiendo, es probable que no estés en el camino que conduce a rendimientos superlineales. Pero no optimices demasiado lo que aprendes. No te limites a aprender cosas que ya se sabe que son valiosas. Estás aprendiendo; aún no sabes con certeza qué va a ser valioso, y si eres demasiado estricto perderás conocimientos valiosos pero atípicos... Si encuentras algo que es mediocre pero que goza de popularidad (que hay demanda), seguro que vale la pena buscar un producto sustitutivo. Pero, ojo, la gente no es tonta: Cuando algo es popular a pesar de ser mediocre, suele haber una razón detrás. Tal vez el monopolio o la regulación dificultan la competencia. Puede que los clientes tengan mal gusto o no sepan qué comprar."
... Podemos predecir hasta cierto punto cuándo es poco probable que un problema de investigación conduzca a nuevos descubrimientos: cuando parece razonable pero aburrido. Mientras que los que sí conducen a nuevos descubrimientos suelen parecer muy desconcertantes, pero quizá sin importancia. (Si fueran desconcertantes y obviamente importantes, serían famosas preguntas abiertas con mucha gente trabajando ya en ellas). Así que una heurística aquí es dejarse llevar por la curiosidad y no por el arribismo: dar rienda suelta a tu curiosidad en lugar de trabajar en lo que se supone que debes trabajar.... Cuando empiezas a aprender algo, te sientes perdido. Pero merece la pena hacer el esfuerzo inicial para afianzarse, porque cuanto más aprendas, más fácil te resultará adquirir nuevos conocimientos...
... busca ámbitos en los que los que están presentes obtengan rendimientos muy dispares... Un trabajo en el que todo el mundo obtiene rendimientos parecidos es poco probable que tenga rendimientos superlineales...
Paul Graham, Superlinear returns, 2023,
v., esta entrada del almacén de derecho y esta otra entrada de Graham sobre cómo decidir a qué dedicar tu esfuerzo
La lealtad de los empleados (y de los cargos públicos a quien les nombró) tampoco es una comida gratis
A través del FT ), leo este resumen de un trabajo académico sobre las disonancias cognitivas que padecen los empleados leales
La lealtad... puede llevar a la gente a hacer cosas poco éticas... procesos psicológicos ... l que... operan de forma que reducen la disonancia cognitiva que se experimenta cuando las lealtades entran en conflicto entre sí o con otros principios morales.
No hay comentarios:
Publicar un comentario