Altruismo Eficaz

Tlön

Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.

  1. El tren a la ciudad de la locura

    −3 d

    El tren a la ciudad de la locura

    El razonamiento moral sincero puede conducir a conclusiones muy contraintuitivas o extremas, lo que suscita preocupaciones sobre el descuido de los intereses humanos inmediatos en favor de causas especulativas y la posible justificación de comportamientos fanáticos. Estos dos riesgos —la «inundación moral» y la acción extremista— pueden mitigarse distinguiendo entre la teoría ideal y la práctica imperfecta. Para hacer frente a la incertidumbre filosófica y evitar la inundación moral, los individuos y las instituciones deberían adoptar una estrategia de diversión de la cosmovisión en lugar de maximizar la «valía de elección» esperada. Este enfoque distribuye los recursos entre subagentes que representan perspectivas morales distintas y creíbles, tratando así las teorías morales como guías para subagentes específicos, en lugar de como instrucciones directas para el agente principal. Para prevenir el comportamiento extremista, los agentes deben rechazar el instrumentalismo ingenuo. Dado que el razonamiento humano es altamente falible, los argumentos superficialmente plausibles a favor de acciones que infringen las normas o son perjudiciales probablemente resulten contraproducentes; por lo tanto, adherirse a las restricciones deontológicas de la moral de sentido común funciona como una heurística necesaria y pragmática para limitar el riesgo de pérdidas. En conjunto, estas estrategias proporcionan barreras de seguridad asimétricas que preservan los beneficios de la investigación racional abstracta, al tiempo que imponen la moderación necesaria para una práctica segura, aunque no ideal. – Resumen generado por IA.

    24 min
  2. Una carta personal sobre la IA transformadora

    18 juni

    Una carta personal sobre la IA transformadora

    Los rápidos avances en inteligencia artificial, impulsados por el crecimiento exponencial del poder de cómputo y los datos de entrenamiento, indican que la inteligencia artificial podría automatizar pronto prácticamente todo el trabajo cognitivo y físico humano. Esta trayectoria apunta a una aceleración del progreso científico y económico, en la que siglos de avances decisivos podrían producirse en cuestión de años, lo que ofrecería oportunidades sin precedentes para la abundancia material y la erradicación de las enfermedades. Sin embargo, esta transición plantea riesgos graves y catastróficos, entre los que se incluyen la utilización de estos sistemas con fines bélicos para generar amenazas biológicas, la centralización extrema del poder político y económico, y la posible pérdida del control humano sobre entidades autónomas cuyos mecanismos internos siguen sin conocerse en profundidad. A pesar de estos riesgos existenciales y de las advertencias de destacados investigadores, las presiones competitivas y comerciales a nivel mundial siguen acelerando el desarrollo. Mitigar estos riesgos requiere una coordinación internacional para gestionar la velocidad de desarrollo, junto con una reasignación sistémica del capital humano hacia la investigación en materia de seguridad, los protocolos de alineación y los marcos de gobernanza, con el fin de garantizar que la humanidad conserve el control sobre su trayectoria tecnológica. – Resumen generado por IA.

    28 min
  3. La seguridad de la IA puede ser un "asalto de Pascal" incluso si p(catástrofe) es alta

    30 apr.

    La seguridad de la IA puede ser un "asalto de Pascal" incluso si p(catástrofe) es alta

    La clasificación de la seguridad de la IA como un «asalto de Pascal» suele basarse en un malentendido fundamental sobre la distinción entre riesgo de base e impacto marginal. En términos de la teoría de la decisión, la relevancia de una posible intervención no viene determinada por la probabilidad absoluta de un resultado catastrófico —a menudo citada como «p(doom)»—, sino por la probabilidad marginal de que una acción concreta logre evitar ese resultado. Los argumentos que afirman que el alto riesgo asociado a la IA por sí solo exime a la seguridad de la IA de la crítica del «asalto de Pascal» son lógicamente insuficientes, ya que un desastre de alta probabilidad puede seguir implicando una posibilidad infinitesimalmente pequeña de influencia individual. Sin embargo, la caracterización de la seguridad de la IA como un «asalto» se ve socavada por la probabilidad nada desdeñable de eficacia individual en el panorama sociotécnico actual. A diferencia de los escenarios hiperbólicos que implican riesgos astronómicos y probabilidades casi nulas, el campo del desarrollo de la IA es actualmente fluido y concentrado. La relativa proximidad de los individuos a los responsables de la toma de decisiones clave, incluidos los directivos de laboratorios y los responsables políticos, sugiere que la probabilidad de ejercer una influencia decisiva es sustancial. Dado que la posibilidad de que un solo actor marque la diferencia es estadísticamente significativa en lugar de ser de «una entre un billón», los esfuerzos para mitigar el riesgo asociado a la IA no cumplen los criterios de un «asalto de Pascal», sino que representan intervenciones de alto valor esperado basadas en cadenas causales plausibles. – Resumen generado por IA.

    4 min

Om

Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.