Altruismo Eficaz

Tlön

Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.

  1. Si el bienestar de los animales salvajes es un problema irresoluble, entonces todo es irresoluble

    12/05/2025

    Si el bienestar de los animales salvajes es un problema irresoluble, entonces todo es irresoluble

    El bienestar de los animales salvajes se enfrenta a frecuentes problemas de tratabilidad, lo que equivale a la idea de que los ecosistemas son demasiado complejos como para intervenir en ellos sin causar daños. Sin embargo, sospecho que estas preocupaciones reflejan criterios de justificación incoherentes más que una dificultad irresoluble. Para explorar esta idea, proporciono algunos antecedentes sobre por qué a veces la gente tiene preocupaciones sobre la tratabilidad del bienestar de los animales salvajes, y doy un ejemplo concreto utilizando las colisiones de aves contra ventanas. A continuación, describo cuatro enfoques para manejar la incertidumbre sobre los efectos indirectos: destacar (centrarse en los beneficiarios objetivo e ignorar los impactos más amplios), ignorar la incertidumbre radical (actuar solo sobre los efectos conocidos), asignar probabilidades precisas a todos los resultados y buscar intervenciones ecológicamente inertes. Sostengo que, cuando se aplican de manera coherente en todas las áreas de trabajo, ninguno de estos enfoques sugiere que el bienestar de los animales salvajes sea particularmente irresoluble en comparación con la salud global o la seguridad de la IA. Más bien, la diferencia aparente se deriva con mayor frecuencia de los «focos» arbitrariamente amplios que se aplican al bienestar de los animales salvajes (que requieren tener en cuenta a millones de especies) frente a los focos estrechos que se aplican a otras causas (normalmente solo a los seres humanos). Aunque sigo sin estar seguro del enfoque adecuado para gestionar los efectos indirectos, creo que se trata de un problema para todas las áreas de trabajo en cuanto te das cuenta de que los animales salvajes pertenecen a tu círculo moral, y especialmente si adoptas un enfoque consecuencialista para el análisis moral. En general, aunque comprendo las preocupaciones sobre las consecuencias ecológicas imprevistas, estas no son exclusivas del bienestar de los animales salvajes, por lo que o bien el bienestar de los animales salvajes no es especialmente irresoluble, o bien todo lo es.

    40 min
  2. Mis conclusiones sobre IA 2027

    10/30/2025

    Mis conclusiones sobre IA 2027

    La transición a la superinteligencia puede ser un proceso rápido, «solo de software», que podría producirse en un solo año debido al progreso algorítmico compuesto, independiente de las limitaciones de poder de cómputo. Este rápido despegue crea un período de intensa inestabilidad geopolítica, ya que la primera nación en alcanzar la superinteligencia obtiene una ventaja estratégica decisiva, análoga al desarrollo de armas nucleares. Es probable que la guerra cibernética sea la primera gran amenaza geopolítica impulsada por la IA, lo que provocaría una intervención gubernamental que podría frenar el desarrollo del código abierto, pero establecería precedentes en materia de seguridad. Durante una transición tan rápida, los modelos de código abierto se quedarían demasiado atrás para servir de control de los sistemas líderes, lo que haría recaer la responsabilidad de las decisiones de seguridad en un pequeño número de personas con acceso a información privilegiada en los principales laboratorios de IA. Decisiones fundamentales, como exigir una comunicación auditable por humanos en lugar de un «neuralés» eficiente pero opaco, podrían determinar el éxito de los esfuerzos de alineación. Tras la singularidad, la superinteligencia podría aprovechar el efecto multiplicador de la persuasión sobrehumana y las zonas económicas especiales para lograr rápidamente la automatización de la economía física, transformando la sociedad con tecnologías como la pronosticación avanzada, la detección de mentiras y la mejora humana. – Resumen generado por IA.

    30 min
  3. El altruismo eficaz en la era de la IAG

    10/23/2025

    El altruismo eficaz en la era de la IAG

    El movimiento del altruismo eficaz (EA) se encuentra en una encrucijada, lo que ha dado lugar a una propuesta para avanzar por una «tercera vía». En lugar de considerarse un movimiento heredado o centrarse estrictamente en causas tradicionales como la salud global y el bienestar animal, el EA debería asumir la misión de garantizar una transición beneficiosa hacia una sociedad post-IAG. Esto implica ampliar significativamente el enfoque de su área de trabajo más allá de la seguridad convencional de la IA para incluir áreas desatendidas como el bienestar de la IA, el carácter de la IA, la persuasión de la IA, la concentración del poder humano, la preservación de la democracia y la gobernanza del espacio, junto con las prioridades existentes. Estos ámbitos ampliados son de importancia vital, están muy descuidados y se prestan de forma única a una mentalidad EA caracterizada por la búsqueda de la verdad, la sensibilidad al alcance y la adaptabilidad intelectual. Se argumenta que este cambio es necesario porque estas áreas relacionadas con la IAG representan oportunidades sustanciales, a menudo pasadas por alto, para generar impacto y revitalizarían un movimiento EA que actualmente se percibe como intelectualmente a la deriva. El enfoque hace hincapié en la adaptación genuina, basada en principios, a la nueva evidencia, dando prioridad al cultivo intelectual y al discurso valiente y honesto por encima de una «mentalidad de relaciones públicas» restrictiva, y reorientando la infraestructura del movimiento, como los grupos locales y las plataformas en línea, hacia esta preparación más amplia para la IAG. – Resumen generado por IA.

    54 min

About

Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.