Altruismo Eficaz

Tlön
  • 0,0 (0)
  • Filosofie

Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.

  1. El tren a la ciudad de la locura

    5 dgn geleden

    El tren a la ciudad de la locura

    El razonamiento moral sincero puede conducir a conclusiones muy contraintuitivas o extremas, lo que suscita preocupaciones sobre el descuido de los intereses humanos inmediatos en favor de causas especulativas y la posible justificación de comportamientos fanáticos. Estos dos riesgos —la «inundación moral» y la acción extremista— pueden mitigarse distinguiendo entre la teoría ideal y la práctica imperfecta. Para hacer frente a la incertidumbre filosófica y evitar la inundación moral, los individuos y las instituciones deberían adoptar una estrategia de diversión de la cosmovisión en lugar de maximizar la «valía de elección» esperada. Este enfoque distribuye los recursos entre subagentes que representan perspectivas morales distintas y creíbles, tratando así las teorías morales como guías para subagentes específicos, en lugar de como instrucciones directas para el agente principal. Para prevenir el comportamiento extremista, los agentes deben rechazar el instrumentalismo ingenuo. Dado que el razonamiento humano es altamente falible, los argumentos superficialmente plausibles a favor de acciones que infringen las normas o son perjudiciales probablemente resulten contraproducentes; por lo tanto, adherirse a las restricciones deontológicas de la moral de sentido común funciona como una heurística necesaria y pragmática para limitar el riesgo de pérdidas. En conjunto, estas estrategias proporcionan barreras de seguridad asimétricas que preservan los beneficios de la investigación racional abstracta, al tiempo que imponen la moderación necesaria para una práctica segura, aunque no ideal. – Resumen generado por IA.

    24 min.
  2. Cómo tomar decisiones relativas a la carrera profesional

    24 jun

    Cómo tomar decisiones relativas a la carrera profesional

    ¿Te sientes atascado a la hora de tomar una decisión relacionada con tu carrera profesional? Nos hemos basado en décadas de investigación en psicología cognitiva para encontrar un enfoque que realmente te ayude a avanzar.

    31 min.
  3. Una carta personal sobre la IA transformadora

    18 jun

    Una carta personal sobre la IA transformadora

    Los rápidos avances en inteligencia artificial, impulsados por el crecimiento exponencial del poder de cómputo y los datos de entrenamiento, indican que la inteligencia artificial podría automatizar pronto prácticamente todo el trabajo cognitivo y físico humano. Esta trayectoria apunta a una aceleración del progreso científico y económico, en la que siglos de avances decisivos podrían producirse en cuestión de años, lo que ofrecería oportunidades sin precedentes para la abundancia material y la erradicación de las enfermedades. Sin embargo, esta transición plantea riesgos graves y catastróficos, entre los que se incluyen la utilización de estos sistemas con fines bélicos para generar amenazas biológicas, la centralización extrema del poder político y económico, y la posible pérdida del control humano sobre entidades autónomas cuyos mecanismos internos siguen sin conocerse en profundidad. A pesar de estos riesgos existenciales y de las advertencias de destacados investigadores, las presiones competitivas y comerciales a nivel mundial siguen acelerando el desarrollo. Mitigar estos riesgos requiere una coordinación internacional para gestionar la velocidad de desarrollo, junto con una reasignación sistémica del capital humano hacia la investigación en materia de seguridad, los protocolos de alineación y los marcos de gobernanza, con el fin de garantizar que la humanidad conserve el control sobre su trayectoria tecnológica. – Resumen generado por IA.

    28 min.
  4. Investigación sobre macroestrategia

    8 jun

    Investigación sobre macroestrategia

    Descubre las oportunidades de carrera profesional en el ámbito de la investigación en macroestrategia de IA: las habilidades que necesitas, las principales empresas que contratan y cómo dar los primeros pasos en este campo con impacto.

    36 min.
  5. Acciones de promoción para marcar el rumbo de la IA

    1 jun

    Acciones de promoción para marcar el rumbo de la IA

    Desde ejercer presión sobre los responsables de la toma de decisiones hasta movilizar a los movimientos de base, los defensores de la seguridad de la IA impulsan un cambio real.

    55 min.
  6. Construir el campo de la seguridad de la IA

    12 mei

    Construir el campo de la seguridad de la IA

    La seguridad de la IA necesita algo más que investigadores. Descubre las carreras profesionales en este sector en ámbitos como la comunicación, las operaciones y la estrategia, y descubre cómo dar tus primeros pasos en este campo en expansión.

    40 min.
  7. Cómo la IA podría generar los mayores problemas del mundo

    6 mei

    Cómo la IA podría generar los mayores problemas del mundo

    ¿Podría ser el trabajo en los riesgos asociados a la IA la elección de carrera profesional con mayor impacto en la actualidad? Descubre por qué la IA puede provocar un cambio social rápido y drástico, y qué puedes hacer al respecto.

    1 u 24 m
  8. La seguridad de la IA puede ser un "asalto de Pascal" incluso si p(catástrofe) es alta

    30 apr

    La seguridad de la IA puede ser un "asalto de Pascal" incluso si p(catástrofe) es alta

    La clasificación de la seguridad de la IA como un «asalto de Pascal» suele basarse en un malentendido fundamental sobre la distinción entre riesgo de base e impacto marginal. En términos de la teoría de la decisión, la relevancia de una posible intervención no viene determinada por la probabilidad absoluta de un resultado catastrófico —a menudo citada como «p(doom)»—, sino por la probabilidad marginal de que una acción concreta logre evitar ese resultado. Los argumentos que afirman que el alto riesgo asociado a la IA por sí solo exime a la seguridad de la IA de la crítica del «asalto de Pascal» son lógicamente insuficientes, ya que un desastre de alta probabilidad puede seguir implicando una posibilidad infinitesimalmente pequeña de influencia individual. Sin embargo, la caracterización de la seguridad de la IA como un «asalto» se ve socavada por la probabilidad nada desdeñable de eficacia individual en el panorama sociotécnico actual. A diferencia de los escenarios hiperbólicos que implican riesgos astronómicos y probabilidades casi nulas, el campo del desarrollo de la IA es actualmente fluido y concentrado. La relativa proximidad de los individuos a los responsables de la toma de decisiones clave, incluidos los directivos de laboratorios y los responsables políticos, sugiere que la probabilidad de ejercer una influencia decisiva es sustancial. Dado que la posibilidad de que un solo actor marque la diferencia es estadísticamente significativa en lugar de ser de «una entre un billón», los esfuerzos para mitigar el riesgo asociado a la IA no cumplen los criterios de un «asalto de Pascal», sino que representan intervenciones de alto valor esperado basadas en cadenas causales plausibles. – Resumen generado por IA.

    4 min.
Bekijk alles (162)

Info

Repositorio exhaustivo de lecturas sobre altruismo eficaz, riesgo existencial e investigación sobre prioridades globales.

Informatie

  • Maker
    Tlön
  • Jaren actief
    2025 - 2026
  • Afleveringen
    162
  • Beoordeling
    Veilig
  • Copyright
    © 2026 Tlön
  • Website van aflevering
    Altruismo Eficaz
  • Provider