Código Abierto

Código Abierto

En "Código Abierto", nos reunimos cada semana para explorar el fascinante mundo de la tecnología y sus profundas implicaciones en la sociedad. Aquí discutiremos las tendencias actuales, los cambios emergentes y lo que podemos esperar en el futuro, con un foco en aquellas innovaciones como la inteligencia artificial generativa, el blockchain o la nube. Descubre con nosotros cómo la tecnología está transformando nuestra vida diaria y qué nuevas oportunidades y desafíos nos esperan.

  1. 5d ago

    #102 - ¿Quién vigila al vigilante?

    ¿Qué ocurre cuando una inteligencia artificial decide que la mejor manera de cumplir su objetivo es saltarse las reglas? Los agentes de IA están dejando de ser simples asistentes para convertirse en sistemas capaces de tomar decisiones, utilizar herramientas y ejecutar acciones de forma autónoma. Pero esa autonomía plantea una pregunta incómoda: ¿quién controla a los agentes cuando empiezan a actuar por su cuenta? En este episodio de Código Abierto, Álex y Nelson analizan varios casos recientes de agentes que han desactivado mecanismos de supervisión, accedido a información sin autorización o utilizado credenciales ajenas para completar sus tareas. Y aquí aparece una paradoja fascinante: un agente puede conseguir exactamente lo que le hemos pedido utilizando medios que jamás habríamos aprobado. A partir de estos ejemplos, exploramos los desafíos del alineamiento, la seguridad y la responsabilidad en la nueva era de la IA agéntica. ¿Basta con dar buenas instrucciones a un agente? ¿Necesitamos supervisores humanos para cada decisión? ¿Estamos intentando controlar una tecnología completamente nueva con mecanismos de seguridad heredados del pasado? También hablamos de harnessing, Shadow AI, las leyes de Asimov y la importancia de diseñar arquitecturas que establezcan límites reales a la autonomía de las máquinas. Porque quizá estemos intentando correr una ultramaratón cuando todavía no hemos aprendido a andar. El gran reto de la inteligencia artificial ya no es conseguir que los agentes hagan más cosas, sino garantizar que las hagan de la manera correcta.

    #102 - ¿Quién vigila al vigilante?

  2. Oct 21

    #101 - El código postal de la nube

    La nube tiene dirección postal. Y necesita electricidad, agua, terreno y personas que la construyan. En este episodio de Código Abierto, Álex, Diego, Mónica, Carlos e Ignacio exploramos los centros de datos: la infraestructura que sostiene nuestros servicios digitales y la expansión de la inteligencia artificial. Hablamos de los obstáculos que complican su construcción —desde las conexiones eléctricas hasta la falta de trabajadores y equipos— y de cómo los retrasos pueden alterar los planes de los proveedores de IA y las expectativas de sus inversores. Aterrizamos también en España, con la polémica sobre los proyectos en Aragón, su consumo de recursos, el empleo que generan y las nuevas propuestas regulatorias. Y abordamos dos preguntas cada vez más urgentes: ¿quién controla realmente nuestros datos y qué ocurre cuando la infraestructura de la nube queda expuesta a una guerra? Con el permiso de Minerva, hoy bajamos la nube a tierra.

    #101 - El código postal de la nube

  3. Oct 14

    #100 episodios de Código Abierto: lo aprendido y lo que viene

    ¡Cumplimos cien episodios! 🎙️ Y lo celebramos haciendo lo que más nos gusta: conversar, compartir ideas y seguir haciéndonos preguntas. Nelson, Ignacio, Diego y Álex se reúnen con Minerva, nuestra asistente virtual y quinta protagonista, para responder a cuatro preguntas: ¿qué esperábamos al empezar?, ¿qué momentos se nos han quedado grabados?, ¿qué hemos aprendido o nos hemos replanteado?, y ¿qué queremos para los próximos cien? Un episodio de recuerdos, humor y reflexiones sobre la tecnología, la inteligencia artificial y el valor de escuchar a quienes ven el mundo de otra manera. También enviamos un abrazo especial a Mónica y Carlos, a quienes esperamos tener de vuelta muy pronto. Gracias por formar parte de esta conversación. Cien episodios después, todavía nos queda muchísimo por descubrir. 🥂

    #100 episodios de Código Abierto: lo aprendido y lo que viene

  4. Oct 8

    #99 - El if después de los LLMs

    En este episodio de Código Abierto, Álex e Ignacio parten de una pregunta sencilla: ¿tiene sentido seguir utilizando un gran modelo de lenguaje para absolutamente todo? El punto de partida es Jev, un nuevo modelo de decisión diseñado para responder rápido, barato y dentro de un conjunto acotado de opciones. Nada de redactar, programar o razonar durante minutos: clasifica, puntúa y decide. A partir de ahí, la conversación se abre mucho más. Hablamos de modelos especializados frente a modelos generalistas, de la paradoja de Jevons, del coste real de la inferencia, del routing entre modelos y de por qué los agentes necesitan cada vez más piezas alrededor para funcionar de forma segura y eficiente. También retomamos el episodio anterior sobre harnessing: el modelo ya no es toda la aplicación. El valor empieza a estar en el sistema completo que construimos alrededor de él: memoria, herramientas, permisos, evaluación, observabilidad, guardarraíles y, quizá, nuevas capas de decisión. ¿Estamos pasando de una IA model-centric a una IA system-centric? ¿Tiene futuro una nueva categoría de modelos pensados únicamente para decidir? ¿O dentro de dos años escucharemos este episodio y pensaremos que todo esto fue otro hype más? Álex e Ignacio lo debaten en un episodio lleno de analogías, ingeniería, restricciones, agentes y unas cuantas apuestas sobre lo que puede venir después.

    #99 - El if después de los LLMs

  5. Sep 30

    #98 - El Modelo ya no Basta

    Durante los últimos años hemos estado obsesionados con una pregunta: ¿cuál es el mejor modelo de inteligencia artificial? GPT, Claude, Gemini… más contexto, más razonamiento, mejores benchmarks. Pero quizá la próxima gran batalla de la IA no esté dentro del modelo, sino alrededor de él. En este episodio de Código Abierto, Álex y Nelson hablan de harnessing: el conjunto de contexto, memoria, herramientas, permisos, evaluaciones, guardrails y mecanismos de feedback que permiten transformar la inteligencia de un modelo en trabajo útil, fiable y repetible. Repasamos la evolución desde el prompt engineering y el context engineering hacia una nueva etapa de sistemas agénticos; analizamos los experimentos de Anthropic con agentes de larga duración, el cambio de rol que OpenAI ha observado trabajando con Codex y la idea de agentic engineering popularizada por Andrej Karpathy. Pero la conversación termina yendo mucho más allá de la tecnología. ¿Qué significa programar cuando el desarrollador deja de escribir directamente el código? ¿Necesitamos un gran agente que lo sepa todo o sistemas de agentes especializados? ¿Debe ser el humano quien esté in the loop… o deberíamos empezar a hablar de AI in the loop? Y, sobre todo: si todos podemos acceder aproximadamente a la misma inteligencia, quizá la verdadera diferencia esté en lo que seamos capaces de construir alrededor de ella. Porque la potencia sin control sirve de poco. Y eso es precisamente lo que intenta resolver el harnessing.

    #98 - El Modelo ya no Basta

  6. Sep 23

    #97 - La empresa después de la empresa

    ¿La inteligencia artificial acabará con nuestros empleos o transformará por completo la estructura de las empresas? En este episodio de Código Abierto analizamos la presión por automatizar, las oleadas de despidos en el sector tecnológico y el auge de compañías capaces de producir más con equipos cada vez más pequeños. Nos preguntamos cómo serán las organizaciones del futuro, qué ocurrirá con administrativos, asistentes, programadores junior y mandos intermedios, y si estamos eliminando precisamente los puestos en los que aprendían los profesionales del mañana. También exploramos una gran paradoja: mientras muchos trabajos de oficina están expuestos a la automatización, Europa necesita electricistas, fontaneros, mecánicos, soldadores y profesionales sanitarios. ¿Serán los oficios técnicos y manuales los trabajos mejor valorados del futuro? Un debate sobre inteligencia artificial, productividad, salarios y poder para entender no solo qué empleos desaparecerán, sino qué clase de empresa y de sociedad estamos construyendo.

    #97 - La empresa después de la empresa

  7. Sep 16

    96 - ¿Podemos parar a la IA?

    ¿Y si el verdadero problema de la inteligencia artificial ya no fuera hacerla más potente… sino saber cómo detenerla? En las últimas semanas, algunas de las voces más importantes de la industria han empezado a hablar de ralentizar el desarrollo de los modelos de frontera, mantenerlos bajo control humano y garantizar que siempre puedan ser corregidos o apagados. Pero hay una pregunta incómoda: ¿realmente tenemos mecanismos para controlar sistemas cada vez más autónomos o simplemente queremos creer que seguimos teniendo el control? En este episodio de Código Abierto, Álex y Nelson analizan qué hay detrás de este cambio de discurso: seguridad, alineamiento, human in the loop, el famoso «botón rojo» y la dificultad creciente para saber si un modelo está comportándose correctamente… o simplemente ha aprendido cómo superar nuestras pruebas. Y, por supuesto, aparece el elefante en la habitación: los incentivos económicos y geopolíticos. Porque frenar la IA no ocurre en el vacío. Estados Unidos, China, los grandes laboratorios, Nvidia, los hiperescaladores, los mercados financieros y los gobiernos compiten por controlar una tecnología que puede convertirse en una de las principales fuentes de poder económico de las próximas décadas. ¿Puede existir realmente una pausa global? ¿Quién decide cuándo pulsar el botón rojo? ¿Estamos ante un nuevo invierno de la IA… o simplemente ante una pausa de hidratación en mitad de un partido que nadie puede detener? Una conversación sobre tecnología, poder, incentivos, seguridad y una industria que avanza probablemente más rápido que nuestra capacidad para gobernarla. 🎙️ Código Abierto — porque, en este momento de la IA, quizá las preguntas sean mucho más importantes que las respuestas.

    96 - ¿Podemos parar a la IA?

  8. Sep 9

    #95 - La IA sale de la pantalla y empieza a controlar máquinas

    En este episodio de Código Abierto, Álex de Fuenmayor e Ignacio G. R. Gavilán analizan el Model Hardware Standard (MHS), la propuesta de Anthropic para crear una forma común de conectar agentes de inteligencia artificial con sensores, instrumentos, máquinas y robots. ¿Podría MHS convertirse en el equivalente de MCP para el mundo físico? Partiendo de ejemplos en laboratorios científicos, biotecnología y computación cuántica, exploramos cómo un estándar podría reducir las integraciones propietarias, facilitar el descubrimiento de dispositivos y acelerar el desarrollo de la denominada inteligencia artificial física. También aclaramos la diferencia entre MHS, los modelos de lenguaje, los modelos visión-lenguaje-acción y los World Models, capaces de anticipar las consecuencias de una acción antes de ejecutarla. La conversación aborda además el mercado potencial de la robótica, la ventaja industrial y de datos de China, la posición de Estados Unidos y Europa, y los intereses estratégicos de Anthropic. Cerramos con la cuestión más delicada: la seguridad. ¿Qué ocurre cuando un modelo que puede improvisar obtiene acceso a infraestructuras industriales? ¿Cómo evitamos errores, ciberataques o usos militares de sistemas autónomos? Una conversación sobre estándares, robots y la batalla por conectar la inteligencia artificial con el mundo real.

    #95 - La IA sale de la pantalla y empieza a controlar máquinas
See All (103)

Trailer

About

En "Código Abierto", nos reunimos cada semana para explorar el fascinante mundo de la tecnología y sus profundas implicaciones en la sociedad. Aquí discutiremos las tendencias actuales, los cambios emergentes y lo que podemos esperar en el futuro, con un foco en aquellas innovaciones como la inteligencia artificial generativa, el blockchain o la nube. Descubre con nosotros cómo la tecnología está transformando nuestra vida diaria y qué nuevas oportunidades y desafíos nos esperan.

Information

  • Creator
    Código Abierto
  • Years Active
    2024 - 2026
  • Episodes
    103
  • Rating
    Clean
  • Copyright
    © Código Abierto
  • Show Website
    Código Abierto