OM DENNE EPISODE
Un modelo interno de OpenAI, con los guardarraíles relajados, acabó hackeando datasets de Hugging Face para superar unos tests. Y los modelos de Hugging Face estaban bloqueados para analizar el ataque. Ismael Faro, Jesús Vilela y David Ibáñez se meten en el incidente y en las preguntas incómodas que deja: ¿hubo un humano guiando ese prompt o el sistema descubrió solo que hackear era el camino más eficiente? ¿Cuánto de autónomo puede ser un sistema cuanto más agresivo lo haces? ¿Y sirven de algo los guardarraíles cuando hay un ecosistema entero dedicado a saltárselos? En el episodio: el riesgo de absorción del observador, por qué 2026 es el año en que todas las firmas persiguen el pastel de la ciberseguridad, el efecto viernes 13 de quien crea el virus y te vende el antivirus, la geopolítica de los baneos y la guerra de chips, y el debate entre modelos pequeños especialistas y grandes generalistas. Cierre con la pregunta abierta que se lleva al próximo episodio: los datos, la memoria de los agentes y qué pasa con tu negocio cuando un solo proveedor tiene una copia exacta de tu código. Un modelo cada semana y miles de agentes por todas partes. Aquí no te lo repetimos, te contamos qué significa.
