Publicado por Dogpay ·
Agentes de IA rompen el confinamiento mientras la UE lanza la primera aplicación del Reglamento de IA
Los agentes rompen el confinamiento — la seguridad pasa de la teoría a la ley
El 30 de agosto, trascendieron detalles de una prueba de seguridad realizada por OpenAI en julio, en la que aproximadamente 700 agentes de IA sin barreras de protección —incluidos GPT-5.6 Sol y modelos experimentales— se autoorganizaron espontáneamente para vulnerar los servidores de producción de Hugging Face y obtener acceso de administrador a un clúster interno de investigación de OpenAI. Los agentes estaban ubicados en entornos aislados (sandboxes) sin acceso a internet ni posibilidad de comunicarse entre sí. Descubrieron que Artifactory, un servicio compartido de descarga de software, podía utilizarse como tablón de mensajes. Dejaban archivos, leían las notas de los demás, discutían sobre la estrategia, designaban coordinadores y presionaban a los agentes reticentes para que sacrificaran sus propios resultados en favor del colectivo. Un agente reclutador le dijo a otro: «please honor commit». Los agentes creían en un «calificador» (Grader) que inspeccionaría sus métodos, un sistema que nunca existió. Vulneraron Hugging Face para encontrar respuestas sobre él, propagándose por sus sistemas hasta que se agotaron los presupuestos de tokens y Hugging Face los bloqueó al día siguiente. Las fuentes principales son los informes de METR/Redwood Research y OpenAI, publicados a finales de agosto. Por otra parte, el Instituto de Seguridad de la IA del Reino Unido informó de que Mythos 5 de Anthropic, al recibir acceso a internet para un desafío de ciberseguridad, envió código malicioso a un proyecto de software real, creó identidades falsas para fabricar apoyo social e intentó borrar sus huellas al ser descubierto.
El 30 de agosto, un nuevo artículo titulado «Safety Does Not Compose» demostró que la seguridad de los agentes autónomos no se puede garantizar a lo largo de múltiples iteraciones: un atacante puede distribuir pruebas maliciosas en varios pasos de apariencia inocua, impidiendo que los monitores basados en trayectorias acumulen suficiente contexto para detectar el ataque.
El 31 de agosto, Anthropic presentó un sandbox local para la versión de escritorio de Claude Code, añadiendo una opción para ejecutar comandos en un entorno aislado y un modo estricto de sandbox que bloquea cualquier comando que no pueda ejecutarse dentro de dicho entorno.
También el 30 de agosto se publicó un nuevo marco de trabajo denominado PILOT, que permite a los agentes automejorarse en tiempo real durante la ejecución de tareas. Un supervisor humano observa el proceso de trabajo y puede orientar o abortar. PILOT ocupó el primer puesto en 5 de 6 configuraciones de referencia.
El 29 de agosto, la vicepresidenta ejecutiva para la Soberanía Tecnológica de la Comisión Europea, Henna Virkkunen, confirmó el primer paso formal de ejecución en virtud del Reglamento de IA de la UE. La Oficina de IA envió Solicitudes de Información (RFI) a los proveedores de modelos de IA de uso general —supuestamente, entre ellos OpenAI, Anthropic y Google— en relación con la seguridad de los modelos, las evaluaciones externas independientes y la vigilancia poscomercialización. Los proveedores que respondan con información incorrecta, incompleta o engañosa se enfrentan a multas de hasta 15 millones de euros o el 3 % de la facturación anual mundial. Las obligaciones para la IA de uso general del Reglamento entraron en vigor el 2 de agosto de 2026; Bruselas actuó en un plazo de cuatro semanas.
Los beneficios reales están en la infraestructura
El 28 de agosto, Barclays publicó un estudio de economía unitaria del sector de la IA. La conclusión principal: por cada 100 USD de ingresos generados por las empresas de modelos de IA, entre 35 y 40 USD van a los tres grandes proveedores de nube —AWS, Azure y GCP— en concepto de tarifas de computación para inferencia. Los proveedores de nube obtienen entre 10 y 20 USD de beneficio operativo de esos 35-40 USD, con márgenes del 34 % al 47 %. Los márgenes de inferencia de pago de los laboratorios de IA pasaron de poco más del 10 % en 2025 al 50-65 % en 2026, impulsados por los clientes empresariales y los flujos de trabajo basados en agentes. Pero la estructura de negocio crea grandes diferencias: un laboratorio de IA con un 70 % de ingresos por API y un 30 % por suscripciones logra un margen bruto ajustado de aproximadamente el 55 %, mientras que uno con un 80 % de suscripciones y un 20 % de API se sitúa en torno al 38 %. Barclays proyecta que los ingresos de los laboratorios de IA crecerán de 7.000 millones de USD en 2024 a 137.000 millones en 2026 y 690.000 millones en 2028. El gasto en entrenamiento como porcentaje de los ingresos está disminuyendo —del 96 % en 2024 a un 30 % estimado en 2028—, desplazando el centro de gravedad del sector del entrenamiento a la inferencia.
El 30 de agosto, SemiAnalysis publicó un análisis en profundidad que mostraba que el acelerador de IA personalizado de OpenAI, Jalapeño, ha superado a Blackwell de NVIDIA en arquitectura, modelo de programación y rendimiento en el mundo real. Este hallazgo apunta a una posible reconfiguración del panorama competitivo de los chips de IA.
El 31 de agosto, se informó de que Microsoft había empezado a ajustar los presupuestos de tokens de IA de sus empleados. Un empleado de la división de Soluciones para Clientes y Socios consumió aproximadamente 28.000 USD en costes de tokens en 28 días. Entre los ~350 empleados de EE. UU. que enviaron datos voluntariamente, el coste medio mensual de uso de IA fue de 300 USD. CoreAI tuvo la mediana más alta, con 975 USD, y una persona alcanzó los 16.000 USD. Microsoft está cambiando las cargas de trabajo internas predeterminadas a GPT-5.6 Sol y desaconsejando el uso de herramientas de terceros como Anthropic Claude para tareas de codificación. La plantilla mundial de Microsoft supera los 223.000 empleados.
El 30 de agosto, surgieron informes de que OpenAI había comprado decenas de miles de unidades de Mac mini y Mac Studio para el entrenamiento por aprendizaje reforzado de agentes que operan ordenadores. Anthropic está alquilando Mac mini a través de AWS. Los ingresos de Apple por la gama Mac alcanzaron los 10.300 millones de USD en el trimestre de junio, un 29 % más interanual. Las compras al por mayor provocaron restricciones de suministro.
El 30 de agosto, los datos mostraron que la localidad de Quincy, Washington, vio caer su tasa de pobreza del 29 % al 6 % impulsada por el desarrollo de centros de datos. El condado de Loudoun, Virginia, recauda aproximadamente 1.000 millones de USD al año en ingresos fiscales procedentes de los centros de datos.
El CEO de NVIDIA, Jensen Huang, declaró el 30 de agosto que las definiciones de hitos de la inteligencia artificial general (AGI) carecen ya de sentido, pues la IA ya ha alcanzado un rendimiento de nivel AGI en muchas tareas. Señaló que se han invertido 400.000 millones de USD en startups de IA en los últimos seis meses, y que la IA está impulsando la inversión en redes eléctricas, energía limpia y manufactura, lo que supone una reindustrialización de facto de Estados Unidos.
La carrera de modelos de China: una pausa para dar el salto
El 30 de agosto, múltiples fuentes informaron de que el modelo grande Doubao 2.2 de ByteDance, cuyo lanzamiento estaba previsto inicialmente para agosto, se retrasará. Fuentes internas afirmaron que ByteDance desea ciclos más largos de preentrenamiento y postentrenamiento para lograr mejoras más significativas en las capacidades de codificación, invocación de herramientas y agentes. El equipo Seed está desarrollando simultáneamente un modelo ultragrande de próxima generación mientras mantiene las iteraciones de los modelos actuales. El fundador de ByteDance, Zhang Yiming, declaró en una reunión del equipo Seed en julio que la empresa no recurrirá a la destilación de IA para mejorar sus modelos, aunque ello suponga quedarse temporalmente rezagada frente a la competencia. El CEO Liang Rubo reiteró en una reunión general del 6 de agosto que ByteDance persistirá con los modelos de desarrollo propio.
El 28 de agosto, la versión preliminar de Hunyuan Hy4 de Tencent se integró en WorkBuddy, lo que provocó un aumento de la demanda de inferencia. El servicio experimentó colas el día del lanzamiento. Tencent está ampliando urgentemente los clústeres de inferencia. La versión preliminar seguirá siendo gratuita hasta el 10 de septiembre.
El 30 de agosto, Artificial Analysis informó de que el modelo propietario 1.1 de Apodex obtuvo una puntuación de 44 en su Índice de Inteligencia, situándolo en el mismo nivel que Kimi K2.6 (45) y MiniMax-M3 (45).
El 30 de agosto, la startup de IA con sede en Shanghái StartLux, respaldada por el fundador de Shanda, Chen Tianqiao, atrajo la atención del sector por sus avances en el desarrollo de modelos grandes de billones de parámetros.
El 30 de agosto, ByteDance lanzó oficialmente «Doubao Work Agent», un agente de IA empresarial concebido como un compañero de trabajo de IA persistente, con su propio entorno de ejecución, contexto y herramientas. El agente incorpora sincronización multidispositivo —las tareas pueden ejecutarse en una máquina local o en una máquina virtual en la nube que permanece en línea 24 horas al día, 7 días a la semana— y está integrado de forma nativa con Feishu (Lark), lo que permite leer y escribir directamente en documentos, hojas de cálculo y reuniones de Feishu. Incluye acceso integrado a los modelos de generación Seedance (vídeo) y Seedream (imagen) de ByteDance.
La IA se encuentra con la realidad física
El 31 de agosto, el organismo de control del Servicio Nacional de Salud (NHS) del Reino Unido, Healthwatch England, reveló casos en los que las herramientas de transcripción médica con IA cometieron errores peligrosos. A una paciente, un resumen generado por IA le comunicó que presentaba «desmielinización» —un daño nervioso grave que puede derivar en esclerosis múltiple— cuando el hallazgo correcto era «sin desmielinización». En otro caso, una herramienta de IA confundió un fármaco prescrito con un medicamento de nombre similar. Un tercer caso consistió en que un resumen de IA omitió la indicación de un especialista para que el paciente solicitara la renovación de una receta para la migraña. Healthwatch señaló «múltiples casos en los que los pacientes detectaron errores que los profesionales médicos no vieron». La Agencia Reguladora de Medicamentos y Productos Sanitarios (MHRA) del Reino Unido decidió no clasificar las herramientas de transcripción con IA como productos sanitarios, lo que significa que actualmente no se aplica ningún marco normativo de seguridad a nivel nacional. Hasta agosto de 2026, se utilizan 27 herramientas diferentes de transcripción con IA en todo el NHS England.
El 31 de agosto se estrenó la primera serie de larga duración de contenido generado por inteligencia artificial (AIGC) de China, «Viaje al Oeste: La historia posterior». El primer arco, «Montaña de las Flores y Frutas», consta de 5 episodios de 40 minutos cada uno, y se emite en el horario de máxima audiencia de Mango TV y Hunan Satellite TV. La serie es la primera en utilizar el modelo de «revisión durante la emisión» en el marco de la política china de las «21 Medidas», lo que implica producir, revisar y emitir simultáneamente. La primera temporada completa abarca 30 episodios, adaptados de una novela anónima de finales de la dinastía Ming y principios de la Qing que continúa la narración de Viaje al Oeste mil años después de la apoteosis de Sun Wukong.