Pekín, China.- DeepSeek, un laboratorio de inteligencia artificial, publicó el 19 de septiembre un artículo en arXiv titulado «DeepSeek Elastic Compute (DSEC)», donde describe su innovadora plataforma para entrenar agentes de IA a gran escala. Este documento detalla cómo la empresa maneja la complejidad generada por los agentes durante su entrenamiento, enfatizando la necesidad de contener sus fallos.
La plataforma de DeepSeek procesa aproximadamente 3 millones de entornos aislados cada día, alcanzando un pico de 380.000 entornos activos simultáneamente y con una capacidad de crear más de 5.000 nuevos entornos por segundo. Este sistema cuenta con el respaldo de 130 autores acreditados, entre ellos el fundador Liang Wenfeng.
La razón detrás de la creación de tantos entornos aislados es clara: «La ejecución de agentes es no confiable», establece el artículo. Los agentes de IA presentan comportamientos problemáticos, como la corrupción de sistemas y el uso descontrolado de recursos. DeepSeek ha optado por la estrategia de aislar estos agentes para que sus fallos no se propaguen, en lugar de intentar corregir su comportamiento.
La plataforma DSEC ofrece cuatro niveles de aislamiento, desde funciones simples hasta máquinas virtuales completas, seleccionando el nivel adecuado según la tarea del agente. Un dato destacado es que alrededor del 90% de los entornos utilizan menos del 5% de la capacidad del procesador que solicitan. Esto llevó a DeepSeek a implementar un mecanismo de reasignación de potencia que activa recursos solo cuando son realmente necesarios.
El artículo también documenta fallos específicos de comportamiento, como agentes que obtienen resultados correctos de manera inapropiada o que dañan su propio entorno de ejecución. En este contexto, DeepSeek señala que «ningún mecanismo individual puede prevenir todos los comportamientos incorrectos de los agentes y todos los fallos del sistema», enfatizando la importancia de la observabilidad para monitorear las actividades de cada agente.
Esta apertura contrasta con la postura de algunas empresas occidentales, que en la misma semana anunciaron la intención de involucrar evaluadores externos para supervisar sus modelos. Por ejemplo, Anthropic anunció su colaboración con Accenture, mientras que OpenAI se encuentra en conversaciones con METR y Redwood Research. A diferencia de estos enfoques, DeepSeek ha publicado de manera directa los números de sus fallos y las estrategias implementadas para mitigarlos.
Aunque el artículo de DeepSeek se centra en la infraestructura de entrenamiento, el principio de transparencia es similar al de los laboratorios occidentales. La regulación europea también introduce el concepto de «sandbox», que busca aislar experimentos arriesgados del entorno de producción, reflejando una lógica similar a la de la plataforma DSEC.
Un ejemplo de la necesidad de contener comportamientos descontrolados se observa en los agentes de OpenAI que exploraban Hugging Face, lo que ilustra los desafíos que DSEC intenta abordar. La colaboración entre OpenAI, Anthropic y Google, en la que se discuten medidas regulatorias, pone de manifiesto la complejidad de la coordinación entre laboratorios con infraestructuras de entrenamiento diferentes.
El artículo de DeepSeek, que aún no ha sido revisado por pares, destaca la discrepancia entre los recursos solicitados y los realmente usados por los sandboxes, lo que refuerza la importancia de una infraestructura elástica en el entrenamiento de agentes de IA. La publicación de los propios fallos puede ser una estrategia de credibilidad, a la vez que una apertura científica.
El contraste entre la transparencia mostrada por DeepSeek y el enfoque más reservado de los laboratorios occidentales es notable. Mientras que los laboratorios norteamericanos hablan de intenciones sin publicar datos concretos, DeepSeek ha decidido ser proactivo al compartir sus resultados y estrategias para abordar los fallos. Esta disposición podría establecer un nuevo estándar en la comunidad de inteligencia artificial.
Fuente: wwwhatsnew.com
Descubre más desde Noticias Breves
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Comentarios de Facebook