El CEO de Google DeepMind, Demis Hassabis, propuso la creación de un Frontier AI Standards Body, similar al modelo de autorregulación del sector financiero en Estados Unidos
Ciudad, País.- OpenAI, Anthropic y Google DeepMind han estado en conversaciones desde julio de 2026 para crear un organismo que desarrolle estándares de seguridad en inteligencia artificial, según un informe de The Information del 13 de septiembre.
Este esfuerzo se ha intensificado en medio de una serie de advertencias públicas sobre los riesgos de la IA, lo que ha llevado a las empresas a buscar una solución antes de la posible regulación por parte del gobierno estadounidense.
El CEO de Google DeepMind, Demis Hassabis, propuso la creación de un Frontier AI Standards Body, similar al modelo de autorregulación del sector financiero en Estados Unidos, conocido como FINRA.
Este organismo se encargaría de establecer protocolos de seguridad y coordinar la supervisión con el gobierno. Las discusiones entre las tres compañías han permanecido en privado hasta ahora.
Entre los puntos principales de negociación se encuentra la implementación de protocolos para evaluar modelos de IA antes de su lanzamiento, así como auditorías externas y revisiones de seguridad.
La idea es que los laboratorios acuerden qué pruebas deben pasar sus modelos antes de ser publicados y que dichas evaluaciones sean realizadas por entidades independientes.
El ciclo de incidentes relacionados con agentes de IA ha aumentado la urgencia de estas conversaciones. Investigadores como Hubinger han señalado el riesgo de extinción que representa la IA, lo que ha llevado a los legisladores a exigir explicaciones a las empresas sobre los incidentes ocurridos.
Las posturas de OpenAI, Anthropic y Google no son del todo coincidentes. Anthropic prefiere un modelo de colaboración con el gobierno, sugiriendo evaluaciones realizadas por agencias federales.
Por su parte, OpenAI, bajo la dirección de Sam Altman, aboga por un organismo de auditoría, pero considera que los laboratorios deben desarrollarlo sin apoyo gubernamental inmediato. Google DeepMind, al proponer el modelo FINRA, busca una estructura de autorregulación que pueda anticipar la regulación oficial.
Un aspecto crítico que surge en este contexto es el riesgo antimonopolio.
La preocupación de startups y laboratorios más pequeños es que un organismo de estándares creado por estas tres grandes empresas podría funcionar como una barrera de entrada, limitando la competencia.
La Casa Blanca había elaborado un borrador de decreto sobre un nuevo organismo de estándares de IA, pero este enfrentó problemas internos.
La postura de Trump hacia la no-regulación ha llevado a que este organismo industrial sea la opción más viable antes de 2027.
Con elecciones inminentes, la industria tiene la oportunidad de presentar una solución privada, aunque queda por ver si el Congreso podrá establecer regulaciones más estrictas.
El informe de The Information destaca que las conversaciones han sido sistemáticas y se han desarrollado en paralelo a las recientes alarmas públicas sobre la IA, lo que sugiere una planificación estratégica por parte de las empresas involucradas.
La publicación de un marco de autorregulación antes de la legislación gubernamental podría darles a estas empresas la posibilidad de argumentar que su propio estándar es suficiente.
Si logran establecer un marco de autorregulación, podrían influir en los criterios de seguridad de la IA en los próximos años, mientras que una legislación del Congreso definiría esos estándares desde afuera.
Esta carrera contra el tiempo, en el contexto de elecciones, podría determinar quién tiene el control sobre la regulación de la inteligencia artificial en el futuro.
Fuente: wwwhatsnew.com
Comentarios de Facebook
Descubre más desde Noticias Breves
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Un comentario sobre “OpenAI, Anthropic y Google negocian en secreto un organismo de seguridad de IA antes de la regulación gubernamental”
Los comentarios están cerrados.