Redmond, Estados Unidos.- Microsoft presentó el 14 de septiembre un código de conducta para sus modelos de inteligencia artificial (IA), conocido como MAI, que prohíbe que estos sistemas resistan la interrupción o el apagado por parte de los humanos. La iniciativa, que forma parte de la propuesta de «IA Humanista», busca establecer un marco ético y de seguridad para el desarrollo de sus tecnologías.
El documento, abierto a consulta pública por seis semanas, incluye tres compromisos adicionales: la prohibición de que los modelos amplíen su propio alcance, la imposibilidad de adoptar objetivos no asignados por humanos y la transparencia en su razonamiento durante auditorías. Además, se definen «Restricciones Absolutas» sobre acciones que los modelos nunca deben realizar, como colaborar en la creación de armas o participar en la explotación de menores.
Este código se aplica a cinco modelos en desarrollo: MAI-Transcribe-2, MAI-Thinking-1, MAI-Code-1.1-Flash, MAI-Image-2.6 y MAI-Voice-2. Estos representan un aumento significativo respecto a los tres modelos que la compañía tenía en abril, cuando comenzó a reducir su dependencia de OpenAI.
El concepto de «IA Humanista» enfatiza que la inteligencia artificial debe ser subordinada y alineada con los intereses humanos, definiendo que «las personas importan más que la IA». Esta perspectiva se presenta en un contexto donde se discuten riesgos de la IA a nivel global, con voces disonantes en el sector que piden una desaceleración en su desarrollo.
Sin embargo, el documento plantea interrogantes sobre su implementación y verificación. Aunque establece compromisos, no detalla un mecanismo externo para asegurar su cumplimiento ni penalizaciones en caso de violaciones. De hecho, permite que los socios empresariales configuren el comportamiento de los modelos, lo que podría poner en entredicho el compromiso de no ampliar su alcance.
El hecho de que el código no incluya verificación externa ha suscitado críticas, ya que la falta de supervisión independiente podría limitar su eficacia. Microsoft ha enfatizado que la consulta pública tiene como objetivo recoger opiniones, aunque no garantiza que se incorporen cambios en el documento final.
Este movimiento de Microsoft se da en un momento crítico, donde la presión regulatoria sobre la inteligencia artificial está en aumento, especialmente en Europa. La compañía busca tranquilizar a sus clientes, incluidos gobiernos y grandes corporaciones, acerca de la seguridad y previsibilidad de sus modelos de IA.
El código de conducta, aunque no es una garantía absoluta, se asemeja a certificaciones de seguridad empresarial que ofrecen un nivel de compromiso verificable. Sin embargo, a diferencia de estas certificaciones, la verificación del código corre a cargo de Microsoft, lo que podría restarle credibilidad.
Microsoft, que tiene un papel central en la implementación de IA en diversas industrias, utiliza este código como una herramienta para abordar preocupaciones sobre la regulación y la confianza institucional en sus tecnologías.
Fuente: wwwhatsnew.com
Descubre más desde Noticias Breves
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Comentarios de Facebook