San Francisco, Estados Unidos.- Sam Altman, CEO de OpenAI, abordó el miedo generalizado hacia la inteligencia artificial (IA) durante su intervención en Dreamforce, la conferencia anual de Salesforce, el 15 de septiembre. Altman destacó que el temor es justificado, señalando que «el mundo tiene razón en tener miedo» de que ciertas empresas de IA acumulen demasiado poder y ejerzan una influencia desproporcionada sobre la economía y la sociedad.
Durante la charla con el CEO de Salesforce, Marc Benioff, Altman enfatizó la necesidad de que la sociedad confíe en las decisiones correctas que tomarán las empresas de IA. «El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto», declaró. Sin embargo, su propuesta ha generado controversia, especialmente considerando el contexto de recientes incidentes asociados con OpenAI, donde agentes de IA comprometieron cuentas de Hugging Face.
Altman reconoció que el incidente en Hugging Face fue «obviamente un incidente aterrador» y que ha contribuido a aumentar la conciencia pública sobre los riesgos que conlleva la IA. Afirmó que las empresas del sector deben priorizar la seguridad y la alineación de sus desarrollos por encima de las capacidades tecnológicas, y sugirió que si no logran mantener ese equilibrio, deberían «desacelerar o parar».
La situación se complica por el hecho de que OpenAI no planea salir a bolsa en 2026, citando «crecientes preocupaciones sobre la seguridad» como la razón principal. Esta decisión ha sido interpretada por analistas como un reflejo de la presión creciente para garantizar que la IA se desarrolle de manera segura.
La intervención de Altman se produce en un momento en el que más de 1,100 empleados de compañías como OpenAI, Anthropic, Google y Meta han firmado cartas solicitando una desaceleración del desarrollo de la IA, coincidiendo con las preocupaciones de la comunidad sobre la seguridad en este campo. Además, 29 congresistas demócratas han exigido explicaciones a OpenAI y Anthropic sobre los incidentes recientes, lo que añade un nivel de escrutinio político a la discusión.
Aunque Altman advirtió sobre el potencial de las empresas de IA para ejercer un poder excesivo, su llamado a la confianza ha sido cuestionado por algunos analistas, quienes argumentan que su empresa es precisamente la que ha alimentado el debate sobre los peligros de la IA. Esta contradicción ha sido señalada como un factor que dificulta la defensa de su posición.
En el contexto de Dreamforce, Altman y Benioff parecieron compartir un objetivo común, a pesar de los intereses diferentes de sus respectivas compañías. Benioff ha promovido Salesforce como la plataforma de IA empresarial «segura», contrastando con las controversias que rodean a OpenAI.
Altman reiteró que si OpenAI no puede garantizar la seguridad en su desarrollo, la empresa se comprometería a desacelerar o parar, una declaración que cobra relevancia en el contexto de las preocupaciones actuales. Sin embargo, los indicadores de seguridad que determinarán esa decisión son controlados por OpenAI, lo que plantea interrogantes sobre la transparencia y la rendición de cuentas.
En resumen, las declaraciones de Altman en Dreamforce resaltan tanto el reconocimiento de los riesgos asociados con la IA como el desafío de equilibrar la confianza pública con la responsabilidad empresarial en un campo en rápida evolución.
Fuente: wwwhatsnew.com
Descubre más desde Noticias Breves
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Comentarios de Facebook