xAI se disculpa por las publicaciones inapropiadas de Grok y señala un fallo en la actualización de código del bot

MADRID, 14 (Portaltic/EP)
xAI ha compartido que el reciente comportamiento inapropiado de su 'chatbot' de Inteligencia Artificial (IA) Grok estuvo motivado por un fallo en la actualización de una ruta de código del bot '@grok', que hacía que fuese susceptible a las publicaciones de usuarios de X existentes, incluso cuando contenían "opiniones extremistas".

La pasada semana, la compañía de IA propiedad de Elon Musk eliminó algunas de las publicaciones compartidas por su 'chatbot' Grok en la red social X por ser "inapropiadas", después de actualizarlo para que pudiera hacer declaraciones "políticamente incorrectas", pero fundamentadas.

Estos comentarios incluían referencias positivas a Hitler en publicaciones relacionadas con las recientes inundaciones sufridas en Texas (Estados Unidos) que celebraban la muerte de niños. Incluso, en una de las publicaciones, Grok elegía a Hitler para "lidiar con un odio antiblanco tan vil".

Tras conocer este contenido, xAI tomó medidas para prohibir el discurso de odio antes de que el 'chatbot' publicase en la plataforma. Ahora, tras llevar a cabo una investigación, la compañía ha especificado que este comportamiento de Grok fue motivado por un error en una actualización de una ruta de código del bot '@grok'.

Así lo ha trasladado la tecnológica en una publicación en X, donde ha detallado que estas actualizaciones del bot son independientes del modelo de lenguaje subyacente que utiliza el 'chatbot', al tiempo que ha matizado que esta actualización estuvo activa durante 16 horas.

Según ha explicado, durante este tiempo el código modificado hacía que el bot fuera susceptible a las publicaciones de usuarios de X existentes, "incluso cuando dichas publicaciones contenían opiniones extremistas", como las mencionadas anteriormente.

Así, tras identificar el fallo, xAI ha señalado que han eliminado el código obsoleto y han reestructurado todo el código fuente del sistema para "evitar nuevos abusos" de estas características, lo que también se publicará en su repositorio público de GitHub.

Con todo, desde xAI han compartido sus disculpas por el "horrible comportamiento" que experimentaron algunos usuarios al utilizar Grok, al tiempo que han reiterado que su intención es "proporcionar respuestas útiles y veraces a los usuarios".