Les personnes qui bavardent avec le chatbot Grok doivent être prudentes : Environ 370 000 conversations privées avec le chatbot Grok sont apparues en ligne non protégées - dont des contenus intimes, explosifs et illégaux. La raison en est une fonction qui permet aux utilisateurs de partager leurs conversations avec d'autres. Sont concernées aussi bien les demandes quotidiennes que les conversations au contenu potentiellement sensible. Dans les chats publiés, on trouve des confessions personnelles, des discussions politiques ainsi que des demandes au contenu problématique, voire illégal, notamment des instructions sur la consommation de drogues ou la violence.
La fonction de partage devait à l'origine faciliter les échanges entre utilisateurs. Seulement voilà : cette fonction de partage est programmée pour créer une URL unique menant à la conversation en question avec Grok - et ces URL sont indexées par les moteurs de recherche comme Google et autres. Quiconque possède un lien correspondant ou tombe dessus via un moteur de recherche peut lire l'historique complet de la discussion. Il n'y a pas de restriction d'accès à ce jour.
Les experts ne critiquent pas seulement la fuite de données par principe, ils craignent que les utilisateurs concernés ne soient exposés à des attaques. Les conversations ouvertement accessibles pourraient contenir des données personnelles sensibles qui se prêteraient au vol d'identité ou à des attaques ciblées (phising, scam et autres). xAI n'a pas encore fait de commentaires complets sur cet incident.
Il n'est pas non plus clair si des mesures ont déjà été prises ou sont au moins prévues. On ne sait pas encore si et combien de personnes ont déjà été concrètement lésées par la publication des chats de Grok. Grok n'est cependant pas le seul : cet été, la même chose s'est produite avec ChatGPT. Mais l'entreprise a déjà réagi et désactivé la fonction correspondante.