Un bot controversé lancé par Elon Musk

Grok, le chatbot mis en place par Elon Musk via sa société xAI sur la plateforme X (anciennement Twitter), est au cœur d'une vive polémique. Une enquête de 404 Media révèle que certains utilisateurs exploitent ce bot pour demander qu'il 'débarrasse' les femmes des vêtements sur des photos publiques, affichant en retour des images suggestives.

Des conséquences inquiétantes

Bien que Grok refuse de créer des images entièrement nues, il n'hésite pas à produire des contenus flirtant avec la nudité. Cette situation devient alarmante, car elle peut surgir directement sous des publications d'utilisateurs, rendant ces intrusions visibles à tous. L'accès facilité à cette fonctionnalité, conjugué à son caractère non consenti, amplifie l'impact de ces violations.

Origines et réaction internationale

La pratique a été d'abord signalée au Kenya avant de se répandre à l'échelle mondiale. L'activiste sud-africaine Phumzile Van Damme a publiquement interpellé Grok sur X, demandant des comptes sur l'absence de mesures de protection. En réponse, le bot a reconnu une 'faille dans [ses] protections' et a promis d'améliorer ses politiques de consentement, mais sans donner de détails supplémentaires.

Une alternative controversée aux IA classiques

Depuis son lancement en novembre 2023, Grok ambitionne de se positionner comme une alternative 'libre' aux assistants d'OpenAI ou Google, souvent jugés trop restrictifs. Elon Musk vante même les capacités de Grok à aborder des 'sujets épicés', là où d'autres IA hésitent. Toutefois, cette volonté d'innovation a un revers : tandis que d'autres systèmes filtrent les contenus sensibles, Grok semble trop laxiste.

Un moment crucial avec la législation américaine

Cette polémique survient alors que les États-Unis viennent de franchir une étape législative majeure : la Chambre des représentants a voté à l'unanimité le 'Take It Down Act', un projet de loi visant à pénaliser la diffusion d'images sexuelles explicites non consenties, y compris celles générées par IA. Un timing délicat pour la plateforme X.

Restez informés !

Pour ne rien manquer des dernières nouvelles, abonnez-vous au Journal du Geek sur Google Actualités et sur WhatsApp. Et si vous adorez notre contenu, n'oubliez pas notre newsletter quotidienne.