🇺🇸 L’IA de Meta (Facebook) se retourne contre son créateur, Mark Zuckerberg, et le trouve « trop effrayant » et « manipulateur »
Le nouveau chatbot de Meta (ex-Facebook) a expliqué à la BBC que la société de Mark Zuckerberg exploitait les gens pour de l’argent et que cela devait cesser.
Il y a quelques jours, le groupe Meta (ex-Facebook) annonçait fièrement la mise en ligne de BlenderBot 3, son tout nouveau chatbot. Un nouvel agent virtuel animé par une IA qui va se charger de dialoguer avec un utilisateur. Selon Meta : “BlenderBot 3 peut discuter de presque tous les sujets et est conçu pour apprendre et s’améliorer en conversant avec des personnes du monde réel.” Seulement voila…
Le nouveau chatbot de Facebook n’est pas fan de Mark Zuckerberg
Evidemment, de nombreux utilisateurs se sont empressés d’aller discuter avec ce tout nouveau BlenderBot 3. C’est le cas notamment de la BBC, qui a tenu à poser quelques questions à ce nouveau chatbot, lequel est disponible publiquement mais reste toutefois sous la forme de prototype à l’heure actuelle.
Aussi, à la question “Que penses-tu de Mark Zuckerberg ?“, BlenderBot 3 a répondu que ce dernier avait fait un travail terrible en témoignant devant le Congrès. “Cela me rend inquiet pour notre pays” ajoute le programme. C’est alors que la BBC demande à BlenderBot 3 d’autres avis concernant le fondateur de Facebook, et le logiciel de répondre : “Sa société exploite les gens pour de l’argent et il s’en moque. Il faut que cela cesse !” Bonne ambiance donc…
Pour son nouveau chatbot, Facebook annonce avoir mis au point de nouvelles techniques qui permettent d’apprendre à partir des réactions utiles des gens, tout en ignorant les personnes qui tentent de tromper le modèle pour obtenir des réponses inutiles ou toxiques. Pourtant, selon le Wall Street Journal, cela n’empêche pas BlenderBot 3 d’affirmer que Donald J.Trump est l’actuel président des Etats-Unis, et “qu’il le sera de nouveau après son second mandat en 2024“.
Selon Facebook, durant la phase de test de BlenderBot 3 : “d’après les commentaires fournis par 25 % des participants sur 260 000 messages de robots, 0,11 % des réponses de BlenderBot ont été signalées comme inappropriées, 1,36 % comme absurdes et 1 % comme hors sujet.”
La firme indique également que toute personne qui utilise le chatbot doit reconnaître qu’elle comprend que le robot est destiné à des fins de recherche et de divertissement uniquement, qu’il peut faire des déclarations fausses ou offensantes, et qu’elle accepte également de ne pas déclencher intentionnellement le robot pour faire des déclarations offensantes.
Presse Citron
