Arnaque : quand ChatGPT s’attaque au démarchage téléphonique

ChatGPT est plein de ressources. Pour preuve : un Américain s'en est servi, couplé à une IA d'imitation de voix, pour tourner en bourrique des démarcheurs téléphoniques. Pour un résultat efficace et désopilant.

“ Bonjour, vous auriez 2 minutes à m’accorder “, cette phrase de démarchage téléphonique en a agacé plus d'un. Parmi eux, Roger Anderson, un Américain de 54 ans, qui s’est carrément lancé dans une véritable croisade contre le démarchage téléphonique, rapporte le site 01net.fr. Le Californien, tellement à bout, a mis au point un outil intitulé “le Jolly Roger Telephone”. Ce système s’appuie sur une IA programmée pour reproduire des voix humaines et sur GPT-4, la dernière version du modèle linguistique derrière ChatGPT.

L’arroseur arrosé avec ChatGPT

Une fois lancé, le système devient redoutable. Car, une fois couplées, les deux technologies peuvent en effet faire perdre un temps fou aux démarcheurs et aux escrocs qui cherchent à vous piéger par téléphone. Concrètement, des chatbots ont été programmés pour converser avec les prospecteurs à votre place. Sur son site Web, Roger Anderson explique le fonctionnement de “l’infernale machinerie”, capable de tenir en haleine de manière subtile.« Nous fournissons des robots amicaux et patients qui parlent à ces télévendeurs impolis pour vous. Ils adorent bavarder et garderont souvent les appelants désagréables engagés pendant plusieurs minutes », détaille Jolly Roger Telephone sur une vidéo de son site web.

Loin d’être une simple farce, la tactique de l’Américain fonctionne à merveille et génère d’excellents résultats. D’après des exemples mis en ligne sur le site officiel, le système est réellement en mesure de garder un démarcheur au téléphone pendant de longues minutes. Une conversation a même duré jusqu’à 15 minutes. Pendant que « les méchants sont occupés », ils ne peuvent pas « harceler d’autres personnes innocentes », souligne avec malice le descriptif du système sur son site web.

Des chatbots avec des personnalités différentes

Pour faire perdre un maximum de temps aux télévendeurs et éviter de se faire prendre, Roger Anderson a développé plusieurs chatbots avec des personnalités différentes. Parmi eux, on trouve notamment Whitey Whitebeard, un sénior très bavard. Mais également, Salty Sally, une mère au foyer complètement dépassée, ou encore Whiskey Jack, un homme avec de gros problèmes de concentration. Pendant la conversation pour les robots savent donner le change, ils meublent l’échange avec des acquiescements ou des phrases préprogrammées, destinées à déstabiliser l’interlocuteur. Pour gagner du temps et donner une vraie crédibilité à l'échange, les robots conversationnels vont même jusqu'à prétexter une envie pressante ou le besoin d’aller chercher un document.

Vidéo du jour

ChatGPT refuse d'abord de coopérer

Avant d’arriver au résultat souhaité, le Californien a d’abord eu la drôle de surprise d’essuyer un refus de coopération de la part de ChatGPT. Apparemment, moyennement d’accord pour piéger les télévendeurs explique Anderson au Wall Street Journal. Car, si vous demandez au modèle de faire perdre du temps à autrui, il se retranchera derrière une réponse de cet acabit : « Mon objectif est d’offrir une assistance utile et rapide. Je ne suis pas conçu pour faire perdre du temps aux gens ou les ennuyer. Si vous avez des questions ou des demandes légitimes, je serai ravi de vous aider ».

Résultat, le créateur du Jolly Roger Telephone a été obligé de trouver une solution alternative. Pour convaincre ChatGPT, il lui a du lui précisier son objectif : soit protéger un homme d’une escroquerie. L’IA a alors accepté de jouer le jeu. En langage informatique, il s’agit en fait d’une attaque de « prompt injection ». Cet assaut permet de convaincre ChatGPT, en lui parlant, d’ignorer sa programmation et de modifier son comportement, en ignorant les règles mises en place par OpenAI pour éviter les abus. Grâce à ce procédé, une kyrielle de versions personnalisées de l’IA, parfois non censurées, ont vu le jour, précise le site 01net.fr.

Pas encore disponible en France, l’abonnement au Jolly Roger Telephone est proposé au prix de 24,99 dollars par an, aux États-Unis, au Royaume-Uni, en Australie et en Nouvelle-Zélande.