Malgré son intégration rapide dans presque toutes les facettes de la vie quotidienne, la technologie de l’IA n’est pas parfaite. Bien qu’il puisse sembler que l’IA génératrice sait tout, il peut faire des erreurs ou créer des informations entièrement. C’est pourquoi il est préoccupant pour les journalistes technologiques comme moi que les entreprises ajoutent une technologie d’IA à l’outil. et prenez pour acquis.
La recherche est l’un de ces outils. Depuis la fin des années 90, nous avons été conditionnés à compter sur les résultats de la recherche pour trouver les informations que nous recherchons. Pour beaucoup d’entre nous, cela signifie charger Google, entrer dans une recherche et accepter la première page des résultats, parfois le premier résultat ou deux seuls. Maintenant, avec les aperçus de l’IA de Google qui prennent le dessus sur la plupart des résultats de recherche, beaucoup d’entre nous regardent simplement le résultat généré par l’IA et le prennent à sa valeur nominale.
Il y a de nombreux problèmes avec cette nouvelle approche, mais il y a un problème clé sur lequel se concentrer aujourd’hui: comme indiqué par les tendances numériques, lorsque vous recherchez le numéro de téléphone d’une entreprise, les aperçus de l’IA de Google et même le mode IA peuvent recommander le numéro de téléphone d’un escroc.
Les escrocs « piratent » l’IA de Google
Digital Trends met en évidence quatre exemples de cette situation en action. Tout d’abord, il y a Alex Rivlin, qui a posté sur Facebook son expérience d’essayer de contacter l’expérience client de Royal Caribbean. Rivlin voulait réserver une navette via le service, mais n’a pas pu trouver le numéro de soutien de l’entreprise sur son site Web. Ainsi, comme beaucoup d’entre nous, Rivlin a googlé « Royal Caribbean Customer Service Numéro de téléphone 24 heures sur 24, et a appelé le numéro qui est apparu dans l’aperçu de l’IA.
Lorsque Rivlin a appelé, l’expérience « service client » semblait au-dessus du bord et le « représentant » était très compétent. Rivlin a fourni ses informations sur la carte de crédit pour payer la navette, mais s’est inquiété une fois que le représentant a commencé à demander sa date de naissance. Étant donné que Royal Caribbean avait déjà cette information, cela semblait suspect, donc après avoir raccroché le téléphone, Rivlin a vérifié sa déclaration de carte de crédit et a remarqué une charge d’une entreprise étrangère avec laquelle il n’avait jamais traité auparavant. Après cela, il a remarqué une petite charge à l’American Cancer Society et a appelé la société de cartes de crédit pour annuler la carte.
À partir de cet article, si vous demandez à Google à qui appartient ce numéro de spam, le résultat automatisé (pas même la vue d’ensemble de l’IA, il vous faut, dira Royal Caribbean. Cela se retire d’un site Web qui semble imiter le site officiel de SIMPLER.GRANT.GOV. Si vous cliquez sur le lien, la page est morte, mais Google tire toujours les informations qui existaient pendant que le site était toujours en place. Sur la base de cela, il semble que les escrocs répertorient les faux chiffres sur des sites Web frauduleux, et inciter Google à l’approvisionnement de ces données. L’IA de Google voit ensuite « Royal Caribbean » à côté de ce numéro de téléphone sur un site .gov, pense qu’il est légitime et le fait surface dans un résultat généré par l’AI.
Digital Trends a ensuite mis en évidence cet exemple d’un redditor publiant vers R / ScamNumbers. Le Redditor recherchait sur Google « Comment réparer un nom mal orthographié sur Southwest », ce qui les a conduits à un résultat d’aperçu de l’IA avec un numéro d’arnaque. Cet utilisateur semble avoir déjà connu le numéro du sud-ouest légitime, soit peut-être localisé le nombre réel à comparer à celui de ce résultat, et a vu à travers l’arnaque sans appeler.
Si vous Google le numéro de téléphone bidon, vous pouvez voir un lien vers « Document360 », ainsi que l’extrait suivant: « Pour corriger le nom d’un passager ou changer de nom sur un billet de vol Southwest Airlines, contactez Support client de Southwest Airlines. Appelez le + 1-855-234-9795. « C’est, encore une fois, une tactique pour inciter Google à présenter le numéro d’arnaque dans ses résultats. Cette fois, les escrocs phishing pour les utilisateurs recherchent ce problème spécifique, ce qui augmente les chances que Google fournira ce résultat pour cette recherche spécifique.
Digital Trends met également en évidence un article supprimé depuis Reddit, un utilisateur a près de se faire arnaquer lors de la recherche sur Google le numéro de support client pour un service de livraison de nourriture. De même, dans un dernier exemple, un homme a perdu plus de 3 400 $ lorsqu’il a appelé le numéro qui est apparu pour le service de livraison de nourriture Swiggy’s.
Ne présumez pas que la réponse AI est correcte
Les aperçus de l’IA de Google ne sont pas malveillants; Il est plutôt imparfait. La technologie sous-jacente peut avoir du mal à distinguer les informations légitimes et fausses. Il manque la prise de conscience de comprendre qu’un site imitant une page gouvernementale peut héberger un nombre et affirmer qu’il s’agit d’une certaine entreprise: pour l’IA, cela signifie que c’est le numéro de l’entreprise et, en tant que tel, il l’inclut dans les résultats. C’est le même défaut qui a conduit au déploiement désastreux de Google pour les aperçus de l’IA l’année dernière. À l’époque, le modèle était encore pire, tirant des blagues de Reddit en tant que sources légitimes. (Non, la colle ne fait pas vraiment coller votre fromage à votre pizza.)
Cela ne veut pas dire que la réponse IA sera toujours erronée. La technologie peut toujours tirer des sources de haute qualité et des résultats de retour qui sont exacts. Mais il y a des défauts ici qui rendent les réponses à l’IA trop risquées pour compter. Si vous préférez ne pas faire défiler vers le bas pour consulter la liste traditionnelle des liens vous-même, cliquez au moins sur les sources de la réponse IA pour voir d’où il tire les informations. Si la source est sommaire, supposons que la réponse est également.
En ce qui concerne les coordonnées de l’entreprise, je recommanderais de toujours aller directement à la source. Si l’entreprise ne répertorie pas le numéro de téléphone sur son site Web, supposons qu’elle n’existe pas et essayez de trouver une méthode de contact différente directement via la société. Les escrocs sont trop intelligents pour compter sur le Web ouvert pour ces informations.
