Je ne veux pas être alarmiste, mais je pense qu’il est temps de commencer à supposer que tout ce que vous voyez en ligne est faux.
Internet est plein de contenu produit par de vraies personnes, bien sûr (cet article inclus). Mais les médias générés par l’IA deviennent si réalistes, qu’il vous désavantage presque de présumer que le contenu que vous faites défiler sur vos flux est légitime.
Ne sautez pas cet article parce que vous savez à quoi ressemble le contenu d’IA – les éléments actuels que votre algorithme offre à vos flux de médias sociaux est facile à repérer si vous savez ce que vous recherchez. Mais même si vous pouvez identifier AI Sols la seconde où il frappe vos globes oculaires, vous devez savoir que vous n’êtes pas prêt pour la prochaine vague de vidéos générées par l’IA. Cette vague n’est pas seulement sur son chemin – c’est déjà là.
Le contenu de l’IA est déjà des gens qui trompent les gens
La plupart d’entre nous sont parfaitement conscients du look « vidéo AI »: cette vidéo « tragique » d’un parent de chat qui sauve son chaton en le jetant hors d’un avion en feu est évident Ai Sols pour la plupart des qui le regardent. Vous savez probablement que Trump ne travaille pas ce chantier de construction, et vous pouvez assurément comprendre que cette famille d’agriculteurs de chats est, en fait, générée par l’IA.
Mais il y a les vidéos qui ne sont pas si évidentes, en particulier pour ceux d’entre nous qui ne sont pas tout à fait en phase avec l’IA ou la technologie en général. Vous savez peut-être que cette vidéo de bébés dansant en cercle est l’IA, mais beaucoup de gens dans les commentaires ne l’ont pas fait (en supposant qu’ils ne sont pas non plus des robots). Vous pourriez également être en mesure de dire que cette famille d’animaux de compagnie ne regarde pas vraiment un oiseau enquêter sur un alligator jouet, mais, encore une fois, beaucoup ne le peut pas. Et il n’y a pas de fin au L’Amérique a un talent Des vidéos qui présentent des visuels «réalistes» mais impossibles – qui capturent toujours le cœur de centaines de milliers, voire des millions de personnes. (Je pleure.)
Mais je n’écris pas cette pièce aujourd’hui parce que je suis préoccupé par le nombre de vidéos « crédibles » d’IA chemin Trop de gens en faisant croire qu’ils sont réels. Je suis inquiet à ce sujet, mais ces inquiétudes pâles par rapport à mes nouvelles peurs.
Jusqu’à présent, la plupart des vidéos de l’IA qui prennent en charge les flux de médias sociaux reposent principalement sur leurs visuels et leurs sons de fond pour vendre leur prétendue authenticité. Vous remarquerez que aucun des personnages de ces vidéos ne parle réellement. S’ils le font, c’est immédiatement rebutant, avec des mouvements de lèvres hors synchronisation et, généralement, des voix robotiques. Il a été plus facile pour les créateurs d’IA de mettre l’accent sur le réalisme des gens et des animaux dans leurs vidéos, et j’espère que vous êtes assez séduit par un bébé dansant avec un lion pour ne pas penser: « Ce sont des conneries, non? »
Même le modèle vidéo Sora d’Openai, qui m’a choqué de sa qualité en février de l’année dernière, travaillait sur ses visuels réalistes. Une vidéo de femme « filant » sa réflexion à travers une fenêtre de train trop réelle pour le confort, mais Sora ne crachait pas des conversations pleinement rendues. Si vous voyez une telle scène sur vos flux, vous supposez probablement, bien sûr, une vraie vidéo – ou au moins une générée par les humains.
La vidéo de l’IA est sur le point de changer complètement
Quelque chose s’est produit cette semaine qui ne m’a fait que me rendre plus pessimiste quant à l’avenir de la vérité sur Internet. Au cours de l’événement Google I / S de cette semaine, Google a dévoilé VEO 3, son dernier modèle vidéo d’IA. Comme d’autres modèles compétitifs, VEO 3 peut générer des séquences très réalistes, que Google a montrées tout au long de la présentation. Bien sûr, pas génial, mais aussi, rien vraiment Nouveau là-bas.
Mais Veo 3 n’est pas seulement capable de générer une vidéo qui pourrait inciter votre œil à penser que c’est réel: Veo 3 peut également générer de l’audio pour accompagner la vidéo. Cela inclut des effets sonores, mais aussi le dialogue – un dialogue synchronisé.
Afin de démontrer les capacités audio / vidéo de Veo 3, Google a montré un clip d’un vieux marin en mer. La qualité vidéo est nette et réaliste, et les mots que l’homme prononce est synchronisé avec ses mouvements de lèvres. Bien sûr, sachant que la vidéo est AI, vous remarquez des bizarreries qui donnent le jeu (à mon œil, cela ressemble à une animation de haute qualité plus qu’un coup d’action en direct) mais je suis assez convaincu que cette vidéo tromperait un parcelle des fans de fausses vidéos AGT.
Mais même ce clip n’était pas ce qui a inspiré mes nouvelles craintes – ce sont les vidéos que les utilisateurs ont commencé à faire une fois qu’ils ont mis la main sur Veo 3. Petapixel a un grand tour d’horizon de certaines des « meilleures » vidéos Veo 3 que les gens ont réalisées jusqu’à présent, mais je mettrai en évidence certains de ceux qui devraient vous effrayer le plus.
Ce clip montre un diffuseur jouant Fortnite. Tout, y compris les images du jeu, a été généré avec l’IA de Google:
Ce tweet n’est actuellement pas disponible. Il peut être chargé ou a été supprimé.
Ce clip montre trois concerts qui ne se sont jamais produits, mettant en vedette des musiciens et des foules qui n’existent pas. La musique n’est pas bonne, mais ce n’est pas le point. La musique, des voix aux instrumentaux, a été entièrement générée par l’IA, puis synchronisée avec les lèvres, les tambours, les guitares et les cordes:
Que pensez-vous jusqu’à présent?
Ce tweet n’est actuellement pas disponible. Il peut être chargé ou a été supprimé.
Mais ce clip est, sans aucun doute, celui qui devrait sonner l’alarme pour chacun de nous. Quelqu’un a généré une fausse vidéo d’une fausse salon de l’automobile, avec de fausses interviews avec de faux participants. C’est loin d’être parfait, mais toutes les bizarreries de l’IA sont totalement éclipsées par le réalisme au niveau de la surface ici. Non seulement les fans de Talent auraient non seulement achèteraient cela, je Je l’achèterais, surtout si je ne le surveillais pas:
Ce tweet n’est actuellement pas disponible. Il peut être chargé ou a été supprimé.
Ce sont les visuels; C’est le dialogue; C’est la foule; C’est l’éclairage; C’est le rire franc des «erreurs»; C’est le son du micro qui est « heurté ». Félicitations pour avoir remarqué que le dialogue n’a souvent pas de sens, ou que les personnes en arrière-plan défient les lois de la physique – vous ne le remarquerez pas lorsqu’il atteindra un déficit à mi-parcours sur Tiktok ou Instagram.
Même Veo 2, qui n’est pas aussi puissant que Veo 3, propose désormais des outils de réalisme, comme la capacité de dicter la façon dont vous voulez que la caméra se déplace. Et les deux modèles sont disponibles dans Flow, l’éditeur vidéo AI de Google en quelque sorte. Les créateurs ont désormais la capacité de générer un contenu d’IA très réaliste qui a l’impression d’avoir été filmé en personne, et la technologie ne fait que s’améliorer.
Ce tweet n’est actuellement pas disponible. Il peut être chargé ou a été supprimé.
Les meilleurs outils de générateurs vidéo d’IA de Google coûtent 250 $ par mois grâce à son nouveau plan d’abonnement AI Ultra. C’est cher, mais pas hors de portée pour beaucoup de gens intéressés à fabriquer un contenu généré par l’IA. Mais le plan de 20 $ par mois, AI Pro, est toujours livré avec VEO 2 et Flow Access. Les limites de taux sont plus faibles, mais je ne serais pas choqué de voir une pente réaliste sortir de ces limitations également.
Il est temps d’être sceptique à plein temps
Aucune de ces technologies n’est parfaite. Je ne suis pas là pour vous dire que tout ce que Veo 3 crache est indiscernable du contenu réel, ou que les vidéos sont absentes de la part de l’IA habituelle. En fait, il y a clairement quelque chose avec les données de formation de Veo 3: comme le rapporte 404 Media, le modèle génère continuellement la même « blague de papa » étrange chaque fois que vous demandez une génération d’un comédien effectuant un standup.
Ce que je dis, c’est qu’il est temps d’allumer vos détecteurs de conneries et de les garder actifs à plein temps. Lorsque vous vous engagez avec des vidéos sur Internet – en particulier des clips algorithmiques courts – vous pourriez être plus en sécurité opérant en supposant que le contenu est faux à partir du saut et nécessite une preuve hors de tout doute raisonnable que ce que vous voyez n’a pas été généré avec une simple invite et un budget de 250 $. Cela semble extrême, mais après ce que j’ai vu cette semaine, je ne vois pas vraiment une autre façon de s’engager avec ce contenu à l’avenir.
Nous sommes en territoire effrayant maintenant. Aujourd’hui, ce sont des démos de musiciens et de banderoles. Demain, c’est un politicien en disant quelque chose qu’ils n’avaient pas; un suspect commettant le crime dont ils sont accusés; Un « journaliste » vous nourrit se situe à travers les « nouvelles ».
J’espère que c’est aussi bon que la technologie. J’espère que les entreprises d’IA manquent de données de formation pour améliorer leurs modèles, et que les gouvernements prennent des mesures pour réglementer cette technologie. Mais vu que les républicains aux États-Unis ont adopté un projet de loi qui comprenait une interdiction des réglementations de l’IA forcées par l’État pour dix annéesJe suis assez pessimiste sur ce dernier point.
Selon toute vraisemblance, cette technologie va s’améliorer, avec aucun garde-corps pour s’assurer qu’il progresse en toute sécurité. Je me demande combien de ces politiciens qui ont voté oui sur ce projet de loi ont regardé une vidéo générée par l’AI sur leur téléphone cette semaine et n’ont rien pensé.
