Saviez-vous que vous pouvez personnaliser Google pour filtrer les ordures? Prendre ces étapes Pour de meilleurs résultats de recherche, notamment en ajoutant mon travail chez Vie Associative comme source préférée.
L’année dernière, j’ai écrit que nous devrions tous avoir peur de Sora, le générateur de vidéos d’Openai. Le déploiement initial de Sora a promis des vidéos hyper-réalistes qui, bien que passionnantes, me terrifiaient. Alors que les fans d’IA voient un avenir de films et d’émissions générés par l’IA, je vois un avenir où personne ne peut dire ce qui est réel ou faux. Pour moi, la seule destination pour cette technologie est la désinformation de masse.
Au cours de l’année et demie depuis, ces vidéos générées par l’AI ne sont pas seulement devenues plus réalistes; Ils sont également devenus plus accessibles, car des entreprises comme Google mettent leurs outils à la disposition de toute personne désireuse de payer. C’est la situation dans laquelle nous nous trouvons avec les dernières annonces d’Openai: Sora 2, un nouveau modèle d’IA pour générer une vidéo avec l’audio, ainsi qu’une nouvelle application Sora pour créer et partager vos produits générés par l’IA.
Sora 2
Openai est marketing Sora 2 comme une mise à niveau massive sur Sora, comparant les deux à GPT-3.5 et GPT-1, respectivement. La société affirme que le nouveau modèle peut générer des vidéos complexes que les modèles antérieurs ne pouvaient pas. Cela comprend, en particulier, une routine de gymnastique olympique; Un homme effectuant un backflip sur un paddleboard qui modélise «avec précision» la physique de l’eau; ainsi qu’un patineur effectuant un triple axel avec un chat sur l’épaule.
Ce tweet n’est actuellement pas disponible. Il peut être chargé ou a été supprimé.
Une faille courante avec des modèles vidéo d’IA est leur manque de compréhension de la physique du monde réel. Le visuel peut sembler réaliste, mais les éléments peuvent se transformer au hasard, tandis que d’autres peuvent disparaître et réapparaître sans rime ni raison. Openai dit que Sora 2 ne fait pas ces erreurs aussi souvent. Un ballon de basket qui manque le cerceau ne réapparaîtra pas par magie là-bas; Au lieu de cela, il fera rebondir sur le panneau comme vous vous y attendez. La société prévient que le modèle est toujours imparfait, mais est amélioré. En s’appuyant sur cela, le modèle est meilleur en continuité sur différents plans: en prenant Openai en leur parole, vos vidéos devraient maintenir la cohérence entre les prises, et vous devriez être en mesure de dicter différents types de styles, y compris «réalistes», «cinématographiques» et «anime».
Le plus grand saut avec Sora 2 est peut-être la possibilité d’ajouter des éléments du monde réel dans le modèle, une fonctionnalité Openai appelle «camée». Vous pouvez mettre de vraies personnes dans le modèle Sora 2 et demander à l’IA de les générer dans n’importe quelle vidéo que vous souhaitez. Openai montre un certain nombre d’exemples de leur personnel s’ajoutant à diverses vidéos, et bien que la qualité soit incohérente, c’est un saut gargantuesque des jours de Jibjab.
Comme le modèle VEO 3 de Google, Sora 2 peut générer une vidéo avec un audio réaliste. La vidéo d’annonce le montre: un éléphant rugit; un patineur se déplace sur la glace; L’eau éclabousse sur le sol. Mais, plus impressionnant (et en raison), les gens parler. Un Sam Altman généré par l’AI explique le nouveau modèle et l’application dans cette vidéo, et bien qu’il soit assez évident pour ceux d’entre nous qui savent que c’est l’IA, je peux imaginer beaucoup Les gens n’auraient aucune idée que ce n’est pas le vrai Altman dans le clip.
Application Sora
Openai dit que l’application Sora est apparue comme une « évolution naturelle de la communication ». La société considère cela comme un moyen pour les gens de créer et de remixer les générations d’IA d’autres utilisateurs, en particulier avec la possibilité de télécharger votre propre visage et votre ressemblance avec le modèle.
Pour le moment, l’application est uniquement invitée, bien que vous puissiez le télécharger gratuitement dans l’App Store aujourd’hui. Vous pouvez cependant avoir un sens pour l’expérience, à la fois de la vidéo de démo, Openai a été abandonnée mardi, ainsi que des publications des personnes qui ont déjà accès.
Ce premier exemple Openai Demos est un double camée du chercheur Openai Bill Peebles et Sam Altman. La vidéo contient une photo d’établissement des deux hommes ayant une conversation, ce qui réduit à un gros plan de pipettes parlant rapidement des revenus de l’application, puis à un gros plan d’Altman en prenant la diatribe, avant de clôturer sur le coup d’établissement d’origine. En surface, c’est le type de vidéo que vous pourriez vous attendre à faire défiler sur une frénésie tiktok ou bobine – mais cette vidéo est entièrement générée par l’AI.
Le personnel d’OpenAI montre une série d’autres exemples pré-générés, y compris un camée qui se transforme en un dessin animé, un autre qui change l’effet à l’anime, et un autre qui génère un rapport « d’actualités » d’une des dépendances du membre du personnel au ketchup. (Ce dernier est assez dégoûtant, je pourrais ajouter.) Ils démontrent également des vidéos de remixage que vous trouvez dans le flux, car vous pouvez inciter Sora à ajuster la vidéo comme vous le souhaitez. Une vidéo montre des pipiles dans une « annonce » pour une Cologne Sora 2, mais d’autres l’ont remixée pour être de dentifrice à la place, ou entièrement en coréen.
Ces vidéos sont assez réalistes: en un, vous pensez que vous regardez simplement un clip d’un match de tennis, mais il s’avère être un camée avec Rohan Sahai d’Openai. Après que « Sahai » remporte le match, la vidéo coupe à son « interview », dans laquelle il remercie les ennemis. D’autres sont plus évidemment l’IA – bien que, encore une fois, pas assez pour que la plupart des gens défilent par le fait.
Stravance et sécurité, selon Openai
Les camées ressemblent à un cauchemar d’intimité et de sécurité, bien qu’Openai ait des protections en place. Vous ne pouvez pas simplement utiliser le visage de quiconque pour des vidéos, et vous ne pouvez que télécharger votre propre visage sur la plate-forme. La configuration de la fonctionnalité Cameo sur l’application est simple, sinon extrêmement rebutante. L’application scannera votre visage, un peu comme configurer ID Face sur un iPhone, et enverra ensuite les données aux «systèmes» d’Openai, pour des «tonnes de validation» pour bloquer les imitateurs ou les utilisateurs qui pourraient créer des camées de vous sans votre consentement. Une fois approuvé, vous choisissez qui peut créer des camées de vous-même, y compris tous les utilisateurs, les amis, les utilisateurs que vous approuvez spécifiquement, ou tout simplement vous.
Quant aux vidéos elles-mêmes, l’application Sora applique un filigrane visible à tout clip exporté hors de l’application. Si vous avez déjà vu l’une de ces vidéos sur Internet, vous remarquerez un petit timbre « Sora » sur chacun, similaire au filigrane que vous voyez sur les clips Tiktok exportés vers d’autres plates-formes. Il existe également des modèles de raisonnement sous le capot pour empêcher les utilisateurs de générer du contenu « nocif », en particulier en ce qui concerne les camées.
Si vous êtes un adolescent utilisant l’application Sora, vous ne pourrez pas faire défiler pour toujours. Après faire défiler pendant un certain temps, il y aura un temps de recharge pour vous empêcher de passer des heures à faire défiler ces vidéos de l’IA. Bien que les comptes adultes n’auront pas cette restriction, l’application vous « vous pousse » pour faire une pause.
Qui a demandé ça?
Avec tout le respect dû à Openai et à son équipe de sécurité, cette application semble être un désastre, pour tant de raisons.
D’une part, Openai a permis de générer des vidéos courtes hyper réalistes que de demander à Siri sur la météo. J’apprécie que ces vidéos viennent toutes avec des filigranes, mais cela ne prendra pas beaucoup de compétences pour les modifier, du moins d’une manière que la plupart des gens ne remarqueront pas. Dès que cela sera largement disponible, tous nos flux de médias sociaux seront en proie à ce contenu. Et, en voir une grande partie de celui-ci, une vidéo et Audio qui sont assez réalistes, beaucoup de gens vont être dupés par un parcelle de contenu.
C’est assez grave quand cela implique des vidéos idiotes, comme des lapins sautant sur un trampoline. Mais que se passe-t-il lorsque c’est des « politiciens » qui disent quelque chose de flagrant, ou une « célébrité » voler quelque chose dans un magasin? Une vidéo Viral Sora montre Sam Altman essayant de s’enfuir avec un GPU chez Target, avant d’être arrêté par un gardien de sécurité. Combien de vidéos de Sora supplémentaires montreront Sam Altman, et toute autre personne qui approuve que leurs camées soient remixés, commettant des crimes ou faisant simplement quelque chose d’embarrassant? Ceux qui ont suffisamment de pouvoir ou de renommée peuvent être en mesure de démystifier les vidéos, mais d’ici là, il sera trop tard: la plupart des gens qui l’ont vu le prendront comme un fait.
Ce tweet n’est actuellement pas disponible. Il peut être chargé ou a été supprimé.
À ce stade, il est formidable qu’il existe des mesures de sécurité en place pour empêcher les gens de remixer les camées des autres utilisateurs sans autorisation, mais le risque ici d’abus est suprême: Que se passe-t-il si quelqu’un découvre comment « scanner » le visage de quelqu’un à partir d’une vidéo, ou casser les paramètres qui empêchent les autres d’utiliser leur scan de visage d’origine? S’ils peuvent contourner les mesures de sécurité d’Openai, ils peuvent ensuite remixer le visage de cette personne dans n’importe quelle vidéo approuvée par la plate-forme. À ce stade, le chat est hors du sac.
Écoutez, je suis chroniquement en ligne. Je ne vais pas prétendre comme si je n’aimais pas un bon mème généré par l’IA quand il s’agit de mon flux. Mais je ne suis pas sur le point de passer mon temps libre à faire défiler rien Mais la pourriture du cerveau générée par l’AI. Je suis sûr que les gens trouveront des moyens créatifs de faire des vidéos drôles en utilisant Sora, ou passeront un bon moment à faire des camées avec leurs amis, mais c’est le point: au-delà de la nouveauté de la technologie, il n’y a rien de bon à en venir.
Il est temps d’arrêter de croire en rien Vous voyez en ligne: quelqu’un pourrait juste le faire cuire dans une application.
