Deepfakes forklart AI som gjør falske videoer for overbevisende

Å se er å tro. Vel, det var i hvert fall tilfelle før vi innså at folk kunne leke videoer for å drive hoaxes og omskrive historien. Mens vi har funnet måter å debunk mest hoax bilder, er det en teknologisk utvikling som går raskere så raskt vi kan snart ikke lenger vite hvordan å fortelle hva som er ekte og hva som er falsk.

Deepfakes forandrer alt vi trodde var mulig når det gjelder doktrerte videoer. Her er alt du trenger å vite om dem ...

Hva er Deepfakes?

Begrepet deepfakes kommer fra en kombinasjon av ordene “dyp læring” og “forfalskninger”. Dette skyldes at kunstig intelligenssoftware opplært i bilde- og videosyntese skaper disse videoene. Denne AI kan overføre ansiktet til ett emne (kilden) til en annen videos video (målet). Mer avanserte former for teknologi kan syntetisere en helt ny modell av en person som bruker kildens ansiktsbevegelser og bilder eller video av motivet de ønsker å etterligne.

Teknologien kan lage ansiktsmodeller basert på begrensede visuelle data, for eksempel ett bilde. Men jo flere data AI må jobbe av, desto mer realistisk er resultatet.

Det er derfor politikere og kjendiser er så enkle mål for deepfakes siden det er så mye visuell data tilgjengelig på nettet som programvaren kan bruke. Siden deepfake-programvare er tilgjengelig på open-source-plattformer, blir folk på internett kontinuerlig raffinert og bygger på andres arbeid.

Origins of Deepfake AI Technology

Teknologien bak deepfakes ble utviklet for en rekke formål. I likhet med Photoshop har programvaren profesjonell, underholdning og hobbybruk. Og akkurat som Photoshop, til tross for at skaperen ikke har ondsinnede hensikter med å lage programvaren, har dette ikke stoppet folk fra å bruke det for ondsinnede formål.

Face-swapping-teknologi ble først og fremst brukt i filmindustrien. En av de mest kjente tilfellene er i 2016-filmen Rogue One: A Star Wars Story. I filmen brukte filmskapere ansiktsbytte og videosynteseteknologi for å gjenskape karakteren Grand Moff Tarkin. En yngre versjon av prinsesse Leia ble også opprettet i filmen. I begge tilfeller ble modeller av de opprinnelige skuespillernes ansikter lagt over på stand-in skuespillere.

Apper som Snapchat bruker også ansiktsbytteteknologi for å lage morsomme filtre for brukere. Utviklerne bak disse appene forbedrer ansiktsgjenkjenning og sporing kontinuerlig for å bruke disse filtrene mer effektivt.

I mellomtiden har andre utviklet videosynteseverktøy for å lage hologrammer til utdanningsformål. For eksempel utviklet ett prosjekt video- og ansiktssynteseprogramvare slik at vitnesbyrdene til overlevende Holocaust kunne bli presentert som interaktive hologrammer på et museum.

Hvorfor Deepfakes gjør folk nervøs

Da folk innså at svindlere og folk som spilte hoaxes brukte Photoshop til å lage falske bilder, måtte vi bli mer skeptiske til hva vi betraktet som bevis. Heldigvis var det mange måter å oppdage om et bilde var falskt, selv med det blotte øye.

I tillegg til dette er det å lage et overbevisende doktrert bilde i Photoshop relativt arbeidsintensivt. Ikke bare noen kan slå sammen to bilder og få dem til å se realistiske.

Men deepfakes er forskjellige. Maskininnlæring gjør livet enklere 4 Maskininlæringsalgoritmer som lager livet ditt 4 Maskininnlæringsalgoritmer som lager livet ditt Du kan ikke innse det, men maskinlæring er allerede rundt deg, og det kan utøve en overraskende grad av innflytelse over livet ditt. Tro ikke på meg? Du kan bli overrasket. Les mer, men i dette tilfellet gjør det fakery betydelig enklere. For det første er programvaren bredt og fritt tilgjengelig. FakeApp, for eksempel, er et populært valg for å lage deepfakes. Du trenger ikke avanserte ferdigheter til å bruke et ansiktsbytt, programvaren vil gjøre det for deg.

Siden AI og dyp læring bidrar til å lage deepfakes, forbedrer teknologien også og blir overbevisende i en alarmerende takt. Det vil ikke vare lenge før disse endringene ikke er synlige for det blotte øye.

I en verdensklima med falske nyheter kan overbevisende dybfeil vise seg å være en kaotisk kraft mot det vi tror er sant.

Oppveksten av deepfakes foregår også på et tidspunkt da AI-stemme syntese fremover raskt også. Ikke bare kan AI generere falske videoer, men det kan også generere talemodeller for folk.

Dette betyr at du ikke trenger en imitator for å få det til å høres ut som en politiker gjør et opprørende utsagn. Du kan trene AI for å etterligne stemmen deres i stedet.

Konsekvensene av Deepfakes

Folk bruker allerede deepfakes for ondsinnede formål. Folk brukte ofte FakeApp til å lage falske videoer av kjendis skuespillerinner engasjert i voksen innhold.

Gal Gadot, Daisy Ridley og Emma Watson er bare noen av skuespilleriene som er målrettet mot falske voksenvideoer. Disse deepfakes bytter skuespillerinneres ansikter til videoer av voksne filmstjerner.

Mens flere plattformer og bestemte voksne nettsteder har utestengt disse typer videoer, vises flere hver dag. Faktisk lager noen nettsteder spesifikt dybde kjendis voksne videoer basert på brukerforespørsler.

I de fleste land er det ingen lov som omhandler denne typen innhold, noe som gjør det vanskelig å kontrollere.

Mens vi fortsatt er noen vei unna dystopien som styres av feilinformasjon og falske videobevis som vi ser i filmer som The Running Man, er vi allerede altfor kjent med virkningene av falske nyheter. Hva er falsk nyheter og hvordan sprer det seg? Raskt? Hva er falsk nyheter og hvordan spre det så fort? Falske nyheter plager på internett, og den verste delen er at folk flest ikke kan gjenkjenne det når de ser det. Les mer .

Deepfakes kan være et kraftig verktøy for å spre feilinformasjon. Ingen har blitt rammet for en forbrytelse eller faket deres død ved hjelp av deepfakes, men hva skjer når det blir vanskelig å fortelle hvilke videoer som er virkelig ekte?

Konsekvensene av deepfakes brukt for politiske formål er to ganger. For det første gjør det falske nyheter mye lettere å spre. Videoer er mer sannsynlig enn tekst eller bilder for å overbevise folk om at noe fiktivt faktisk skjedde.

Folk tror allerede overskrifter fra falske nettsteder uten bevis for å støtte sin historie. Plutselig vil falske historier ha “bevis” viser at politikere bekjenner misgjerninger eller gjør opprørende utsagn.

På den annen side, kan deepfakes også embolden politikere når dodging ansvarlighet. De kan alltid enkelt hevde at lyd- eller videoopptak er faktisk en djupfeil.

Hvordan kjemper vi mot dybfeil?

Mens mange tekniske bedrifter tar seg tid til å herske i deepfakes, utvikler en rekke mennesker verktøy for å bekjempe ondsinnede falske videoer. AI kan bekjempe hackere og cyberkriminalitet Hvordan kunstig intelligens vil bekjempe moderne hackere og cyberkriminalitet Hvordan kunstig intelligens vil bekjempe moderne hackere og cyberkriminalitet Med en cybersecurity talentmangel og cybercrime-epidemi, hvordan kan bedrifter bekjempe hackere? Med kunstig intelligens! Les mer, men det er også nyttig for å oppdage AI-manipulering i videoer.

AI-stiftelsen opprettet et nettleser-plugin, kalt Reality Defender, for å oppdage dypfaginnhold på nettet. En annen plugin, SurfSafe, utfører også lignende kontroller. Begge disse verktøyene tar sikte på å hjelpe Internett-brukere å skille seg fra fiksjon.

Fakta-sjekker nettsteder som Snopes også utvidet til å ringe ut doktrerte videoer. Men de har ennå ikke verktøyene for å automatisk oppdage deepfakes.

Selv det amerikanske forsvarsdepartementet investerte i programvare for å oppdage deepfakes. Tross alt, hva ville skje hvis en overbevisende video fra en verdensleder dukket opp online, erklære krig eller en missilstart mot et annet land? Regjeringene trenger verktøy for raskt å verifisere legitimiteten til en video.

Maskinlæringens utilsiktede konsekvenser

Det er ingen tvil om at AI-teknologi og dyp maskinlæring forbedrer våre liv på mange måter. Men teknologien har også utilsiktede konsekvenser.

Mens dårlige data er en stor hindring for maskinlæringsalgoritmer, spiller det menneskelige elementet også en rolle. Det er vanskelig å forutsi hvordan folk kan bruke bestemt teknologi for ondsinnede formål. Du kan finne ut mer om maskinlæring og tidligere feil i vår veiledning til maskinlæringsalgoritmer og hvorfor de går galt. Hva er maskinlæringsalgoritmer? Slik fungerer de Hva er maskinlæringsalgoritmer? Slik fungerer de Maskininlæringsalgoritmer er laget for å gjøre livet enklere og bedre systemer, men de kan gå galt med dårlige konsekvenser. Les mer .

Utforsk mer om: Kunstig intelligens, Deepfakes, Hoaxes.