De virale bildene av USAs tidligere president Donald Trump hvor han blir arrestert av amerikanske myndigheter, og paven i en stilig hvit frakk, skapte store overskrifter for noen dager tilbake. Nå skaper de også debatt angående fremtiden til nyhetsplattformer.
Bildene, som ble dannet med hjelp av AI-bildeprogrammet Midjourney, er nå i sentrum av bekymringer om medie-troverdighet, og flere har uttrykt ønsker om å innføre strengere tiltak rundt kunstig intelligens.
Truer med å forurense informasjons-økosystemet
AI-teknologi er uten tvil revolusjonært, og har i stor grad bidratt til flere kreative måter for både bedrifter og individer å uttrykke seg på, men den raske spredningen av AI-genererte bilder på nett truer med å forurense «informasjonsøkosystemet», eller det vi i dag oppfatter som pålitelige nyhetskilder, samt nyhetsrapportering.
Det er stor sjanse for at bilder som de av Donald Trump og paven Francis vil fortsette å dukke opp på sosiale medier. Dette skaper selvsagt ytterligere problemer for nyhets- og sosiale medie-plattformer når det gjelder å skille mellom hvilke bilder som er ekte og hvilke som er falske.
Det at det dukker opp falske bilder på sosiale medier eller i nettaviser er nemlig ikke et nytt fenomen, men nå som teknologien har utviklet seg videre, er det større sjanse for at folk blir lettere lurt.
I tillegg til de virale bildene av USAs president, finnes det mange uekte bilder som sirkulerer på nett som også har blitt opprettet med Midjourney. Noen finnes til og med på en Facebook-side som er svært populær blant Midjourney-brukere, Midjourney AI.
Det uttrykkes også frykt for at skuespillere kan forsøke å skape falskt innhold på sosiale medier, eller foreslå at ekte innhold er falskt for å skape forvirring.
Selv mener Dan Becker, den administrerende direktøren for “Memetica” – en gruppe som jobber med å behandle digitale trusler – at de virale bildene skaper en nyttig casestudie som hjelper oss med å forstå hvilke problemer som mulig kan oppstå med AI-teknologi.
Bes om å bremse AI-utvikling
Det er ikke bare AI-genererte bilder som skaper frykt blant folk. Også den populære chattetjenesten ChatGPT har fått stor oppmerksomhet fra blant annet den frivillige organisasjonen Future of Life de siste få ukene.
Organisasjonen, som mener at kunstig intelligens bør haltes inntil bedre sikkerhetssystemer er på plass, samlet inn rundt 1000 underskrifter i en underskriftskampanje. De har også bedt regjeringen om å ta grep.
Blant annet Elon Musk og Apples medgründer Steve Wozniak foreslo en pause på minst 6 måneder i et åpent brev. I brevet ble det også lagt vekt på at kunstig intelligens skaper «store risikoer for samfunnet og menneskeheten».
Det er fortsatt uklart om selskap som OpenAI, skaperen bak ChatGPT, faktisk kommer til å ta denne advarselen seriøst.
Midjourney setter pause på gratis prøveperiode
På grunn av økt etterspørsel og misbruk av Midjourney har programmets administrerende direktør, David Holz, valgt å begrense tilgang til visse funksjoner. Dermed vil prøveperioden ikke lenger være tilgjengelig til nye brukere.
Brukeren som står bak de falske bildene av Trump har siden blitt utestengt fra plattformen, og det spekuleres at skaperne til de virale bildene – en av dem gründeren til plattformen for undersøkende journalistikk Bellingcat – ikke skal ha ment noe vondt med dem.
Holz har uttrykt at moderering har blitt ekstremt vanskelig de siste årene, men at selskapet jobber med å ta til seg alle slags tilbakemeldinger fra både eksperter og brukere.
Sikkerhetsmetoder settes på plass
Fordi at bilder har en tendens til å vekke sterke følelser i enkeltmennesker, fryktes det at falske AI-bilder vil gjøre store skader i lengden. Dermed arbeider flere AI-selskap og sosiale medie-plattformer nå med å innføre strengere regler rundt både bruken av AI-program, samt deling av bilder som blir utviklet med dem. Mange av dem har allerede regler som forbyr delingen av manipulerte bilder eller annet medieinnhold som kan villede brukere.