Apple-medgründer, Steve Wozniak, og Tesla-sjef, Elon Musk, har sammen med flere andre teknologiledere bedt AI-laboratorier om å pause utviklingen av kunstig intelligens. Det melder CNBC.
I et åpent brev, signert av mer enn 1000 personer, ber den frivillige organisasjonen Future of Life alle AI-laboratorier om å bremse utviklingen i påvente av flere sikkerhetssystemer. Dette fordi de oppfatter kunstig intelligens som en trussel mot menneskeheten.
Mener avanserte AI-systemer utgjør en risiko for samfunnet
Etter at ChatGPT kom på markedet i fjor høst, har teknologigigantene jobbet hardt for å utvikle de kraftigste AI-modellene. Mange har likevel advart mot utbredt bruk. En av dem er Elon Musk, som faktisk er en av grunnleggerne av OpenAI, selskapet bak ChatGPT.
Musk har en rekke ganger åpenlyst kritisert OpenAI og ChatGPT. Han mener blant annet at den populære chattetjenesten avviker fra dens opprinnelige formål, og at misbruk av teknologien kan resultere i spredning av desinformasjon.
I det nylig publiserte brevet kommer det frem at Musk og de øvrige forfatterne, deriblant Berkeley-professor Stuart Russell, mener at teknologien kan føre til betydelige endringer:
“AI-systemer med intelligens som kan konkurrere mot menneskets intelligens, kan utgjøre en reell trussel mot samfunnet og menneskeheten.
Kraftige systemer for kunstig intelligens bør ikke utvikles før vi føler oss sikre på at effektene vil være positive og risikoen mulig å håndtere.”
Ønsker sterkere reguleringer og flere sikkerhetsmekanismer
Future of Life Institute stiller videre flere retoriske spørsmål.: “Bør vi la maskiner overfylle informasjonskanaler med usannheter og propaganda, og hvor lurt er det å utvikle systemer som kan overliste oss og gjøre oss overflødige?” Brevet konkluderer dermed med at en umiddelbar pause på minst seks måneder er nødvendig.
Future of Life Institute, som er en organisasjon med et mål om å redusere globale katastrofer og eksistensielle risikoer menneskeheten står overfor, påpeker at det er behov for sterkere reguleringer. De mener at den foreslåtte pausen bør brukes på å integrere bedre sikkerhetssystemer, og ber samtidig regjeringen om å bryte inn.
Også Europol, EUs byrå for politisamarbeid, har ytret bekymring om hvordan AI, og da især ChatGPT, kan utnyttes av kriminelle. Det fremkommer i en nylig publisert rapport.
I rapporten skriver de om en økende frykt for at det blir enklere for svindlere å utføre dataangrep. Da i form av en såkalt phishing-svindel, også kjent som nettfisking. De mener teknologiselskapene har et stort ansvar med å stenge potensielle smutthull som kan utnyttes av kriminelle, og at de må få på plass flere sikkerhetsmekanismer.
Skyhøy AI-interesse
På tross av alle advarslene har oppmerksomheten rundt AI skutt til værs. Ifølge Reuters har forskere sett med vantro på hvor presist den mye omtalte chattetjenesten ChatGPT klarer å fremkalle menneskelig respons på diverse henvendelser.
Økende interesse for den raskt voksende nisjen har også investorer vist. Aksjene til mange av selskapene som driver med utvikling av kunstig intelligens, kan vise til en meget sterk vekst de siste par månedene.
Noe mindre interesse har det ikke akkurat vært for kryptovaluta relaterte til kunstig intelligens, gjerne omtalt som AI Crypto. Flere av de mest populære kryptovalutaene innen AI har opplevd en økende etterspørsel siden begynnelsen av det nye året.