“veldig mange av dere kan veldig mye mer enn meg”
Kristin Bergtora Sandvik.
Jurist!
Underviser i robot regulation. og etikk og jus og sånt.
Tatt med fagkoffert:)
God teknologi å tenke om hvordan vi skal regulere ting.
“ekte slides, oversatt av KI”
“litt toegget sverd. kanskje det mest intrusive som har kommet til markedet”
ny digitaliseringsminiser vurderer forbud.
Vurdere alle tiltak, også forbud. Men er ikke så enkelt å forby.
Hvordan kan et forbud se ut?
“jeg er ikke helt sikker på at de har lov til dette, men de har ihvertfall sagt det”
kommuner som vil forby KI-briller.
Hva er problemet? (bortsett fra at det er crazy)
Hvordan kan man regulere dette? Hvordan kan man forby?
(gjelder generelt på alt.)
Teknologiregulering
Identifisere problem (yt for kids?)
Hard law: Bindene jus
Soft law - etikk, normer, ikkebindende retningslinjer
Etiske rammeverk.
- Forstå debatter om overregulering, undereregulering, deregulering og forbud
- Hvordan henger det sammen med teknologioptimisme og solutionism (Big Tech løsningsorientering)
Lesestoff:
Alondra Nelson, The mirage of AI deregulation. Science 391, eaee4900(2026).DOI:10.1126/science.aee4900
Bacchi C. Introducing the ‘What’s the Problem Represented to be?’ approach. In: Bletsas A, Beasley C, eds. Engaging with Carol Bacchi: Strategic Interventions and Exchanges. The University of Adelaide Press; 2012:21-24. (Lenke)
Problemrepresentasjon
1000 milliarder filmer om dette…
Terminator, superintelligence. Techmiljøer, fan-fiction fra 90-tallet.
Hjelper å kunne dette for å forstå tekregulering.
må også vite noe om hvordan industri fungerer, hvordan markeder og regulering funker.
“En (ikke)løsning på jakt etter et verdig problem”
her sitter en vestlig person som ikke aner noen ting og tenker at vi skal løse dette.
Jeg har laget en tech greie, noen må finne et problem som jeg kan løse.
Innkjøpere i en virksomhet: kommer til å møte mange sonne.
(Om spiselige droner)
Whats’ the problem approach
Hvordan finner man ut at noe er et sAMMFUNSPROblem?
“Plutselig har man gjort noe som kriminaliseres”
Prostitusjon er et prakteksempel. Mange approaches, hva er egentlig provlemet? hvem er det synd på?
Aktiv dødshjelp, surrogati, vi driver på sånn hele tiden. Vi må se på probleminnrammingen (er problemet barnløshet, at fattige kvinner utnyttes, osv)
“Det nye som kan drepe oss alle - KI”
Hvilket type problem er forestillingen om at kunstig intelligens kan føre til verdens undergang..
Kineserene: “kommet like langt men mye raskere og tar det chill”
Politiske forslag
Jobbe bakover, analyse tar utgangsunkt i foreslåtte løsninger og arbeider bakover for å avdekke hvordan porbleemet er definet
synliggjøre antakelser som ligger til grunn
fokus på kritisk granskinign, ikke på å identifisere det egentlige eller virkelige
bare nyansere, ikke gi fasit?
nyttige spørsmål
- Hva fremstilles problemet å være (“diffuse KI-armageddon”)
- Hvilke antakelser ligger til grunn for å denne problemsforståelsen?
- Hvordan har problemstilling oppstått (hvor kommer ideer fra? Metaverse. Science fiction ligger til grunn? )
- Hva er det som ikke blir problematisert, hvilke forhold blir usynlige eller tause? (1 mann, bestilta jødsel, lagde bomber. “åh jeg må studere juss. velkommen”)
- Hvilke virkninger eller konsekvenser skaper denne problemframstillingen? (Tung måtte gå av, ikke nødvendigvis pga KI-brillene)
- Hvordan blir den skapt, opprettholdt, forsvart og utfordret?
HVa er problemet med KI-brillene?
- Overvåkning, “d e creepy”, personvern, (ansiktsgjenkjenning - fins, hvordan vet vi om den brukes eller ikke). Misbruk. Filmet uten at du ser at du blir filmet. Perverst.
- Misbrukes, svekke autoriteter.
- Datainnsamling. Big tek. (man kan lage mye penger ut av data)
- At det kommer til å bli misbrukt. At noen vil ha interesse av å overvåke. At ny teknologi kommer til å bli tatt i bruk. Teknologi blir bedre. Og en antakelse: vi liker ikke Meta
- Mediedekning. Barnehageansatt. Diskusjon. Overvåkningsscare etter 9/11 og Snowden osv, + scifi. Mangel på informasjon - hos befolkningen. Politikere gjør det som er populært. Hører til under annet punkt?
- Problematisering av debatten i seg selv og at de postivite sidene ikke kommer frem. Usynlige eller tause: Trene KI-modeller på reelle data. (stoppe kidnapping? Akselerere robotikk?). Skal vi synes synd på meta som sliter veldig med å få solgt sin teknologi?
- Virkninger eller konsekvenser: Regulering/data? Tillits-svekkende. Føler seg ikke trygg i offentligheten lenger. Særlig barna (alltid barna). “vi har gjort fryktelig mye rart. alltid er det barna. brukes ofte som knagg til totalovervåkning”
“Tilrettelegging - blir tilrettelegging for overvåkning. Filming og transkribering av foreleseninger.”
Hvordan folk oppfatter teknologi former reguleringen av den
“facemash på harvard” “foreldregenerasjonen har vært heeelt grenseløst”
Ludittene: teknologipessimister. Ødelegger maskinene. “svoger, kritisk infrastruktur. KI i kritisk infrastruktur. Ludittene blir skvist ut.”
Teknologioptimistene kanskje bedre å ha mobiltelefon enn ikke? Game changer. “Nå skal du få den spisbare dronen din”
Teknologisk utpoisme: Elon musk. r/accelarate
Skeptikere: ser fordelene og ulempene. Stille kritiske spørsmål
Brilleland: Game changer.
Solutionsism: Samfunnsproblemer kan løses gjennom teknologi. Opptak av forelesninger heller enn idnividuelle møter
Blander symtpomer og årsaker
Gjør enkeltpersoner ansvarlige. Teknologi gjør hver av oss ansvarlig (skritteller), ser ikke strukturelle provlemer
Delingsøkonomie — form for sosial støtte? Entrepenørvirksomhet. hvor ville du her?
Er det noe nytt her?
Du kan bare gå ned gaten, så sørger alle taxisjåførene for å ringe moren din om noe går galt.
Fungerer teknologi? teknologiodeterminisme, entene pessimmisme eller hype.
Er teknologi nøytral? Metabriller: åpenbart ikke. (ikke send den med jakob 8 år)
Reguleringsformer
Lovgivning. Kan ikke ha ny lob hber gang noe nytt kommer
Markedet. Skincare ekke så farlig, men er det medisinen din så er det dumt.
Hvordan balansere innovasjon mot hensyn til sikkerhet, samfunnsinteresser og grunnleggende rettigheter. (Må lønne seg for at det skal være fin)
Sosiale normer: Håndheving gjennom felleskap. Mobil ut av barneskolen. Mobilisering, kampanjer og boikotter.
Arkitektur (kode/design): Hindre terrorangrep med blomsterpotter. Algoritmer kaster folk ut av facebook.
Geofencing: Teknologien kan regulere seg selv?
Kode/design — briller uten slike funksjoner. Leverandører må vannmerkes på et vis. Pedo-briller.
ChatGPT: kan du gjøre slemme ting? nei det er upassende. (men jailbreaking)
Hva som skal reguleres “spiler” en rolle
Finne opp motteknologier. (KI-brille-detektor)
Vanskeligere å regulere datasett.
Robotikk, cyber-fysiske systemer
Forsyningskjeden: hvor i forsyningskjeden kan vi forby?
Kina: får til å regulere KI. god kontroll på tek-entrepenør, og nuhetsbilde.
Overvåkning av befolkning, pluss privat sektor under kontroll.
Deregulering: hva og hvorfor
Færre regler, enkeler krav, lav barriere for innovasjon og markedsadgang.
Mindre demokratisk, økt usikkerhet, svære beskyttelse av rettigheter og samfunnsinteresser. Datasentre. Tenker man skal få arbeidsplasser, men får ikke det. (Green Mountain, 20 arbeidsplasser, tiktok, tar 60% av strøm. “lett å regulere KI-briller, vanskelig å stå imot Green Mountain”)
redusert evne til å møte langsiktige samfunnsutfordinger!!!!
USA
makten forsvinner ikke, den flyttes til der den er mindre synlig.
Statene bør kunne regulere KI. prøver. “Washington drain the swamp”
Innvandringskontroll - påvirker tilgangen på KI-talent. “For usa er dette helt krise.” (men de soper jo opp masse folk fra Kina bl.a. og europa!)
“trump våkner opp på mornignen og tenker at Island skal bli et datasenter”
Politisk skjønn. “hopper over politikken”
KOnssevkenser
oligarkstyre i USA.
Rikeste i verden blir rikere og trenger ikke bry seg lenger.
KI reguleres - men av hvem og på hvilke premisser
Overregulering
Reglene blir mer omfattende enn nytte tilsier
Bremser innovasjon og vekst (byggeindusrti? Kilma/boligmarkedet)
Byråkrati, dokumentasjon og kontroll tar tid og ressurser.
Nye reguleringer oppå de gamle.
Underregulering
Tobakksindustrien - dette er ikke farlig:) Underregulert + lobbyvirksomhet. Farlig!!!
“kanskje alle kokainbrukere bør sendes til colombia”
Da jeg underviste: før KI-reguleringen i EU
“nå har vi laget etikkregler for KI” bunke på bunke.
Hva er etikk? Litt sånn squishy.
Etikkwashing: snakk om etikk utenå endre praksis.
“optpatt av å være etiske - unngår regulering”
Investering i etikk blir et alternativ til hard regulering. Nå er de ferdig med å late som de ser snille, og ikke interessert i å blir med i disse konvensjonene.
etikk har ikke hjulpet oss å få orden på teknologigigantene. “nå rer det opp til dere å redde verden”
KIbrillene igjen
“de er anvarlige og tar opp etikk” Trygg bruk og persovern. “Siden når brydde optikere seg om personvern?”
Diskusjon og debatt: Være åpen, gi konkrete råd, justere informasjonen vår fortløpende dersom rammevikkår eller prasksis endres.
“Hva gjør Brilleland for å sikre ansvarlig bruk” “ring kundeservice for spørsmål om personvern. gjerne en av dere i morgen ring”
Hjelp Micaelsen!
Argumenter for totalforbud:
- Overvåkning. Dra det langt.
- “Vår analyse: 10000% mer barnepornografi”
- Umulig å be om samtykke
- Datasikkerhet. Tekgiganter.
- Se fremover!
- VR manipulasjon om noen hacker brillene dine
- Bidra til å trene opp superintelligens???
- Sårbare grupper. Witness protection.
Hvem har vi kontaktet?
Alle som være rammet:
- vi har blitt kontaktet av jurister, av blindeforbundet, av bekymrede foreldre, av sårbare grupper som føler seg truet.
Debatt
For:
- hva er forskjellen på disse brillene og andre små kameraer?
fordeler ved smarte briller - brillene i seg selv er ikke creepy, formålet er creepy
- Vi har personvernregulering, GDPR, vi trenger ikke mer spesifikt
øyeblikket lobbyister er fiendtlige aktører har vi et helt annet problem.
Staten:
Alle briller i offentlighet må være gjennomsiktige?
Veldig vanskelig å forby salg av ting —> svart marked.
Regulere.
Klarer vi holde tritt? Hva med når KI-linsene kommer?