Leselekse:
Vector grounding problem
Sara Pernille Jensen. Georg Morgenstjerne:) Computational physichs, phd i filosofi
Illustrere filosofisk metode:)))
Emilies anbefalte ekstralitteratur: variabelnavn!
Problemorientert filosofi
ikke nødvendigvis “hvem som sa hva” men heller “hvordan skal vi få løst disse problemene”
Tankeeksperimenter “intuition pump”, analogier.
Konseptuell analyse: Nødvendige og tilstrekkelige vilkår for at et konsept er tilfelle. (logikk:)
Alle tilfeller av K må innfri nødvendige vilkår, og alle tilfeller som innfrir nødvendige vilkår må være tillfeller av K
Nødvendig og tilstrekkelig vilkår: Partall er delelig med to. (dette er definisjonen på at partall er delelig med to)
Nødvendige og tilstrekkelige vilkår gjør at man kan få en enighet om hva man snakker om.
Det kinesiske rommet
Funksjonalisme: Egenskaper knyttes til funkjsoner, observerbare funksjoner. To systemer som har samme observerbare funkjsoner, har samme egenskaper.
Riktig algoritme (observert utenfra) = bevissthet
Searle er veldig uenig.
Sterk KI: Datamaskiner eller programmer kan oppnå forståelse.
Forstå kinesisk: å klare å oppføre seg som noen som forstår kinesisk.
Jeg kan være maskinen som kjører “algoritmen” kinesisk, uten å forstå kinesisk.
Fra utsiden kan boksen kinesisk. Men ingen i boksen kan kinesisk. Kun syntaktisk manipulering. Er dette forståelse? (Og mer interessant: Kan intelligens oppstå fra kun ikke intelligente deler ? Se lenger nede.)
At funskjonalitet forståelse/bevissthet, kan derfor ikke stemme. Algoritmen opererer på symboler den ikke forstår
Dette er på ingen måte tilstrekkelig bevis for at maskiner er bevisste.
Syntaks og semantikk
Ikke det samme. Semantikk: meningsinnhold.
Argument er at meniningsinnholdet kommer ikke fra syntaks alene. (Yudkowskis endrete variabelnavn)
Hvordan får egentlig symboler mening?
Kan man lære kinesisk av en kinesisk-til-kinesisk-ordbok? Syntaktisk karusell.
Stokastisk papegøye uten betydning, syntaktisk regelbok.
På en eller annen måte forankre symboler i virkeligheten. HVORDAN???
Mening i maskinlæringsmodeller
Har output iboende mening uten menneskelig tolkning? (kopimaskin kopierer menneskers intensjon)
Intensjon —> metaforer, analogier. Hva er den faktiske meningen?
LLMs “har ikke samme mekanismene som gjør at ordene jeg sier, har faktisk mening”
Spørsmål: Spiller det noen role om output fra genereative sprjnodeller har en iboende mening, utover vår tolking?
Hvordan skiller man?
Andrii: Verden eksisterer. (Maskinen “vet” at verden eksisterer )
Pragmatikk handler om mening
Intenjonsbasert mening. (Et språk ingen forstår, har ikke mening)
Iboende mening —> iboende intensjon.
Har noe å si for om vi anser språkmodeller som bevisste.
Hvordan kan man feiltolke noe som ikke har noen iboende mening (intensjon)?
Hva betyr det å ha en betydning?
GIr det mening å snakke om mistolkning når noe ikke har noen betydning?
“nei, men den mente egentlig dette?” når den egentlig ikke mente noe som helst?
Fra funksjonalistisk perspektiv har LLMs bevissthet, men da forstår boksen kinesisk.
Poenget til Searle: bevissthet er ikke det samme som funksjonalitet. Sier ingentign om LLMs faktisk er bevisste, men det er ikke et krav i seg selv.
Hennes konklusjon: Det har noe å si, og det kan få faktiske konsekvenser
5 typer forankring
Fra artikkel
Kun “refererende” forankring som er nødvendig. De 4 andre er karuseller.
Symboler som refererer til ting i verden. (HVORDAN SKJER EGENTLIG DETTE)
Searle: Forståelse og intensjon —> krever kognisjon. (som betyr hva?) (krever egentlig bevissthet)
For nå antar vi at de ikke er bevisste. Kan de ha mening likevel? Da krever det noe annet.
Refererende forankring vha kausalitet og historisk funksjon.
tredje teori: Både relasjonell og refererende.
Alternativer til intensjon (intensjon impliserer bevissthet)
Kausal-informativ-kobling. Symbolet inneholder informasjon om tingen - det må også være en pårvirkning mellom ting. Kausale ledd fra ting representert til representasjon.
hva betyr dette egentlig. Forankring i vden - sannhetsverdi? “forståelse” av årsak/virkning, historisk — forståelse av tid også? Aner ikke
Nødvendig, men ikke tilstrekkelig krav. Iboene mening: systemet må bruke representasjonen for formål, som knyttes til at noe har en funksjon.
HVa er en funksjon. Biologiens filosofi. Hjertet pumper blod, fordi det har blitt utviklet (gjennom evolusjon) for å pumpe blod. Må ha en mulighet for misrepresentasjon.
Symbolet må ha ssannhetsbevarende og verdensinvolberende FUNKJSON. historisk funkjson.
Dette er nok for å ha en iboende mening.
“a representation is a stand-in that is relied on by ac consumer to allow it to deal with some ecternal state of affair. The a consumer uses the state X as as a guide to something else Y that is does mot ahve avvess to driectly. The idea is not that the consumer reads or interprets the trepresentation, but simply that it reacts to an intermediate state in a aparticular way.”
ANalogi med kognitive representasjonlr. Trenger ikke forstå hva det betyr, men responderer på adequate måte. Verdensivnvolvernde funkjson.
Historisk funksjone: posttrening finetuning basert på f-eks. sannhet, tolkbarhet, nytteverdi, moral. Som gjør at output kan få iboende betydning.
Strukturell likhet
stabil statistisk samvariasjon av konsepter.
Mener at språklig syntaks enkoder virkelige strukturer —> semantikk kan man få fra ren syntaks.
Dette gjelder også for språkmodeller. Geometri vil tilnærmes de faktiske lokasjonene. Farger. Begge kan utledes fra matematikk?
Mening fra ren struktur…
Veldig omdiskutert.
Søgaard. Noen mener at disse internerepresentasjoenne ikke egentlig finnes.
posisjonelle strukturer? noe kan falle ned kanskje?
Spørsmål
Hvorfor er det viktig at vi kan skille mellom?
Hvordan vi forholder oss til LLMs. Etikk? Bruk.
Juss: Har dette mening eller ikke? Sosialt viktig…
Kan man vite hvordan mennesker tenker? Dobbel standard. Mennesker er ikke noe bedre. Etterrasjonaliseringer, og er ikke selv klar over egne fordommer.
Iboende mening: a posteori kunnskap? Kan KI ettterlikne dette om resten er empiri
Hvis jeg refererer til tallet tre, og katten min, så har jeg en forståelse av hva jeg snakker om (en lik forståelse). Min forståelse av hva jeg sier, er viktig for meningen i hva jeg sier.
Språkmodeller kan ikke dette er hypotesen.
Det at du har en intensjon, impliserer iboende mening.
Rettigheter? Moral circle expansion.
Kan man si at det kinesiske rommet i seg selv har en forståelse?
Kinesiske rommet i seg selv har en forståelse, men ikke enkeltkomponentene. Searle svarer på dette.
Argument om at ingen av enkeltkomponentene forstår noen ting, så da kan ikke helheten forstå noe. Men dette er sant? (Atomer er ikke intelligente. Se elan vital)
Det bedre motsvaret: Personen blir papegøye. Forstår og ikke forstår på samme tid. Internaliserer regler. Virker ikke som det er tilstrekkelig?
Personen forstår ikke, men systemet personen forstår. Hva betyr forstår?
Hva har iboende mening å si for oss?
Har mer å si for hvordan vi forholder oss til llms, ikke kvalitet for outputen.
Vil føles bedre om kineseren forstår deg.
Sannhetsbevarende svar trenger ikke være iboende mening, heller
Bevissthet: hive mind? Konseptuelt nytt, menneskelig bevissthwet vil være særeksempel. Kombinere modeller, trene dem videre, kopier, etc.
HVa er forskjell på subjektiv opplevelse og iboende mening?
Bevissthet subjektiv opplevelse intensjon iboende mening
Andre mekanismer som kan gi iboende mening?
hva var de to ulike representasjonenen0
Strukturer i hjernen representerer det som skjer rundt oss. Nevrovitenskap. Kan hjernen representere virkeligheten? Usikkert.
Representasjon. holder ikke at de bare har informasjonsmessig tilkobling, men må også bruks
Moral, nytteverdi og sannhet er egenskap ved virkeligheten??
Hva er iboende mening hvis det ikke er intensjon/hensikt, ikke direkte sannhet.
Matematikk er kanskje noe annet enn virkeligheten.
Kvalitet i output i kineseren… vil føles annerledes.
Behaviour