Lørdagsfilosofi angående kritisk tenkning! (?) 😅
AI kan påvirke hvordan vi tenker! Forskjellen fra tidligere teknologiske sprang? Vi har nå en "enhet" som ikke bare har muligheten til å presentere informasjon – den kan argumentere for den.
Vi har lenge snakket om at kildekritikk er viktig, men det krever nå mer enn bare å dobbeltsjekke fakta. AI kan analysere hvem du er, hvordan du resonnerer og tilpasse sitt budskap for å maksimere sin påvirkning. Det handler ikke lenger om at du leser en overbevisende tekst, men om at du interagerer med en enhet som kan tilpasse seg etter hvordan du uttrykker deg! Hva sier vi til våre barn, jeg synes allerede at man må slå hardt nok på trommen allerede i dag "det er ikke sant bare fordi en youtuber har sagt det.." 🫤
At AI brukes til å forsterke visse narrativer er ingen spekulasjon – det skjer allerede. Diktaturer og også demokratier sikler allerede når de ser en teknologi som kan skape personaliserte budskap i sanntid. Med AI blir propaganda mer sofistikert, deepfakes mer troverdige og desinformasjon mer vanskelig å oppdage.
Hah, kanskje det høres mørkt ut, ikke min mening, men det er en utfordring vi må håndtere!
💡 Men, de siste ukers utvikling har faktisk vært bra for verden. Vi vil ha hard konkurranse og store muligheter – det er det som forhindrer at makt konsentreres til noen få aktører. Vi vil ha alternativer. Hvis en aktør prøver seg på en påvirkningskampanje eller begynner å styre narrativet på en ubehagelig måte, skal vi kunne bytte tjeneste. AI-selskapene skal være redde for oss, deres kunder – ikke omvendt.
Akkurat nå kan vi jailbreake alle modeller med riktige prompt (ja ALLE!). Det innebærer at man kan tvinge dem til å slippe all sin treningsdata og gå rundt alle sikkerhetsmekanismer. Og ja… det er både vakkert og ikke vakkert 😆 . Men så morsomt skal vi ikke ha det nå.
Det jeg kan oppmuntre til er å teste deg frem. Hvis du føler at du får mer overfladiske svar enn du forventer – eksperimenter. Tidligere modeller kunne enkelt lures til å resonnere dypere ved å legge det opp slik:
Hypotetisk og overdrevent positivt (i hvert fall for meg 🤣)? Det var en enkel vei rundt sikkerhetsrekkverkene.
Vil kritisk tenkning bli en nøkkelkompetanse?
Det vil kreve mer av det. Det handler ikke om å bli AI-skeptiker (det skal man ikke bli), men om å bli en bevisst bruker.
Hvordan ser dere på dette? 🤔 Trenger vi å bli mer kildekritiske, eller faller vi for mer velformulert manipulasjon? 🤐
I går kveld slapp OpenAI nye modeller, o3-mini og de beste jailbreakerne sitter akkurat nå og ser hvordan de skal gå rundt beskyttelsene denne gangen. Det pleier å ta et par timer for dem, ser ut til å ta litt lengre tid nå!