AI är korkad

16 oktober

Alla pratar om AI. AI är det nästa stora teknikskiftet som kommer förändra allas våra liv. Med AI kan vi alla göra mera, lättare och mer korrekt. Vi kan skriva bättre. Vi kan gissa bättre. Vi kan skapa lättare. Ja AI kan nog göra allt utom att älska någon, smeka någons kind eller bry sig om någon annan individ. Ai kommer förvisso antagligen uttrycka sig som att den bryr sig om någon men det kommer bara vara mönsterupprepningar.

Det är inte så att jag ifrågasätter AI och det tekniksprång vi ser framför oss. Men det vi inte får glömma är att AI egentligen bara är en massa matematik, mönsterigenkänning och algoritmer för att leverera det som önskas. Det finns ingen intelligens, enbart massiv ointelligent beräkningskraft. Att det kan låta intelligent är mera ett bevis på att vi tillskriver programmen mänskliga egenskaper, liknande det vi tillskriver djur, fiskar och fåglar i trädgården. (Fast de har åtminstone en hjärna, om en liten och det de känner är på riktigt).

Men det finns två saker jag stör mig på när det gäller de vanligaste AI-programmen såsom CHATGPT, Jasper, Writer mfl:

1. Varför är den så jäkla korkad?
2. Varför erkänner den aldrig när den har fel?

Jag vet inte hur många gånger jag bett chatGPT lista upp olika saker, ämnen, namn, personer eller något annat. I princip varje gång levererar algoritmen och matematiken fel svar.

Ett exempel till chatGPT: Lista 10 ord på fem bokstäver som börjar med ett ”d” och som innehåller bokstaverna ”a” och ”e”

ChatGPT levererar 10 ord varav ett ord är ”Datum” som inte innehåller något ”e”, samt orden ”delae”,”dazer” och ”delae”. Dessa ord är troligtvis fiktiva påhittade ord. De finns inte i någon ordbok på engelska eller svenska. Jag utesluter dock inte att de kan finnas på något annat språk såsom latin, serbokroatiska eller något annat levande eller dött språk som funnits med i ordmassan som chatGPT baserar sina resultat på.

Det är det som är skrämmande med AI. Vi vet inte vilken typ av data som ligger till grund för dess svar. Låt oss anta att Hitlers Mein Kampf samt Görings alla manifest skulle matas in till chatGPT i miljoner exemplar.
Skulle då chatGPT basera sina svar på dessa och leverera nazistiskt orienterade svar?

I exemplet ovan är det också tydligt att frågan kanske var otydligt ställd: ”Lista 10 ord på fem …”. Det står faktiskt inte på vilket språk orden ska vara, eller om det ska vara moderna ord eller historiska ord från 1200-talet. ”Som man frågar får man svar” heter det ju.

Vi är inne i en fas där AI görs tillgänglig på bred skala. Det finns i princip i alla moderna appar, i sociala medier, kreativa program osv. Jag säger inte att vi inte ska sluta använda dem, men vi måste vara kritiska till svaren och källorna svaren extrapoleras från.

För AI är ett korkat verktyg på samma sätt som en hammare är korkad. Vi måste lära oss att använda hammaren på rätt sätt så vi inte spikar oss i tummen.

För det gör ont.