Nackdelar med ai: ai på svenska
Nackdelar med ai:
AI i vården – möjligheter och risker
Vilka risker finns det med AI? AI är lockande eftersom det är väldigt användbart. Men det finns också risker förknippade med att ge AI-verktyg alltmer makt över beslut som kan påverka människor AI finns överallt och det blir allt vanligare att olika typer av datorsystem använder AI i stort som smått. På alla nivåer i samhället tittar man på hur AI kan användas för att underlätta arbetet. Det finns pengar att spara och rutiner att effektivisera. De som är positiva till tekniken pekar på att AI-verktyg kan användas för att avlasta människor från tidskrävande och svåra arbetsuppgifter. Andra ser med oro på hur ett arbete som tidigare behövde göras av en människa nu kan utföras av en maskin eller ett datorprogram. Ett datorprogram som inte behöver någon lön och aldrig tar en paus, som inte vill gå med i ett fackförbund och aldrig har en dålig dag på jobbet. Kommer AI göra oss alla arbetslösa? Kommer AI ta över arbetsmarknaden och göra alla människor arbetslösa?
Fakta om ai
Men samtidigt medför AI många etiska och samhälleliga utmaningar. Vid ett etiksamtal i Almedalen diskuterades hur vi kan ta tillvara möjligheterna och undvika problemen. Emma Engström, forskare vid Institutet för framtidsstudier och Kungliga tekniska högskolan, beskrev AI som en teknik som utvecklas över tid i interaktion med andra. AI-verktygen gissar, och i början gissar den ofta fel men med tiden gissar den mer och mer rätt. Ju bättre data den tränas på, desto mer rätt får den. Vi kanske kan acceptera att ett AI-verktyg gissar fel när den ska rekommendera film eller musik, men kan vi acceptera att vissa får felaktiga diagnoser? En annan svårighet är att ett AI-verktyg kan vara bra i genomsnittsfallet men sämre för vissa grupper, till exempel minoriteter, eller vissa individer. Det kan också vara den AI som är svårast för människorna att förstå som fungerar bäst, enligt Emma Engström. Nasim Farrokhina, hälso- och sjukvårdschef vid Microsoft Västeuropa och ordförande i eHälsoläkarföreningen, hävdade att även vi människor gissar och blir bättre på att gissa rätt med tiden, när vår erfarenhet ökar.
AI i skolan – risker och möjligheter
AI används på många olika områden, däribland tillämpningar inom säkerhet, trygghet, biometri, hälso- och sjukvård och bilindustrin. Trots de obestridliga fördelar som finns med AI medför dennes användning nya risker och sårbarheter. AI-system har svagheter som kan leda till olika typer av risker och, i vissa fall, allvarliga konsekvenser. Exempel på svagheter är bräcklighet brittleness , inbyggd diskriminering embedded bias , katastrofal glömska catastrophic forgetting , förklarbarhet explainability , eller snarare dennes avsaknad, och kvantifiering av osäkerhet quantifying uncertainty. Bräcklighet Bräcklighet innebär att ett AI-system endast producerar bra resultat inom väldefinierade gränser. Så fort gränserna överskrids, slutar AI-systemet att fungera som det ska. Bräckligheten beror på att ett AI-system i många fall endast kan känna igen ett mönster som det har sett förut. Detta leder till att AI-systemet kan luras genom att visa det ett nytt mönster som det inte har sett förut.
Ai i vardagen
Skolverket har ett antal rekommendationer på området och erbjuder stöd på olika sätt till huvudmän, rektorer och lärare. Chatbottar och AI är ett nytt fenomen i samhället och i skolan. Genom AI-teknologi är det möjligt att exempelvis få hjälp med att skriva och bearbeta texter av hög kvalitet. Det gör det svårare för lärare att upptäcka om eleven använt en chattbot för att producera en text eller ett svar. Tydliga rekommendationer kring fusk Med anledning av den här utvecklingen gick Skolverket i våras ut med nya rekommendationer kring inlämningsuppgifter. Skolverket avråder från inlämningsuppgifter som är betygsgrundande, om man som lärare bedömer att man inte kan säkerställa tillförlitligheten i innehållet, säger Alper Yilmaz, undervisningsråd på Skolverket. Inlämningsuppgifter kan användas som övning, men eftersom betygssättning är en myndighetsutövning måste den vara tillförlitlig och rättssäker. Det bygger på att betygsunderlaget går att lita på och att det uttrycker elevens kunskaper i ämnet.