Med en bred utbildning som Liberal Arts kan det ibland vara svårt att realisera sina möjligheter. Åtminstone har jag tampats en hel del med detta under utbildningens gång, inte minst när det blev dags att söka praktik. AI Sweden kan till exempel upplevas vara en ganska udda plats för en humanist. Tack och lov hade jag turen att komma i kontakt med min handledare Francisca. Hon är doktor i historia och ansvarig för projektverksamheten Natural Language Understanding på AI Sweden. Hon har stärkt mig i min övertygelse om att ett meningsfullt sätt att definiera sin roll som humanist är att förhålla sig till de stora samhällsutmaningarna och att humanistiska kunskaper både behövs och används dagligen i centrala delar av samhällslivet och teknikutvecklingen.
För att återgå lite grann till mitt tidigare inlägg, så är ju AI-system djupt förankrade i specifika sociala, kulturella, politiska och ekonomiska sammanhang, på grund av träningsdatan som används för att bygga språkmodeller. Diskriminerade slutresultat kan följaktligen förekomma beroende på vilken data AI-system har fått träna på och i vilken kontext AI-system sedan används, men även genom underliggande fördomar hos den mänskliga programmeraren. Den stora mängd data som används är inte alltid representativ för slutanvändaren. Ett sådant exempel var när Amazons HR-algoritm skulle ta fram lämpliga kandidater för en framtida anställning, men på grund av förlegade könsnormer i träningsdatan rekommenderade AI-systemet givetvis män före kvinnor i ansökningsprocessen. För att förstå träningsdatan och dess konsekvenser för AI modeller krävs ämnesexpertis.
När jag kom till AI Sweden hade min handledare fullt upp med att boka in möten med olika forskare i syfte att samla medlemmar till ett nytt tvärvetenskapligt samarbete för att adressera just denna utmaningen med träningsdatan. Tillsammans har vi träffat olika forskare inom humaniora och samhällsvetenskap för att diskutera AI, deras eventuella roll i utvecklingen och hur de kan utnyttja språkmodeller, som GPT-SW3, för deras egen forskning. Tanken med projektet är att involvera ämnesexperter i utvecklingen av språkmodeller, dra nytta av befintlig domänkunskap och arbeta tillsammans med tillämpande utmaningar – en slags plattform för kunskapsutbyte och för att ta itu med frågor som rör data, representativitet, jämlikhet och etik. Min roll har varit att samla relevant research inför mötena, läsa på om liknande interdisciplinära initiativ och resultat och samla underlag till ansökan som skulle skickas in till Vinnova. Och mycket bara följa med i processen av att skapa ett projekt, få lyssna och inspireras.
Ibland upplever jag att utvecklingen av artificiell intelligens beskrivs som någon slags ostoppbar naturkraft. Men den artificiella intelligensens inflytande kommer väl bara bli så stor som vi själva medger? Att då involvera personer som stannar upp för att kritiskt granska och ifrågasätta utvecklingen av AI tror jag är nödvändigt för att motverka felanvändning, eventuell bias och eventuella fördomar hos AI-system. Vikten av att ge sig själv tid att stanna upp och tänka för att fördjupa kontakten med verkligheten är ju känt av filosoferna, det är sen gammalt.
/Saga
