Professorn om AI: ”stokastiska papegojor”

Lingvistikprofessorn Emily Bender, vid University of Washington, har väckt starka reaktioner i AI-kretsar genom att ifrågasätta om modern AI faktiskt har något med intelligens att göra. Hennes slutsats är tydlig: AI är i grunden bara avancerade system för automatisk textgenerering, och bör inte uppfattas som medvetna eller intelligenta.

Bender kallar språkmodeller för ”stokastiska papegojor”

Det stora genombrottet för Bender kom med forskningsartikeln från 2021 där hon tillsammans med kollegor myntade begreppet ”stokastiska papegojor” för att beskriva språkmodeller som ChatGPT och liknande. Enligt Bender är dessa modeller tränade på enorma mängder text och genererar svar baserat på sannolikheter, utan att förstå vad de säger. Hennes kritik fick stor uppmärksamhet eftersom två av medförfattarna var anställda av Google och fick lämna företaget till följd av debatten kring artikeln.

”Kejsaren är naken” – varför AI-hypen är vilseledande

I en intervju med Financial Times förklarar Bender att hon upplever motstånd för att hon ifrågasätter det som många ser som den främsta teknologiska innovationen inom AI-området. Hennes berömda kommentar ”Kejsaren är naken” är en tydlig metafor: AI-systemen imponerar på ytan, men har inget ”inre liv” eller förståelse.

Bender menar att den massiva övertygelsen om att AI är större än internet delvis drivs av kommersiella intressen. Teknikbolag har mycket att tjäna på att sälja in AI som revolutionerande – även om systemen i grunden bara automatiskt genererar text utifrån statistiska samband.

Kritik och konsekvenser inom AI-forskningen

Bender och hennes kollegor har fått utstå hård kritik för sitt motstånd mot AI-hypen, både från teknikföretag och från entusiaster inom fältet. Hon lyfter riskerna med att AI-svar används okritiskt och menar att samhället lätt vilseleds när automatisk textproduktion presenteras som någon slags förståelse eller kreativitet. Bender förespråkar mer transparens, ökad algoritmläskunnighet och ett kritiskt förhållningssätt när AI ska bedömas i forskning och samhälle.

Hänvisning till källa

Artikeln baseras på en intervju och analys från Omni Ekonomi, samt ytterligare expertkommentarer och recensioner från Critical AI, Tech Policy Lab, Geekwire och Radical AI podcast.