Igår släpptes en 21-minuters video som demonstrerade den kommande kanalen Channel 1, en helt AI-genererad nyhetsstation. Troligtvis kommer vi att se otaliga liknande initiativ framgent. Utvecklingen väcker många frågor som rör upphovsrätt, bias, journalistik och källkritik etc. Bara timmar efter att videon släpptes har röster höjts som diskuterar detta (se t.ex. Daily Mail eller Hollywood Reporter).
Men en aspekt som inte adresserats lika tydligt är de konsekvenser för en uppmärksamhetsekonomi (attention economy) som generativ AI kan komma att få. Exemplet med Channel 1 handlar om nyheter, men det handlar också om att fånga tittarnas intresse genom ett skräddarsytt innehåll.
Att fånga användaren genom att anpassa innehållet är en central del av flera sociala medier. TikTok är närmast ökänt för sina effektiva algoritmer som genom ett mycket kort användande anpassar flödet av media efter användandet. Men det handlar fortfarande om dels en anpassning baserat på den tid som läggs på exempelvis olika filmer, dels om förmedlandet av användargenererat material. Är det filmer på söta hundar som fångar din uppmärksamhet kommer du att förses med fler filmer på söta hundar som andra användare lagt upp.
Den förändring som vi antagligen ser framför oss är dels att teknologin inte bara registrerar den tid som ägnas åt exempelvis videoklipp, utan också samlar in biometriska data såsom ögonrörelser och pupillreaktioner och använder denna som data; dels att innehållet också helt genereras optimerat för den enskilde användaren.
Om det var svårt att lägga ifrån sig skärmen förut, kommer det att bli i princip omöjligt framgent.
Det är med oro jag tänker på en sådan framtid. För att inte hamna där tror jag vi behöver reglera de ekonomiska incitamenten för företag som TikTok och kommersiellt styrda mediebolag. Jag minns ett möte jag hade för många år sedan med ett av Sveriges reklamfinansierade TV-kanaler där en av kanalens chefer inledde mötet med att påpeka att de fört och främst var ”en marknadsföringsmuskel, inget annat”. Ett sådant krasst perspektiv kommer att bli mycket problematiskt framgent.
Frågan är hur vi kan hantera dessa utmaningar utan att göra det hela till en infekterad höger- och vänsterfråga.