Inte filterbubblor, utan känslobubblor

I en forskningsartikel som nyligen publicerades har man funnit evidens för att det går att identifiera falska nyheter, propaganda och andra typer av desinformation med hjälp av en enklare undersökning av vilka känslor materialet uttrycker [1]. Det är i sig inte så överraskande – desinformationen lyckas bättre om den får oss att känna i stället för att tänka. Det ger dock skäl att ifrågasätta föreställningen om filterbubblor som det verkliga problemet — det vi borde kämpa mot är istället känslobubblor: innehåll som du använder för att förstärka ett känslomönster. Här skulle forskning som den här kunna varna oss för om vi ”känsloläser” för att känna vrede, överlägsenhet eller glädje och istället guida oss mot större mångfald på känselpaletten.

När man ser sig om i sociala medier så kan man notera olika sorters känslotoner, och det skulle vara intressant att se mer forskning som denna, även om slutsatserna kanske inte känns revolutionerande: det heter ju trots all ”social influencers” inte ”social informers” – även om det vore intressant att tänka sig framväxten av den senare gruppen som en reaktion mot de billiga känslokickar som vi, enligt artikeln, tycks söka idag.

I bakgrunden till denna diskussion döljer sig också en annan som jag börjat gräva litet i. Hur ser dagens diskussion om desinformation, fake news och propaganda ut i det långa perspektivet? Om vi skulle skriva en artikel som den John Maynard Keynes skrev om våra barnbarns ekonomi, men istället fokusera på våra barnbarns informationskonsumtion — vad skulle vi finna då? Bland de frågor som intresserar mig:

  • Kommer vi att lyckas återuppbygga en gemensam referensram mot vilken vi kan pröva olika åsikter? Kan vi återvända till den värld i vilken senator Moynihan med allmänt bifall kunde säga att vi må ha rätt till våra åsikter, men inte till egna fakta? Kommer mängden saker vi är eniga om att börja växa efter att ha krympt de senaste decennierna?
  • Idag pressas sociala medieplattformer kring vad de bör ta ned. Kommer vi se förslag kring vad som istället skall förstärkas och läggas upp och tas fram – som har allmänt och starkt stöd i demokratier? Man kan mycket väl tänka sig en värld i vilken ”public service”-begreppet blir horisontellt och inte längre är ett begrepp som endast gäller ett fåtal källor (kanske genom finansiering – något som redan prövas) – hur skulle det se ut för att inte omedelbart kollapsa i ”Ministry of Truth”? Går det ens? Vilka former av institutionell innovation behövs och vad kan vi lära oss av kollaborativa kunskapsförvaltande institution som Wikipedia?
  • Fakta har, för att låna en term från Sam Arbesman, en halveringstid. Inom vissa områden är denna halveringstid kort, inom andra litet längre — när vi börjar söka efter gemensamma sanningar måste vi tillåta att fakta inte dogmatiskt accepteras, utan ständigt utmanas — hur gör vi detta och hur sker detta i dag? Hur hanterar – igen – exempelvis Wikipedia kunskapens halveringstid i olika ämnen (tydligaste exemplen finns i rapportering kring diet och hälsa samt i vetenskapliga fält som fysiken)?
  • Är det möjligt – att som David Byrne – starta en verksamhet som bara syftar till att berätta goda nyheter? Kan vi balansera nyhetsmediernas tends till ”if it bleeds it leads”?  Vilka evolutionära gränser springer vi på när det gäller fakta och nyhetskonsumtion?

Inte enkla frågor — men det tycks mig otroligt att dagens situation, och den utveckling ned i bruset som vi ser, kommer att kunna fortsätta linjärt. Den som är intresserad av filosofi och fake news hittar en hel serie om detta på min engelska forskningsblogg här.

 

[1] ”An Emotional Analysis of False Information in Social Media and News Articles”
Bilal Ghanem, Paolo Rosso, Francisco Rangel – https://arxiv.org/abs/1908.09951

 

Weil’s paradox: intention and speech (Fake News Notes #8)

Simone Weil, in her curious book Need for Roots, notes the following on the necessity for freedom of opinion:

[…] it would be desirable to create an absolutely free reserve in the field of publication, but in such a way as for it to be understood that the works found therein did not pledge their authors in any way and contained no direct advice for readers. There it would be possible to find, set out in their full force, all the arguments in favour of bad causes. It would be an excellent and salutary thing for them to be so displayed. Anybody could there sing the praises of what he most condemns. It would be publicly recognized that the object of such works was not to define their authors’ attitudes vis-à-vis the problems of life, but to contribute, by preliminary researches, towards a complete and correct tabulation of data concerning each problem. The law would see to it that their publication did not involve any risk of whatever kind for the author.

Simone Weil, Need for Roots, p. 22

She is imagining here a sphere where anything can be said, any view expressed and explored, all data examined — and it is interesting that she mentions data, because she is aware that a part of the challenge is not just what is said, but what data is collected and shared on social problems. But she also recognizes that such a complete free space needs to be distinguished from the public sphere of persuasion and debate:

On the other hand, publications destined to influence what is called opinion, that is to say, in effect, the conduct of life, constitute acts and ought to be subjected to the same restrictions as are all acts. In other words, they should not cause unlawful harm of any kind to any human being, and above all, should never contain any denial, explicit or implicit, of the eternal obligations towards the human being, once these obligations have been solemnly recognized by law.

Simone Weil, Need for Roots, ibid.

This category – ”publications destined to influence what is called opinion”, she wants to treat differently. Here she wants the full machinery of not just law, but also morals, to apply. Then she notes, wryly one thinks, that this will present some legal challenges:

The distinction between the two fields, the one which is outside action and the one which forms part of action, is impossible to express on paper in juridical terminology. But that doesn’t prevent it from being a perfectly clear one.

Simone Weil, Need For Roots, ibid.

This captures in a way the challenge that face platforms today. The inability to express this legally is acutely felt by most that study the area, and Weil’s articulation of the two competing interests – free thought and human responsibility – is clean and clear.

Now, the question is: can we find any other way to express this than in law? Are there technologies that could help us here? We could imagine several models.

One would be to develop a domain for the public sphere, for speech that intends to influence. To develop an ”on the record”-mode for the flat information surfaces of the web. You could do this trivially by signing your statement in different ways, and statements could be signed by several different people as well – the ability to support a statement in a personal way is inherent in the often cited disclaimers on Twitter — where we are always told that RT does not equal endorsement. But the really interesting question is how we do endorse something, and if we can endorse statements and beliefs with different force.

Imagine a web where we could choose not just to publish, but publish irrevocably (this is for sure connected with discussions around blockchain) and publish with the strength of not just one individual, but several. Imagine the idea that we could replicate editorial accountability not just in law, but by availing those that seek it of a mode of publishing, a technological way of asserting their accountability. That would allow us to take Weil’s clear distinction and turn it into a real one.

It would require, of course, that we accept that there is a lot of ”speech” – if we use that as the generic term for the first category of opinion that Weil explores – we disagree with. But we would be able to hold those that utter ”opinions” – the second category, speech intended to influence and change minds – accountable.

One solution to the issue of misinformation or disagreeable information or speech is to add dimensionality to the flat information surfaces we are interacting with today.