Wanneer mensen zich bekeken voelen, dan veranderen ze hun gedrag.

 

Big Data is dit effect enorm aan het versterken. 

Mensen voelen zich minder vrij om zich te uiten of om nieuwe kennis op te doen.

Op de lange termijn kan deze subtiele druk onze maatschappij 'afkoelen'.

 
Het werkt als volgt:

1.

Je data wordt omgezet in duizenden scores. 

Achter de 'cloud' zitten de sterren:

Zogenaamde 'databrokers' kunnen met algoritmes voor ons onzichtbare patronen in de maatschappij zien. Hierdoor kunnen ze de kans berekenen dat je in bepaalde hokjes past. Enkele voorbeelden uit de praktijk zijn:

Religie
Verkrachtings slachtoffer 
Geïntereseerd in dieeten
Houdt van tuinieren                           
Aantal online vrienden                            
Aantal echte vrienden                            
IQ
Politieke voorkeur                           
Heeft abortus ondergaan
Goedgelovigheid                           
Openbare sexuele orientatie
Werkelijke sexuele orientatie
Leest magazines over reizen
Leest boeken over reizen
Wil graag een baby

Ouders gescheiden voor je 21e
Neurotisch
Openheid
Verjaardag
Geïntereseerd in mode

Houdt van planten in huis
Heeft goeie baan
Gaat geld erven
Extravert
Makkelijk in de omgang
Bouwjaar huis
Roker in het gezin
Heeft 'ouderdoms behoeften'
Heeft 'diabetische focus'
Verslavingsgevoeligheid
Wordt gemakkelijk ziek
Favoriete communicatie kanaal
Volwassen maar niet getrouwd
Opleidingsniveau
Houdt van Elvis prulletjes

Deze 'afgeleide data' is veel waardevoller dan 'jouw data'.
De vraag is dus niet of jouw data wordt verkocht, maar of hun data over jou wordt verkocht.

Bron 1 Bron 2

2.

Mensen beginnen te beseffen dat deze 'digital reputatie' hun kansen beinvloedt.

 
(en dat de data en algoritmes erachter niet automatisch neutraal zijn) 

IN HET NIEUWS

3.

Mensen pasen hun gedrag aan zodat ze betere scores krijgen.

Dit heeft goeie en slechte kanten.

Social Cooling is de naam voor de negatieve lange-termijn gevolgen van het leven in een reputatie economie:

1. We worden conformistischer

Twijfel je wel eens of je op een linkje zal klikken omdat ze je afvraagt of 'iemand' dat bijhoudt, en dat het er wel eens verkeerd uitgelegd zou kunnen worden?

Steeds meer mensen ervaren 'klikvrees'. Ze passen zelfcensuur toe. Dit wordt ook wel een 'chilling effect' genoemd.

De ironie: we hebben wel vrijheden, maar zijn bang die te gebruiken.

Source

2. Een cultuur van risico vermijding

Toen artsen in New York scores kregen voor hun werk had dit ongewenste bijwerking.

Artsen die gevorderde kankerpatienten probeerden te helpen zagen hun scores omlaag duiken omdat relatief veel patiënten overleden.

Artsen die de patiënten niet probeerden te helpen kregen een hoge score, ook al gingen hun patiënten eerder dood dan nodig.

Beloningsystemen kunnen perverse prikkels bevatten, en creeren druk om aan een bureaucratisch gemiddelde te voldoen.

Source


3. De maatschappij verliest haar veranderings-vermogen

Digitale reputatie systemen maken het minder makkelijk en minder aantrekkelijk om tegen onrecht te protesteren.

Zo gaat de Chinese overheid al haar burgers een verplichte "social credit score" geven. Deze toont hoe braaf de burger is. Ze is gebaseerd op hun strafblad, hun sociale media uitingen, wat ze kopen, en zelfs de scores van hun vrienden worden meegewogen.

Met een lage score is het moeilijker om een overheidsbaan, visum of zelfs een leuke online date te krijgen.

Sociale druk is de meest krachtige en meest subtiele vorm van controle.

Source


Onze zwakke plekken worden in kaart gebracht..

We worden te transparant.

 

Hierdoor ontstaat een maatschappij waarin zelf-censuur en risicovermijding het nieuwe normaal zijn.


                      

Ja, kredietscores bestonden al. Maar de schaal is nu veel groter, het proces is geautomatiseerd, en de scores zijn nu veel breder toegankelijk.

De grote filosofische vraag

Gedragen we ons beter, maar ook minder menselijk?

Wat betekent het om vrij te zijn wanneer surveillance het meest gebruikte businessmodel is?

De grote economische vraag

Ondermijnen we onze creatieve economie?

Niet data, maar creatieve mensen die anders durven te denken zijn het meest waardevol.

De grote maatschappelijke vraag:

Neemt het veranderings-vermogen van de maatschappij af? 

Ideeën van minderheden groeiden uit tot algemeen geaccepteerde waarden. Maken we dit proces moeilijker?

 

De oplossing?

 

 

Vergelijk het probleem met Global Warming.

•  Social Cooling is subtiel. De beschadiging van ons sociale milieu is voor velen nog onzichtbaar, net zoals luchtvervuiling dat was.  

•  Social Cooling is complex. Politici, burgers, ondernemers en wetenschapper moeten samenwerken om het echt aan te pakken.  

 

 

 

Er is nog weinig publiek bewustzijn.

Klimaat vernadering op de agenda krijgen duurde 40 jaar, en het duurde 80 jaar voordat we het echt aanpakten.
Laten we Social Cooling iets sneller aanpakken.

 

 

 

 

De komende tien jaar zullen we een volwassen en nuchter beeld van data en privacy moeten verspreiden.

 

 

 

 

 

 

 

Wanneer de druk om perfect te zijn toeneemt leren we..

 


Nu algoritmes alles wat we doen beoordelen zullen we het recht om fouten te maken moeten verdedigen.

Nu alles wat we doen wordt onthouden, hebben we het recht op het vergeten van onze fouten nodig.

 

 

In deze data-gedreven wereld zullen we ons dit gaan beseffen:


Privacy-vriendelijk delen