The Circle en Big Data: Welkom in Dystopia

The Circle als Google op steroïden - Welkom in Dystopia - Van Akker Vindt 2014

Deze zomer las ik het boek ‘The Circle’ van Dave Eggers uit 2013. The Circle gaat over een jonge professional, Mae Holland die via een vroeger vriendinnetje komt te werken bij het zeer populaire bedrijf The Circle. Het product van The Circle is dat het alle sociale netwerken onderling verbindt en je nog maar een keer hoeft in te loggen. Het bedrijf is erg populair bij de mensen die er gebruik van maken en ook als werkgever. Niet zo gek ook: het bedrijf is zeer high tech, bijzonder innovatief en ze bieden een prachtige campus om op te werken waar niks te gek lijkt. Nou ja: bijna niks. Maar daar kom ik later in dit stukje op terug.

De werkplek als all inclusive resort

The Circle is gehuisvest op een enorm terrein waarin niets te gek lijkt: het kantoor is prachtig ontworpen, er zijn picknickplekken, sportveldjes, een theater, er zijn verschillende optredens per week, je kan er blijven slapen in prachtig ontworpen slaapkamers. En natuurlijk is dit alles gratis voor de bevoorrechte medewerkers van The Circle. Google, The Circle, booksEigenlijk is er geen reden om ooit het terrein te verlaten. Sterker nog: wanneer Mae eenmaal de frisse, wonderschone en vooral ook geordende campus gewend is lijkt de echte buitenwereld en haar flatje daarin grauw, chaotisch en vervuild. Na verloop van tijd woont Mae er bijna, net als veel van haar collega’s. Tot zover de campus van The Circle, die volgens mij niet geheel losjes geïnspireerd is op de Googleplex en de high tech campusomgevingen van Apple, Facebook, Skype enzovoort in Silicon Valley.

KPI’s die uit de bocht vliegen

In het boek zit een rare paradox. De fysieke ruimte mag prachtig zijn en inderdaad een feestje om in te werken, maar in veel opzichten ontbreekt het de medewerkers juist aan ruimte. Mae gaat werken bij de klantendienstafdeling, die Customer Experience heet. Ze heeft een x aantal seconden per gesprek en moet een minimale score halen van 95 uit 100. Dat is al niet laag, maar als de klanten haar niet de volle 100 geven, is het standaardprocedure om na te vragen wat er ontbrak, zodat de feitelijke score in veel gevallen alsnog 100 wordt. Naast deze uit de bocht gevlogen Key Performance Indicators (KPI’s, dus) moet ze ook zorgen dat ze zich constant op social media profileert en interacteert. Er is een ranglijst van alle medewerkers, de PartiRank (Participation Rank) waarop het toch vooral zaak is om zo goed mogelijk te scoren. En alsof dat nog niet genoeg is, wordt ze kort nadat ze begonnen is ook nog onderdeel van een programma, waarbij ze tussen de bedrijven door nog enquetevragen moet beantwoorden via een speciaal oortje dat ze krijgt. Dat gaat niet om een of twee vragen, maar om enkele honderden per dag en als ze niet snel genoeg reageert, wordt ze via een mooi technisch trucje geroepen door haar eigen stem, tot ze dat alsnog doet. Voor mensen die mijn blog al een beetje kennen, mag het duidelijk zijn dat ik hier vanuit het oogpunt van psychosociale werkdruk niet enorm van onder de indruk ben. Mensen hebben nu eenmaal ook rust nodig, om te zijn, te reflecteren en te herstellen.

The Circle als Google op steroïden

In The Circle draait alles om een combinatie van technologische innovaties, het verzamelen en verknopen van heel veel data en daarmee vooral ook om transparantie. Dus de werkomgeving zelf lijkt niet alleen op de Googleplex, maar ook in andere opzichten zijn de lijnen eenvoudig te trekken. Google behoort al jaren tot de meest aantrekkelijke werkgevers ‘ter wereld’ aldus verschillende online media (een snelle zoekopdracht via datzelfde Google levert een keur aan resultaten met deze strekking) en ook daar maken ze de werkomgeving zo aantrekkelijk dat men er graag veel tijd doorbrengt, is er ruimte voor innovatie. Ook bij Google komt men met technologische ‘innovaties’ als de Google glass die een op een niet alleen je eigen privacy, maar ook die van anderen de das omdoen. Ik wil niet teveel verklappen voor de mensen die The Circle nog willen gaan lezen, maar ik kan wel zeggen dat ook The Circle constant in de weer is met het steeds verder verbinden van steeds meer data, het opstellen van draadloze camera’s die 24/7 zijn verbonden met internet en ook met kleine camera’s om de halzen van politici, maar ook van Mae die uiteindelijk ‘transparant worden’ en alles wat ze zien, horen en zeggen constant gestreamd wordt. De parallellen tussen de feiten bij bijvoorbeeld Google en Facebook en de fictie in The Circle zijn verdacht eenvoudig te trekken.

Big Brothers and Sisters are watching you always and everywhere

Het vergt niet zo heel veel fantasie om je te kunnen voorstellen dat die Circle er over een paar jaar zomaar kan zijn. Hoeveel mensen geven desgevraagd niet aan ‘dat ze niks te verbergen’ hebben? Hoeveel delen we met zijn allen niet aan informatie op social media zoals Twitter, Facebook en Instagram? Google Glass Glassholes Privacy Big Brothers and Sisters are watching you always and everywhere Van Akker Vindt 2014Hoeveel delen we wel niet via zoekmachines zoals Google en allerhande apps op onze mobiele telefoons die opdat je hem maar gratis mag downloaden alles van je willen weten (en desondanks toch populair zijn, blijven en worden)? Hoeveel informatie hebben andere organisaties niet over ons ergens in een cloud staan? Wat te denken van de belastingdienst, de ziektekostenverzekeraar, het Electronisch Patiëntendossier, alle webwinkels waar we weleens kijken en ook kopen? Sta eens stil en bedenk wat een enorme hoeveelheid data al deze partijen zomaar gratis van jou hebben gekregen? Zij weten meer over je dan jijzelf, hun geheugen vergeet namelijk niks, waar bij jouzelf weleens iets verdwijnt. Je zult ten slotte als eenvoudige homo sapiens maar alles moeten onthouden, nietwaar? Met al die streamende camera’s door particulieren via The Circle en al die Google glasses en bewakingscamera’s overal is het niet langer Big Brother is watching you, maar Big Brothers and Sisters are watching you always and everywhere. Waar ik soms een enkeling nog weleens hoor beweren ‘dat het niet nodig is voorzichtig met je data om te gaan omdat je dan beter toegespitste aanbiedingen’ krijgt, heb ik ook van innovatie-omarmers gehoord dat ze daar van terug zijn gekomen. Dat Google niet doorzichtig is en bepaalde zoekresultaten structureel weglaat, of naar voren haalt zonder duidelijk te maken welke dat zijn en waarom. Bovendien ben ik meer mens dan consument en zit ik niet altijd te wachten op nog meer algoritmes die nog meer aanbiedingen over me heen uitstorten, maar dat terzijde.

Alle wereldproblemen oplossen met een algoritme

Mae Holland, de hoofdpersoon in het boek is niet kritisch over de mate van transparantie die door haar werkgever aan haar als medewerker en burger gevraagd wordt. Op een gegeven moment wordt Mae ‘betrapt’ op het feit dat ze niet voldoende transparant is. Ze is in haar eentje gaan kayakken en heeft daarover niets gedeeld op Zing, het grote sociale medianetwerk van The Circle. Ze wordt hierop streng op aangesproken door Bailey, een van de grote bazen van The Circle die als een Steve Jobs onder luid gejuich en applaus regelmatig zijn medewerkers toespreekt over de nieuwste innovaties. Naar aanleiding van het gesprek met Bailey, spreekt Mae uiteindelijk al haar collega’s toe in een gescript tweegesprek met Bailey waarin ze als een ware visionair de volgende woorden uitspreekt:

Secrets Are Lies

Sharing is Caring

Privacy is Theft

Nog los van de inhoud en implicaties van deze woorden zelf en het feit dat Mae zelf behoorlijk kritiekloos is gehersenspoeld, is het engste in het boek nog dat de toegesproken Circle-medewerkers deze woorden met wild enthousiasme ontvangen. Mae wordt zelf transparant en verkondigt vervolgens zelf blij het evangelie: alle wereldproblemen zijn op te lossen met het schrijven van een simpel algoritme. Als we maar zoveel mogelijk delen, kunnen we alles voorzien, voorspellen en oplossen. Mensen in Mae’s eigen omgeving die wel kritisch zijn over al deze transparantie en nog wel wat privacy en een eigen leven er op na willen houden, wuift Mae weg als een soort holbewoners die het allemaal niet zo goed begrijpen. Ze neemt zich voor om ook hen te overtuigen en dat gaat in een specifiek geval zo ver dat de dood erop volgt.

De keerzijde van de cloud en social media

Hoe het boek afloopt ga ik niet verklappen, net als dat ik heb geprobeerd genoeg maar niet teveel te vertellen om duidelijk te maken dat er ook een keerzijde is aan al deze technologie. Googleplex Welkom in Dystopia Van Akker Vindt 2014Wanneer de wetenschap gebruik maakt van big data om patronen te leren herkennen bij bepaalde ziektebeelden, ben ik daar niet zondermeer tegen, maar ben ik me wel bewust van veiligheidsaspecten die hiermee samenhangen. Niet zolang geleden zijn er uit de iCloud van een serie Amerikaanse beroemdheden allemaal naaktfoto’s gestolen. Het lijkt erop dat hier geen sprake is van een hack, maar van phishing, dus dat men op een andere manier informatie heeft losgepeuterd om bij bij die foto’s te kunnen komen. Wat ik hiermee wil zeggen is dat al die mensen die niets te verbergen zeggen te hebben, zichzelf (als-)nog maar eens goed achter de oren moeten krabben of dat echt wel zo is. Misschien zou het niet zo’n slecht idee zijn om een eenvoudig te lezen boek als dit verplicht leesvoer te laten zijn op de middelbare school en leerlingen wezenlijke discussies te laten voeren over de gevolgen van transparantie en big data. Dan kunnen ook de generaties die zijn opgegroeid in een wereld vol technologie, wifi en internet ook beseffen wat het doorlopend delen van hun informatie kan betekenen en leren daar zorgvuldig mee om te springen. Want wanneer er echt een (niet-)kritische massa gevormd wordt die niets te verbergen heeft, dan is de wereld die Eggers in zijn boek The Circle schetst niet zo heel erg ver weg.

The Circle Dave Eggers Van Akker Vindt 2014 Welkom in Dysopia

 

Advertenties

Deze banen verdwijnen vóór 2025 door technologische ontwikkelingen

We hebben allemaal al gehoord van die ronde stofzuigrobots die hun eigen gang gaan. Deze week stond nog in de krant dat een thuiszorgorganisatie uren per week aan inzet van medewerkers bespaarde door zo’n apparaat bij cliënten thuis neer te zetten. Maar hoe zou het zijn als een robot de vaatwasser uitruimt, de was opvouwt en je en passant nog even een biertje brengt? Zou best lekker zijn om zo’n ding door het huis te hebben zoeven, nietwaar? En wat verder van je bed of eigenlijk juist dichterbij een robot die je in en uit bed tilt? Er zijn al prototypes van, dus het kan. Nu nog niet zo ideaal als we ze zouden willen en nog niet zo betaalbaar als we zouden willen, maar dat is vermoedelijk een kwestie van tijd.

En robots als kille vechtmachines? We kennen het uit sci-fi films en uit iets gezelligere films als the Incredibles, waar de teleurgestelde no.1 fan Syndrome een ultieme vechtmachine Omnidroid bouwt die automatisch sterker, slimmer en behendiger wordt door de tegenstand die hij krijgt. Het eerste pistool dat je met een 3D printer kan maken is al ontworpen en op internet zijn al petities te vinden om te voorkomen dat dit waarheid wordt, om te voorkomen dat mensen straks door kille berekenende machines worden aangevallen.

Onvoorspelbare of onvoorstelbare toekomst?

Feit is dat ons leven drastisch zal veranderen door robots en andere technologische ontwikkelingen. Ik had me 15 jaar geleden ook niet kunnen voorstellen dat we allemaal met zakcomputertjes zouden rondlopen die sneller zijn dan de desktops met die enorme monitors die we toen hadden. Maar de meeste mensen die ik ken lopen wél degelijk rond met zulke computertjes, in de vorm van een smartphone of tablet en dat vinden we doodnormaal. Net zoals we ons nu niet kunnen voorstellen dat misschien over een paar jaar veel mensen met zo’n raar Google Glass montuurtje over straat zullen kuieren.

De vierde singulariteit?

In het vorige blog gaf ik al aan dat robots ons werk zouden overnemen en dat dat ook gevolgen heeft voor de toekomstige verdeling van arbeid en inkomen en dus we een list moeten verzinnen om een fatsoenlijke levensstandaard voor een ieder te garanderen. Higgins noemt het innemen van arbeidsplaatsen door robots de vierde singulariteit. Er zijn er dus nog minimaal drie andere vormen van singulariteit, die door deskundigen op dit gebied worden bediscussieerd.

Singulariteit?

De eerste vorm van singulariteit gaat over het moment dat robots net zo intelligent worden als mensen. De meeste deskundigen denken dat dit moment zich zal voordoen in 2017, dus over vier jaar. Onvoorstelbaar? In 2011 won een robot van IBM al van mensen in de Amerikaanse tv-quiz ‘Jeopardy’ en men denkt dat dit kunstje op korte termijn wel op te schalen is. De tweede vorm van singulariteit is het moment dat robots zelfstandig zouden besluiten dat mensen overbodig zijn en ze daarom proberen uit te roeien. Gezelligheid en voer voor science fiction films. De derde variant komt heel toepasselijk uit Star Trek en wordt ‘kwantum singulariteit’ genoemd en gaat over het punt in tijd en ruimte dat normale natuurkundige wetten niet meer van toepassing zijn. De eerlijkheid gebiedt te zeggen dat dit ook mijn voorstellingsvermogen te boven gaat. En de vierde vorm van singulariteit is dus dat robots en computers je werk overnemen. Of dat nou de ultieme droom of een doemscenario is, hangt er vanaf hoe wij onze samenleving inrichten en welke kaders wij scheppen voor die robots.

Deze banen worden bedreigd door technologie

Higgins (2013) benoemt een aantal geavanceerde technologische ontwikkelingen die ertoe zullen leiden dat de komende tien tot vijftien jaar veel banen zullen verdwijnen, zoals:
Feit is dat ons leven drastisch zal veranderen door robots en andere technologische ontwikkelingen. Van Akker Vindt

  • Industriële banen die verdwijnen door de komst van 3D printers
    Op dit moment zijn er nog beperkingen doordat de meeste 3D printers alleen maar vrij kleine dingen kunnen printen. Maar in principe kunnen 3D printers dingen in alle maten printen. In Amsterdam wordt al geëxperimenteerd met het bouwen van een 3D grachtenpand, bijvoorbeeld.
  • Gezondheidszorgrobots die verplegenden en verzorgenden kunnen vervangen
    In Japan zijn al robots ontwikkeld die steeds betaalbaarder worden en kunnen ondersteunen bij verschillende taken die nu door verplegenden en verzorgenden worden gedaan. Robots kunnen mensen al veilig uit bed tillen en ze voeren wanneer ze zelf niet meer kunnen eten. De ondersteunende functies in de verpleging en verzorging zullen hierdoor vermoedelijk verdwijnen.
  • Robots die conciërges en schoonmakers kunnen vervangen
    Er zijn al stofzuigers voor huishoudens die zelf het huis schoonmaken, ze zijn er ook die zelfstandig grotere ruimtes kunnen aanpakken, zoals bijvoorbeeld kantoren of de gezamenlijke ruimtes in appartementencomplexen.
  • Docenten en hoogleraren in het hoger onderwijs die vervangen worden door geavanceerde computersystemen
    Volgens Higgins zullen de komende tien jaar veel hoogleraren en andere docenten in het hoger onderwijs met pensioen gaan. Door de hoge kosten van het hoger onderwijs zal er grote druk worden uitgeoefend om de hoeveelheid onderwijzend personeel terug te schroeven, dat kan door het inzetten van geavanceerde computersystemen. Door het naar beneden brengen van de kosten zou het hoger onderwijs breed toegankelijk blijven. De vraag is overigens of er dan wel zoveel mensen nodig zijn met een bachelor of master op zak, belangrijker is het dat er meer mensen komen die zijn afgestudeerd in het juiste vakgebied. Zelf kan ik me weinig voorstellen bij het vervangen van hoogopgeleide docenten door technologie alleen. Ik kan me voorstellen dat er vormen van e-learning zijn, waaronder bijvoorbeeld serious gaming, die een toegevoegde waarde in het onderwijs kunnen bieden, maar de beste docenten inspireren je door hun eigen kennis en enthousiasme en door je aan het denken te zetten. Die eigenschappen zijn volgens mij heel lastig in een systeem of robot in te bouwen, maar wie weet moet ik over vijftien jaar toegeven dat ik het bij het verkeerde eind had. 
  • Basisschoolleraren en docenten in het voortgezet onderwijs door computersystemen
    Ook hier geldt dat veel leraren de komende jaren met pensioen zullen gaan en wellicht niet meer allemaal vervangen zullen worden. Er zijn al iPad scholen en de verwachting is dat in de toekomst alle leermiddelen digitaal zullen worden. Het leerrendement van individuele leerlingen kan ook digitaal gevolgd en geanalyseerd worden en het lesmateriaal op het niveau van de leerling aangepast. Er bestaan al scholen in de Verenigde Staten die zo werken en per leerling minder spenderen dan andere scholen maar waar leerlingen desondanks wél de beste scores halen op tests.
  • Huishoudrobots die huishoudelijke hulpen vervangen
    In de tekenfilmserie de Jetsons was er al Rosie de huishoudrobot, compleet met rokje en schortje. Ik noemde aan het begin van dit blog al robots die de vaatwasser kunnen uitruimen, de was opvouwen of je een biertje kunnen brengen. Ze bestaan al en het zal een kwestie van tijd zijn voor zulke robots binnen het bereik van een grote groep consumenten zullen komen. Dit betekent op termijn het verlies van werk door grote groepen huishoudelijk werksters, hier en in het buitenland.
  • Vrachtwagen- en taxichauffeurs door voertuigen zonder chauffeur
    Google is al bezig met het ontwikkelen van een auto zonder chauffeur, wanneer dat technologisch en financieel haalbaar wordt, zal het besturen van een voertuig niet meer zo zijn, zoals we het altijd hebben gekend. Maar dat betekent ook dat chauffeurs van taxi’s en vrachtwagens hun werk kwijt kunnen raken. Ja maar chauffeurs laden en lossen ook zeg je? Nou, die taak kunnen robots ook wel op zich nemen.
  • Bibliotheekmedewerkers door online bibliotheeksystemen
    Google werkt aan een online Google bibliotheek, waardoor bibliotheken en bibliotheekmedewerkers overbodig zullen worden. Verschillende bibliotheken van prestigieuze universiteiten, waaronder Harvard en Oxford werken samen met Google om hun boeken te digitaliseren en online vindbaar te maken. Maar er zijn ook al bibliotheken die robots gebruiken om je boek voor je te zoeken, dat werkt min of meer hetzelfde als magazijnen bij grote online winkelbedrijven.

En dat is nog niet alles

Andere banen die mogelijk op de tocht staan zijn banen voor bijvoorbeeld bedienend personeel in de horeca, winkelbedienden, maar zelfs voor artsen en koks kan gelden dat hun werk helemaal of deels door robots en andere geavanceerde systemen kan worden overgenomen.

Niet elke verandering is zondermeer een verbetering

Tijden veranderen en het is de vraag hoe wij ons zullen voelen wanneer ons hele leven wordt geautomatiseerd. Andersom zijn we inmiddels al heel lang gewend dat we ons geld uit de muur halen en niet meer krijgen van een bankbediende en onze treinkaartjes uit een automaat halen, terwijl we daar ook over liepen te sputteren toen die technologieën werden ingevoerd als kostenbesparende maatregel. Ik noemde in het vorige blog al de voorspelling dat wereldwijd op deze manier misschien wel een miljard banen verloren kunnen gaan. Niet elke verandering is zondermeer een verbetering, we zullen moeten nadenken over de gevolgen voor al die mensen die hun baan kunnen verliezen, voor de samenlevingen waarin zij leven en of dit wel is wat we willen en op welke manier we randvoorwaarden kunnen proberen te scheppen om deze aardkloot toch leuk en leefbaar te houden. Maar daar kom ik in een volgend blog nog op terug.

Robots kunnen mensen al veilig uit bed tillen Van Akker Vindt 2013