DuckDuckGo-oprichter Gabriel Weinberg is een van de digitale profeten die ons waarschuwt hoe Google, de Goliath die hij al 10 jaar uitdaagt met zijn op Paoli gebaseerde non-tracking zoekmachine, en andere reuzen van informatie knijpen persoonlijke privacy en onafhankelijke inhoud:"Als mensen alle spullen van de onderzoeker gratis consumeren op Facebook of Google, het is een verloren voorstel voor jou."

Bekijk wat er is gebeurd met FunnyOrDie.com, hij zei, die "net ontslagen heeft aangekondigd voor de helft van het personeel. Facebook heeft hun inhoud ingenomen en, ermee, hun publiek, hen dwingen te betalen om hun eigen nieuwe video's te plaatsen. En ze blijven de prijs verhogen; het is onbetaalbaar. Uw inhoud gaat viraal, en je verdient geen geld."

Maar is klagen dat internet een apparaat is om tech-giganten te verrijken op kosten van de overheid niet hetzelfde als bezwaar maken tegen vooruitgang? Zijn het niet de internetalgoritmen die ons vertellen welke YouTube-video's we moeten bekijken, welke oude klasgenoten vrienden maken op Facebook, en welke beroemdheden koelere kleding dragen op Instragram, gebaseerd op wiskunde, demografie en logica?

Het is erger dan "vuilnis in, vuilnis buiten, " zegt Weinberg. Hij vertelt hoe sommige van zijn helden - onderzoeksjournalisten, werken voor oude en nieuwe-stijl nieuwsorganisaties - hebben 'aanzienlijke vooringenomenheid in de algoritmen' gevonden.

Bekijk het werk van Kashmir Hill voor Gizmodo - haar verwijdering van het "Internet of Things, " laten zien hoe bedrijven uw gegevens verzamelen en interpreteren van apparaten en services waarvoor u betaalt, in "Het huis dat me bespioneerde"; en hoe Google zijn macht gebruikt om ideeën te vernietigen die het niet leuk vindt.

De overheid is niet klaar om ons te beschermen, Weinberg zegt:Het congres liet vorig jaar het oude verbod op het verkopen van je browsergeschiedenis door je internetprovider vervallen. Dus Verizon, Comcast en andere "ISP's kunnen nu uw gegevens verzamelen en verkopen, op waar u bezoekt. Veel blijkt onversleuteld te zijn. Hulu-shows zijn niet versleuteld." Uw voorkeuren zijn gemakkelijker te volgen, lijst en verkopen.

Het is dus extra zorgwekkend hoe zelfs overheidsinstanties persoonlijke gegevens aan het werk zetten, ongeacht de nauwkeurigheid en privacykwesties.

Zo werkt het:IT-aannemers/consultants komen binnen bij overheidsinstanties "en zeggen:'Je oude systeem is niet goed. We zullen een betere voor je maken, Weinberg zegt. "De algoritmen zijn vaak niet ingewikkeld. Maar ze kunnen nog steeds inherent bevooroordeeld zijn. En elke keer zijn er onbedoelde gevolgen."

Zijn overheidstoepassingen van persoonsgegevens niet openbaar? Nee:"Omdat ze het algoritme van een bedrijf krijgen, het is 'eigendom'. Maar er is een argument dat ze openbaar moeten worden gemaakt, onder de transparantiewetten. Dus nieuwsorganisaties en pro bono advocaten klagen om de algoritmen te krijgen, "Weinberg vertelde me.

Of het bureau rechtvaardigt een dure nieuwe applicatie voor de verwerking van persoonsgegevens, gezegde, " 'Dit is kunstmatige intelligentie'." Alsof dat alleen al een reden is om de nieuwe tool te gebruiken. Maar het is een hulpmiddel dat iemand heeft samengesteld met beperkte informatie, waarschijnlijk in het geheim met onbedoelde maar belangrijke gevolgen, sommige mensen benadeeld, en vertekenende resultaten. Dit zou openbaar moeten zijn. "Als je erover hoort, je zou tegen jezelf moeten zeggen, 'Misschien kan ik dit blootleggen!' "

Weinberg bewondert hoe non-profit ProPublica de vrijheid van informatie (ook bekend als recht om te weten) wetsverzoeken gebruikte om te laten zien hoe rechters in de staat New York "een algoritme kochten om te helpen bij veroordelingssuggesties" die tot gevolg hadden dat waargenomen vooringenomenheid werd geconcentreerd, in plaats van de veroordeling onpartijdig te maken. Weinberg zegt dat openbare financieringsprogramma's die vergelijkbare algoritmen gebruiken, op dezelfde manier het economische karakter van buurten kunnen verankeren. (Voor meer informatie over hoe slechte datawetenschap slecht openbaar beleid maakt, Weinberg beveelt Cathy O'Neil's boek "Weapons of Math Destruction" aan.

Ik vroeg naar NeoGov, het digitale wervingssysteem dat Pennsylvania en 25 andere staten zouden gebruiken om het oude systeem van staatsexamens voor banen te vervangen. "Het klinkt zeer de moeite waard om te controleren op onbedoelde vooringenomenheid, ’ zegt Weinberg.

Of kijk eens naar de politieke impact van YouTube:"Het doel is om gebruikers 'gerelateerde' video's te laten blijven kijken. Deze zijn vaak extreem, en schandalig en om kijkers naar extreem schandalige posities te duwen. Zelfs als dat niet de bedoeling is.' Zoals Wired hier opmerkt. Zie ook het recente Guardian-artikel met de opmerkingen van ex-Google-ingenieur Guillame Cashlot over 'hoe het algoritme van YouTube de waarheid vervormt'.

Hoe kunnen we sociale media afwikkelen om te vinden wat de oude futurist Vance Packard "verborgen overtuigers" noemde en Columbia Law-professor Tim Wu de Attention Merchants noemde? "Julia Angwin was een pionier op dit gebied van journalistiek, " beginnend bij de Wall Street Journal en doorstromend naar ProPublica, zegt Weinberg. (Zie het onderzoek van Angwin dat de informatieverzameling van Google volgt in de veronderstelde incognitomodus van de Chrome-browser.)

Zie ook het werk van Angwin voor de Wall Street Journal, geholpen door Weinberg, die beurzen heeft gegeven voor verslaggevers om programmeerhulp in te huren. "We ontdekten dat er veel 'op maat' gebeurde bij incognito-zoekopdrachten, rond onderwerpen als wapenbeheersing, abortus, klimaatverandering. Er waren 'magische trefwoorden' die extra nieuwsartikelen zouden toevoegen waarvan Google zei dat u 'eerder naar zocht'.

"Het bleek dat 'Obama' een magisch sleutelwoord was en 'Romney' niet. Er waren miljoenen extra Romney-ideeën en items. Het was het omgekeerde van wat er gebeurde bij de Trump/Clinton-verkiezingen, " toen Trump-video's veel meer aandacht kregen dan Clinton-video's omdat ze brutaler waren en meer kijkers trokken, ervoor te zorgen dat meer Trump-video's aan kijkers werden getoond. "Onbedoeld? Maar effectief."

Angwin liet ook zien hoe "Amazon hun eigen producten promootte boven die van anderen, ook al is de prijs niet lager." Zie ook haar ProPublica-serie over 'machine bias'. de rapportage van Angwin, Weinberg zegt, "heeft dit meer in gang gezet bij andere organisaties." Soortgelijke methoden kunnen/zijn gebruikt om aan te tonen, bijvoorbeeld, wat lijkt op raciale vooroordelen in online geciteerde verzekeringspolissen. "Er is ook het idee om mensen verschillende prijzen in rekening te brengen op basis van hun gegevens of locatie." Op welke grondslagen autoverzekeraars, reissites, banken en detailhandelaren gebruiken voor het citeren van sommige lezers hogere prijzen, wat lager? Is het zoiets grofs als een postcode, zo vaag als de geschiedenis van een winkelbezoek?

Het is de filterbubbel, zoals de linkse web-watcher Eli Pariser het fenomeen noemde in zijn boek uit 2011. "Het is niet in balans, ", zegt Weinberg. "Je kunt dit toepassen op Netflix, Twitter, YouTube, Facebook, in termen van de geïndividualiseerde filterbubbel en wat ze over het algemeen promoten. Onderzoek zoekresultaten. Vergelijk gebruikers op verschillende locaties en omstandigheden. Vraag:Vallen de zoekresultaten, niet eerlijk, over politieke en raciale lijnen?"

Het kost werk, maar het is niet ingewikkeld, Weinberg voegt eraan toe. "Dit zijn herhaalbare onderzoeken. De technische kant hiervan is niet al te ingewikkeld. Als je er een leest, controleer de gepubliceerde methodieken. Ze maken een 'geautomatiseerde crawl'. Een niet-gegradueerde stagiair zou de cijfers kunnen uitvoeren, elke programmeur. Misschien zullen ze doen alsof ze consumenten zijn die een online aanvraagformulier invullen, en ontvang de offertes."

Ik merkte op hoe professionele nieuwsorganisaties doorgaans voorkomen dat journalisten liegen over hun identiteit. Maar, "wat is er mis met het testen van verschillende potentiële woningen of inkomens?" hij vroeg.

"Iemand kan de gegevens altijd krijgen. Het moeilijkere deel is het analyseren van de gegevens en ervoor zorgen dat u geen valse conclusie trekt. Als u eenmaal weet waarnaar u op zoek bent, het is niet zo moeilijk. Er zijn veel tools beschikbaar. Het is interessant, het is belangrijk, onderzoeken herhalen; het is als wetenschap, het kan op veel gebieden van toepassing zijn." Wat werkt bij het analyseren van Amazon, zal werken met uw lokale winkelier, te. En met grote financiële bedrijven - Allstate en Nationwide, Trouw en BlackRock, Fanatici versus Dick's.

Weinberg wil meer professionele berichtgeving sponsoren, inclusief Philadelphia-centric werk. "Ik ben geïnteresseerd in iedereen die deze dingen onder de loep neemt. Ik ben geïnteresseerd in dit gebied, Ik woon hier. Ik ben geïnteresseerd in elke berichtgeving over een diepgaande analyse van wat technologiebedrijven aan het doen zijn. Gerelateerd aan wat we doen (bij DuckDuckGo) of niet. Ik denk dat het schadelijk is voor iedereen."

©2018 The Philadelphia Inquirer
Gedistribueerd door Tribune Content Agency, LLC.