Cryptografen houden van een raadsel, een probleem om op te lossen - en deze heeft het allemaal. Onverwoestbare codes, geheime notities, encryptie en decryptie.

Hier is de puzzel:iemand wil een beveiligd bericht online verzenden. Het moet zo privé zijn, zo geheim, dat ze kunnen ontkennen dat ze het ooit hebben gestuurd. Als iemand het bericht lekt, is het nooit te herleiden tot de afzender. Het is allemaal heel Mission:Impossible. Maar er is een kick:als dat bericht misbruik of verkeerde informatie verspreidt, misschien dreigt met geweld, dan moet anonimiteit misschien uit het raam verdwijnen - de afzender moet ter verantwoording worden geroepen.

En dat is de uitdaging:is er een manier om mensen in staat te stellen vertrouwelijke, veilige, niet-traceerbare berichten te verzenden, maar toch dreigende berichten te volgen?

Mayank Varia heeft het raadsel misschien opgelost. Als cryptograaf en computerwetenschapper is Varia een expert op het gebied van de maatschappelijke impact van algoritmen en programma's en ontwikkelt ze systemen die privacy en veiligheid in evenwicht brengen met transparantie en sociale rechtvaardigheid. In samenwerking met een team van computerwetenschappers van de Universiteit van Boston heeft hij een programma ontworpen met de naam Hecate - passend genoemd naar de oude Griekse godin van magie en spreuken - dat kan worden vastgeschroefd aan een beveiligde berichten-app om de vertrouwelijkheid ervan te vergroten, terwijl moderators ook kunnen kraken neer op misbruik. Het team presenteert zijn bevindingen op het 31e USENIX Security Symposium.

"Ons doel in cryptografie is om tools en systemen te bouwen waarmee mensen dingen veilig gedaan kunnen krijgen in de digitale wereld", zegt Varia, universitair hoofddocent aan de BU Faculty of Computing &Data Sciences. "De vraag die in onze paper speelt, is wat de meest effectieve manier is om een ​​mechanisme te bouwen voor het melden van misbruik - de snelste en meest efficiënte manier om de sterkste veiligheidsgaranties te bieden en de zwakst mogelijke doorbraak daarvan te bieden?"

Het is een aanpak die hij ook toepast buiten berichten-apps, door online tools te bouwen waarmee lokale overheden de loonverschillen tussen mannen en vrouwen kunnen volgen - zonder toegang te krijgen tot persoonlijke salarisgegevens - en slachtoffers van seksueel geweld in staat te stellen hun aanvallers veiliger te melden.

Alles valt te ontkennen

Als twee mensen in een privékamer chatten, praten ze alleen tussen hen - er is geen papieren spoor, geen opname; het gesprek leeft alleen in het geheugen voort. Zet hetzelfde gesprek online - Twitter, Facebook, e-mail - en het is een ander verhaal. Elk woord wordt bewaard voor de geschiedenis. Soms is dat goed, maar even vaak niet. Een activist in een autoritaire staat die probeert een journalist te bereiken of een patiënt die hulp zoekt voor een privégezondheidsprobleem, wil misschien niet dat hun woorden de wereld in worden uitgezonden of in een archief worden bewaard.

Dat is waar end-to-end encryptie om de hoek komt kijken. Gepopulariseerd door apps zoals WhatsApp en Signal, vervormt het verzonden berichten in een onleesbaar formaat, en decodeert ze alleen wanneer ze op de telefoon van de ontvanger terechtkomen. Het zorgt er ook voor dat berichten die van de ene persoon naar de andere worden verzonden, niet te herleiden zijn naar de afzender; net als die persoonlijke persoonlijke chat, is het een gesprek zonder spoor of record - alles is te ontkennen.

"Het doel van deze ontkenbare berichtensystemen is dat zelfs als mijn telefoon wordt gecompromitteerd nadat we een gecodeerd berichtengesprek hebben gehad, er geen digitale broodkruimels zijn waarmee een externe persoon zeker weet wat we hebben verzonden of zelfs wie het heeft gezegd, " zegt Varia.

Amnesty International noemt encryptie een mensenrecht, met het argument dat het "een essentiële bescherming is van [ieders] rechten op privacy en vrijheid van meningsuiting", en vooral van vitaal belang voor degenen die corruptie tegengaan of regeringen uitdagen. Maar zoals veel in de online wereld, kan die privacy worden uitgebuit of verbogen voor meer sinistere doeleinden. "Er zijn specifieke momenten waarop dit een slechte zaak kan zijn", zegt Varia. "Stel dat de berichten die iemand verzendt intimiderend en beledigend zijn en je wilt hulp gaan zoeken, dan wil je aan de moderator kunnen bewijzen wat de inhoud van het bericht was en wie ze tegen jou heeft gezegd."

Uit een onderzoek onder basisschoolleerlingen, middelbare scholieren en middelbare scholieren in Israël, waar naar verluidt meer dan 97 procent van de kinderen WhatsApp gebruikt, bleek dat 30 procent werd gepest via de app, terwijl Britse aanklagers zeiden dat end-to-end encryptie hun vaardigheden zou kunnen schaden om kindermisbruikers op te pakken en te stoppen. Extremistische groeperingen, van Islamitische Staat tot binnenlandse terroristen, hebben op versleutelde apps zoals Telegram en Signal geleund om hun oproepen tot geweld te verspreiden.

De taak voor techbedrijven is het vinden van een manier om het recht op privacy te ondersteunen met de noodzaak van verantwoording. Hecate biedt een manier om beide te doen:het stelt app-gebruikers in staat om te ontkennen dat ze ooit een bericht hebben verzonden, maar ook om te worden gerapporteerd als ze iets beledigends zeggen.

Een bericht in onzichtbare inkt

Ontwikkeld door Varia en promovendi Rawane Issa en Nicolas Alhaddad, begint Hecate met de verantwoordingskant van die tegenstrijdige ontkenbare en traceerbare combinatie. Met behulp van het programma maakt de moderator van een app een unieke reeks elektronische handtekeningen (of tokens) voor elke gebruiker. Wanneer die gebruiker een bericht stuurt, gaat er een verborgen token mee voor de rit. Als de ontvanger besluit dat bericht te rapporteren, kan de moderator het token van de afzender verifiëren en actie ondernemen. Dit wordt asymmetrische berichtfrankering genoemd.

De fail-safe, zegt Varia, het onderdeel dat ontkenning mogelijk maakt, is dat het token alleen nuttig is voor de moderator.

"Het token is een gecodeerde verklaring die alleen de moderator kan lezen - het is alsof ze een bericht in onzichtbare inkt hebben geschreven voor hun toekomstige zelf", zegt Varia. "De moderator is degene die deze tokens bouwt. Dat is het handige aan ons systeem:zelfs als de moderator schurkenstaten wordt, kunnen ze de rest van de wereld niet laten zien en overtuigen - ze hebben geen digitaal bewijs, geen broodkruimels die ze kunnen laten zien aan iemand anders."

De gebruiker kan de ontkenning behouden, tenminste in het openbaar.

Er bestaan ​​al soortgelijke frankeersystemen voor berichten - Facebook-ouder Meta gebruikt er een op WhatsApp - maar Varia zegt dat Hecate sneller, veiliger en toekomstbestendiger is op een manier waarop huidige programma's dat niet zijn.

"Hecate is het eerste frankeerschema voor berichten dat tegelijkertijd een snelle uitvoering bereikt op een telefoon en voor de moderatorserver, ondersteuning voor het doorsturen van berichten en compatibiliteit met anonieme communicatienetwerken zoals de verzegelde afzender van Signal", zegt Varia. "Vorige constructies behaalden hoogstens twee van deze drie doelstellingen."

De maatschappelijke impact van algoritmen

Het team zegt dat Hecate klaar kan zijn voor implementatie op apps zoals Signal en WhatsApp met slechts een paar maanden van aangepaste ontwikkeling en testen. Maar ondanks de technologische voordelen, stelt Varia voor dat bedrijven Hecate voorzichtig benaderen totdat ze de potentiële maatschappelijke impact ervan volledig hebben onderzocht.

"Er is een kwestie van kunnen we dit bouwen, er is ook een kwestie van moeten we dit bouwen?" zegt Varia. "We kunnen proberen deze tools te ontwerpen die veiligheidsvoordelen bieden, maar er kunnen langere dialogen en discussies zijn met getroffen gemeenschappen. Bereiken we het juiste idee van veiligheid voor bijvoorbeeld de journalist, de dissident, de mensen die online worden lastiggevallen?"

Als hoofd van CDS' Hub voor Civic Tech Impact is Varia gewend om na te denken over de maatschappelijke en beleidsimplicaties van zijn onderzoek. Het doel van de hub is om software en algoritmen te ontwikkelen die het algemeen belang bevorderen, of ze nu helpen om verkeerde informatie te bestrijden of om de transparantie van de overheid te vergroten. Een thema van recente projecten is het creëren van programma's die, net als Hecate, de grens tussen privacy en aansprakelijkheid overschrijden.

Tijdens een recente samenwerking met de Boston Women's Workforce Council hebben computerwetenschappers van de BU bijvoorbeeld een rekenmachine voor de loonkloof tussen mannen en vrouwen gebouwd waarmee bedrijven salarissen met de stad kunnen delen zonder dat gevoelige loongegevens hun servers verlaten.

"We ontwerpen tools waarmee mensen - het klinkt contra-intuïtief - gegevens kunnen berekenen die ze niet kunnen zien", zegt Varia, die lid is van de Advisory Committee on Data for Evidence Building van de federale overheid. "Misschien wil ik je een bericht sturen, maar ik wil niet dat je het leest; het is raar, maar misschien sturen een aantal van ons informatie en willen we dat je er wat berekeningen over kunt doen."

Dat trok de aandacht van het Defense Advanced Research Projects Agency en het Naval Information Warfare Center, die beide het werk financierden dat tot Hecate leidde en er belang bij hebben computerexperts te vragen gegevens te kraken zonder ooit de geheimen te zien die erin verborgen zijn.

Varia's benadering van encryptie kan ook voordelen bieden aan overlevenden van seksueel misbruik. Hij werkte onlangs samen met de in San Francisco gevestigde non-profitorganisatie Callisto om een ​​nieuw veilig rapportagesysteem voor aanranding te ontwikkelen. Geïnspireerd door de #MeToo-beweging, is het doel om slachtoffers van mishandeling te helpen die bang zijn om naar voren te komen.

"Ze melden hun geval van aanranding in ons systeem en dat rapport verdwijnt als het ware in de ether", zegt Varia. "Maar als iemand anders meldt dat hij ook is aangevallen door dezelfde dader, dan - en alleen dan - identificeert het systeem het bestaan ​​van deze match."

Die informatie gaat naar een vrijwillige advocaat - gebonden aan het privilege van advocaat en cliënt - die vervolgens met de slachtoffers en overlevenden kan werken aan de volgende stappen. Net als Hecate zegt Varia een balans te vinden tussen privacy en openheid, tussen ontkenning en traceerbaarheid.

"Als we het hebben over afwegingen tussen privacy, digitale burgerlijke vrijheden en andere rechten, is er soms een natuurlijke spanning", zegt Varia. "Maar we kunnen beide doen:we hoeven geen systeem te bouwen dat bulktoezicht, grootschalige toewijzing van metadata van wie met wie praat mogelijk maakt; we kunnen sterke persoonlijke privacy en mensenrechten bieden, terwijl we ook online vertrouwen en veiligheid en het helpen van mensen die het nodig hebben." + Verder verkennen

Research biedt oplossing voor het hacken van versleutelde berichten voor verzending of na ontvangst