Toen de FBI in 2016 een gerechtelijk bevel uitvaardigde waarin ze Apple opdroeg de iPhone van de San Bernandino-schutter te ontgrendelen, het nieuws haalde de krantenkoppen over de hele wereld. Toch zijn er elke dag tienduizenden andere gerechtelijke bevelen die technologiebedrijven vragen om privégegevens van Amerikanen over te dragen. Veel van deze orders zien nooit het daglicht, waardoor een heel privacygevoelig aspect van de regeringsmacht immuun blijft voor gerechtelijk toezicht en het ontbreekt aan publieke verantwoording.

Om de integriteit van lopende onderzoeken te beschermen, deze gegevensverzoeken vereisen enige geheimhouding:bedrijven mogen individuele gebruikers meestal niet informeren dat ze worden onderzocht, en de rechterlijke bevelen zelf zijn ook tijdelijk verborgen voor het publiek.

Vaak, Hoewel, aanklachten komen nooit echt uit, en de verzegelde bevelen worden meestal vergeten door de rechtbanken die ze uitvaardigen, resulterend in een ernstig verantwoordingstekort.

Om dit probleem aan te pakken, onderzoekers van MIT's Computer Science and Artificial Intelligence Laboratory (CSAIL) en Internet Policy Research Initiative (IPRI) hebben een nieuw cryptografisch systeem voorgesteld om de aansprakelijkheid van overheidssurveillance te verbeteren en toch voldoende vertrouwelijkheid te handhaven zodat de politie hun werk kan doen.

"Hoewel bepaalde informatie misschien geheim moet blijven om een ​​onderzoek goed te laten verlopen, sommige details moeten worden onthuld om verantwoording mogelijk te maken, " zegt CSAIL-afgestudeerde student Jonathan Frankle, een van de hoofdauteurs van een nieuw artikel over het systeem, die ze "AUDIT" ("Accountability of Unreleased Data for Improved Transparency") hebben genoemd. "Dit werk gaat over het gebruik van moderne cryptografie om creatieve manieren te ontwikkelen om deze tegenstrijdige problemen in evenwicht te brengen."

Veel van de technische methoden van AUDIT zijn ontwikkeld door een van zijn co-auteurs, MIT-professor Shafi Goldwasser. AUDIT is ontworpen rond een grootboek waarop overheidsfunctionarissen informatie over gegevensverzoeken delen. Wanneer een rechter een geheim gerechtelijk bevel uitvaardigt of een wetshandhavingsinstantie in het geheim gegevens opvraagt ​​bij een bedrijf, ze moeten een ijzersterke belofte doen om het gegevensverzoek later openbaar te maken in de vorm van wat bekend staat als een 'cryptografische verbintenis'. Als de rechter uiteindelijk besluit de gegevens vrij te geven, het publiek kan er zeker van zijn dat de juiste documenten volledig zijn vrijgegeven. Als de rechtbanken besluiten dit niet te doen, dan wordt die weigering zelf kenbaar gemaakt.

AUDIT kan ook worden gebruikt om aan te tonen dat acties van wetshandhavingsinstanties in overeenstemming zijn met wat een gerechtelijk bevel daadwerkelijk toestaat. Bijvoorbeeld, als een gerechtelijk bevel ertoe leidt dat de FBI naar Amazon gaat om gegevens over een specifieke klant te krijgen, AUDIT kan bewijzen dat het verzoek van de FBI boven verwachting is met behulp van een cryptografische methode die 'zero-knowledge proofs' wordt genoemd. Voor het eerst ontwikkeld in de jaren 80 door Goldwasser en andere onderzoekers, deze bewijzen maken het contra-intuïtief mogelijk om te bewijzen dat de bewaking correct wordt uitgevoerd zonder specifieke informatie over de bewaking te onthullen.

De aanpak van AUDIT bouwt voort op privacyonderzoek in verantwoordelijke systemen onder leiding van medeauteur Daniel J. Weitzner, directeur van IPR.

"Naarmate de hoeveelheid persoonlijke informatie toeneemt, betere verantwoording over de manier waarop die informatie wordt gebruikt, is essentieel voor het behoud van het vertrouwen van het publiek, ", zegt Weitzner. "We weten dat het publiek zich zorgen maakt over het verlies van de controle over hun persoonlijke gegevens, dus het bouwen van technologie die de feitelijke verantwoording kan verbeteren, zal het vertrouwen in de internetomgeving in het algemeen helpen vergroten."

Als een verdere poging om de aansprakelijkheid te verbeteren, Ook kan statistische informatie uit de data worden geaggregeerd, zodat de omvang van de surveillance op grotere schaal kan worden onderzocht. Hierdoor kan het publiek allerlei lastige vragen stellen over hoe hun gegevens worden gedeeld. Wat voor soort zaken zullen hoogstwaarschijnlijk leiden tot gerechtelijke bevelen? Hoeveel rechters hebben het afgelopen jaar meer dan 100 bevelen uitgevaardigd, of meer dan 10 verzoeken aan Facebook deze maand? Frankle zegt dat het doel van het team is om een ​​reeks betrouwbare, door de rechtbank uitgegeven transparantieverslagen, als aanvulling op de vrijwillige rapporten die bedrijven uitbrengen.

"We weten dat het rechtssysteem moeite heeft om gelijke tred te houden met de complexiteit van het toenemende geavanceerde gebruik van persoonlijke gegevens, " says Weitzner. "Systems like AUDIT can help courts keep track of how the police conduct surveillance and assure that they are acting within the scope of the law, without impeding legitimate investigative activity."

belangrijk, the team developed its aggregation system using an approach called multi-party computation (MPC), which allows courts to disclose relevant information without actually revealing their internal workings or data to one another. The current state-of-the-art MPC would normally be too slow to run on the data of hundreds of federal judges across the entire court system, so the team took advantage of the court system's natural hierarchy of lower and higher courts to design a particular variant of MPC that would scale efficiently for the federal judiciary.

"[AUDIT] represents a plausible way, both legally and technologically, for increasing public accountability through modern cryptographic proofs of integrity, " says Eli Ben-Sasson, a professor in the computer science department at the Technion Israel Institute of Technology.

According to Frankle, AUDIT could be applied to any process in which data must be both kept secret but also subject to public scrutiny. Bijvoorbeeld, clinical trials of new drugs often involve private information, but also require enough transparency to assure regulators and the public that proper testing protocols are being observed.

"It's completely reasonable for government officials to want some level of secrecy, so that they can perform their duties without fear of interference from those who are under investigation, " Frankle says. "But that secrecy can't be permanent. People have a right to know if their personal data has been accessed, and at a higher level, we as a public have the right to know how much surveillance is going on."

Next the team plans to explore what could be done to AUDIT so that it can handle even more complex data requests—specifically, by looking at tweaking the design via software engineering. They also are exploring the possibility of partnering with specific federal judges to develop a prototype for real-world use.

"My hope is that, once this proof of concept becomes reality, court administrators will embrace the possibility of enhancing public oversight while preserving necessary secrecy, " says Stephen William Smith, a federal magistrate judge who has written extensively about government accountability. "Lessons learned here will undoubtedly smooth the way towards greater accountability for a broader class of secret information processes, which are a hallmark of our digital age."

Frankle co-wrote the paper with Goldwasser, Weitzner, CSAIL Ph.D. graduate Sunoo Park and undergraduate Daniel Shaar, The paper will be presented at the USENIX Security conference in Baltimore August 15 to 17.

IPRI team members will also discuss related surveillance issues in more detail at upcoming workshops for both USENIX and this month's International Cryptography Conference (Crypto 2018) in Santa Barbara.