Toen een door de CIA gesteund durfkapitaalfonds een belang nam in Rana el Kaliouby's gezichtsscantechnologie voor het detecteren van emoties, de computerwetenschapper en haar collega's deden wat onderzoek naar hun ziel - en weigerden toen het geld.

"We zijn niet geïnteresseerd in toepassingen waarbij je mensen bespioneert, " zei El Kaliouby, de CEO en mede-oprichter van de Boston-startup Affectiva. Het bedrijf heeft zijn kunstmatige-intelligentiesystemen getraind om te herkennen of mensen blij of verdrietig zijn, moe of boos, met behulp van een fotografisch archief van meer dan 6 miljoen gezichten.

Recente ontwikkelingen in door AI aangedreven computervisie hebben de race voor zelfrijdende auto's versneld en de steeds geavanceerdere functies voor het taggen van foto's op Facebook en Google mogelijk gemaakt. Maar aangezien deze nieuwsgierige AI-'ogen' nieuwe toepassingen vinden in de kassa's van winkels, politiecamera's en oorlogsgebieden, de technologiebedrijven die ze ontwikkelen, worstelen met het balanceren van zakelijke kansen met moeilijke morele beslissingen die klanten of hun eigen werknemers zouden kunnen afstoten.

El Kaliouby zei dat het niet moeilijk voor te stellen is om realtime gezichtsherkenning te gebruiken om oneerlijkheid op te pikken - of, in handen van een autoritair regime, om de reactie op politieke toespraken te monitoren om afwijkende meningen uit te roeien. Maar het kleine bedrijf die voortkwam uit een MIT-onderzoekslab, heeft grenzen gesteld aan wat het zal doen.

Het bedrijf heeft "elke beveiliging, luchthaven, zelfs leugendetectie-dingen, " zei el Kaliouby. In plaats daarvan, Affectiva werkt samen met autofabrikanten die vermoeide chauffeurs proberen wakker te houden, en met consumentenmerken die willen weten of mensen blij of afschuwelijk op een product reageren.

Een dergelijke misselijkheid weerspiegelt nieuwe twijfels over de mogelijkheden en mogelijke misbruiken van alziend, altijd kijken naar AI-camerasystemen, zelfs nu autoriteiten steeds enthousiaster worden om ze te gebruiken.

In de onmiddellijke nasleep van de dodelijke schietpartij van donderdag op een krant in Annapolis, Maryland, De politie zei dat ze zich tot gezichtsherkenning wendden om de niet-meewerkende verdachte te identificeren. Ze deden dit door een staatsdatabase te gebruiken met foto's van arrestanten uit het verleden en, meer controversieel, iedereen die zich heeft ingeschreven voor een rijbewijs in Maryland.

Volgens de eerste informatie die aan de wetshandhavingsinstanties werd gegeven, was de politie overgegaan op gezichtsherkenning omdat de verdachte zijn vingerafdrukken had beschadigd in een kennelijke poging om identificatie te vermijden. Dat rapport bleek onjuist te zijn en de politie zei dat ze gezichtsherkenning gebruikten vanwege vertragingen bij het verkrijgen van vingerafdrukidentificatie.

In juni, Orlando International Airport heeft plannen aangekondigd om tegen het einde van dit jaar gezichtsherkenningsscans van passagiers op alle aankomende en vertrekkende internationale vluchten te verplichten. Verschillende andere Amerikaanse luchthavens gebruiken dergelijke scans al voor sommigen, maar niet alles, vertrekkende internationale vluchten.

Chinese bedrijven en gemeenten gebruiken al intelligente camera's om jaywalkers in realtime te schande te maken en etnische minderheden in de gaten te houden. sommigen onderwerpen aan detentie en politieke indoctrinatie. Dichter bij huis, de overheadcamera's en sensoren in Amazon's nieuwe kassaloze winkel in Seattle hebben tot doel winkeldiefstal overbodig te maken door elk item te volgen dat shoppers oppakken en weer neerleggen.

Bezorgdheid over de technologie kan zelfs de grootste technologiebedrijven opschudden. Google, bijvoorbeeld, zei onlangs dat het een defensiecontract zal beëindigen nadat werknemers protesteerden tegen de militaire toepassing van de AI-technologie van het bedrijf. Het werk omvatte computeranalyse van drone-videobeelden uit Irak en andere conflictgebieden.

Soortgelijke zorgen over overheidscontracten hebben geleid tot interne verdeeldheid bij Amazon en Microsoft. Google heeft sindsdien AI-richtlijnen gepubliceerd waarin de nadruk wordt gelegd op gebruik dat 'sociaal voordelig' is en dat 'oneerlijke vooroordelen' voorkomt.

Amazone, echter, heeft tot dusver de groeiende druk van werknemers en privacyverdedigers om Rekognition stop te zetten, afgewend, een krachtig hulpmiddel voor gezichtsherkenning dat het verkoopt aan politiediensten en andere overheidsinstanties.

Nee zeggen tegen wat werk, natuurlijk, betekent meestal dat iemand anders het doet. Het drone-opnameproject waarbij Google betrokken is, genaamd Project Maven, gericht op het versnellen van het zoeken naar "levenspatronen, dingen die verdacht zijn, aanwijzingen voor mogelijke aanvallen, " zei Robert Werk, een voormalige topfunctionaris van het Pentagon die het project in 2017 lanceerde.

Hoewel het pijn doet om Google kwijt te raken omdat ze "erg, heel goed in, "Werk zei, andere bedrijven zullen die inspanningen voortzetten.

Commerciële en overheidsinteresse in computervisie is explosief gestegen sinds doorbraken eerder in dit decennium met behulp van een hersenachtig "neuraal netwerk" om objecten in afbeeldingen te herkennen. Computers trainen om katten te identificeren in YouTube-video's was een vroege uitdaging in 2012. Nu, Google heeft een smartphone-app die je kan vertellen welk ras.

Een belangrijke onderzoeksbijeenkomst - de jaarlijkse conferentie over computervisie en patroonherkenning, die in juni in Salt Lake City werd gehouden - is getransformeerd van een slaperige academische bijeenkomst van "nerdy mensen" tot een beurs voor goudkoortszaken die grote bedrijven en overheidsinstanties aantrekt, zei Michael Brown, een computerwetenschapper aan de York University in Toronto en een organisator van een conferentie.

Brown zei dat onderzoekers ter plekke goedbetaalde banen hebben gekregen. Maar weinig van de duizenden technische papers die aan de vergadering zijn voorgelegd, gaan in op bredere publieke zorgen over privacy, vooringenomenheid of andere ethische dilemma's. "We hebben waarschijnlijk niet zoveel discussie als we zouden moeten, " hij zei.

Startups banen hun eigen weg. Brian Bracke, de CEO van Kairos, het in Miami gevestigde softwarebedrijf voor gezichtsherkenning, een algemeen beleid heeft ingesteld tegen de verkoop van de technologie aan wetshandhavers of voor overheidstoezicht, stelt in een recent essay dat het "de deur opent voor grof wangedrag door moreel corrupten."

De in Boston gevestigde startup Neurala, daarentegen, bouwt software voor Motorola waarmee door de politie gedragen lichaamscamera's een persoon in een menigte kunnen vinden op basis van wat ze dragen en hoe ze eruit zien. CEO Max Versace zei:"AI is een spiegel van de samenleving, " dus het bedrijf kiest alleen principiële partners.

"Wij maken geen deel uit van dat totalitaire, Orwelliaans schema, " hij zei.

© 2018 The Associated Press. Alle rechten voorbehouden.