science >> Wetenschap >  >> Elektronica

Hack zorgt ervoor dat grote apps antisemitische naam tonen

Technologiegebruikers kregen donderdagochtend een verrassing toen hun sociale en lifestyle-apps de meest bevolkte stad van de Verenigde Staten schijnbaar bestempelden met een antisemitische kop.

Een aantal mensen plaatste screenshots op Twitter waarop te zien was dat "New York City" was omgedoopt tot "Jewtropolis" op de Mapbox-kaart die wordt gebruikt door bedrijven en diensten zoals Snapchat-ouder Snap, Citi Bike en Foursquare.

kaartenbak, een leverancier van digitale kaarttechnologie, zei dat het een "kwaadaardige bewerking" had ondergaan door een persoon die probeerde meer dan 80 wijzigingen aan te brengen in de gegevens van zijn kaarten in een "walgelijke antisemitische tirade" in New York en andere delen van de wereld. Ze werden allemaal in quarantaine geplaatst voor menselijke beoordeling door de kunstmatige intelligentie aangedreven algoritmen van het bedrijf, en slechts één bewerking maakte het minder dan een uur op de eigenlijke kaart voordat het werd verwijderd.

"Het laat zien dat hoe slim je je AI ook bouwt, in de menselijke beoordelingsfase kun je nog steeds een punt van mislukking hebben, ", zegt Mapbox-CEO Eric Gundersen.

Nathan Roy, 25, was onder gebruikers gealarmeerd door de naamswijziging. Hoewel hij in Boston woont, hij werd op de kwestie gewezen door een vriend uit New York. Hij zei dat zijn eerste reactie een schok was.

"Ik weet dat veel mensen daarbuiten deze gevoelens koesteren, "Zei Roy. "Het is gewoon altijd teleurstellend om het steeds weer te zien opduiken."

Evan Bernstein, een regionale directeur van de Anti-Defamation League, leek minder verrast. Hij zei dat mensen met antisemitische overtuigingen sinds de verkiezingen van 2016 de macht hebben gekregen en zich verschuilen achter internet.

"Haters zoeken steeds vaker naar manieren om te profiteren van nieuwe technologieën en antisemitisme te promoten, "Zei Bernstein. "We zien haat online gaan. Dit is daar weer een perfect voorbeeld van."

De League heeft tussen 2016 en 2017 een stijging van 90 procent bijgehouden in antisemitische incidenten in de staat New York. Dergelijke incidenten omvatten fysieke aanvallen, aanvallen, intimidatie en vandalisme.

Mapbox zei dat het "een nultolerantiebeleid heeft tegen haatzaaiende uitlatingen" en dat zijn werknemers "deze daad zouden blijven onderzoeken en de nodige wijzigingen zouden aanbrengen om de kans op toekomstige menselijke fouten verder te beperken".

Een woordvoerder van Snap zei dat het afhankelijk is van kaartgegevens van derden en samenwerkte met Mapbox om de hack op te lossen. Snap zei dat de defacement "diep beledigend" was.

© 2018 The Associated Press. Alle rechten voorbehouden.