Noem het slim, merk het als een bedrieger, maar schaam je niet om het vreselijk interessant te vinden. De "het" is CycleGAN, en de link naar steganografie - waar berichten en informatie verborgen zijn in niet-geheime tekst of gegevens.

Dus, anno 2019 kan het voor mensen niet zo schokkend zijn om te horen dat een machine, geen mens, kan zich een weg banen door een taak. De AI in dit geval, als goede menselijke spionnen en oplichters, geleerd wanneer bepaalde informatie moet worden verborgen die later kan worden gebruikt.

In Packt , Bhagyashree R schreef:"De onderzoekers ontdekten dat de machine gegevens van de luchtkaart codeerde in de ruispatronen van de stratenkaart op de benedenverdieping. De code was zo subtiel dat het onzichtbaar zou zijn voor het menselijk oog. Maar bij nader inzien, toen de details waren versterkt, het was duidelijk dat de machine duizenden kleine kleurveranderingen had aangebracht die visuele gegevens aanduiden die als spiekbriefje konden worden gebruikt bij het opnieuw maken van de luchtfoto - vandaar de magisch weer verschijnende dakramen."

In de tussentijd, een veel geciteerd artikel over het onderwerp (het onderzoek werd behandeld door een aantal tech-watching-sites, eigenlijk) vatte samen wat de onderzoekers ontdekten. "Een machine learning-agent die luchtbeelden moest omzetten in plattegronden en terug, bleek vals te spelen door informatie te verbergen die hij later nodig zou hebben in 'een bijna onmerkbare, hoogfrequent signaal, " zei TechCrunch .

Lily Hay Newman in Bedrade in 2017 de lezers eraan herinnerde dat steganografie een oude praktijk is, gisteren niets geboren. Denk dat Da Vinci een geheime betekenis in een schilderij verankert; of spionnen van weleer die in onzichtbare inkt schreven.

Als de praktijk oud is, Hoewel, er zijn enkele hedendaagse problemen. We zijn, ten slotte, in een digitale wereld waar alle ondeugden en deugden online nieuwe processen hebben aangenomen.

Steganografie wordt alleen maar moeilijker te herkennen, zei BankInfoBeveiliging , en is "reeds gebruikt door slechte acteurs."

Mathew Schwartz zei dat digitale steganografie het leven van wetshandhavingsinstanties moeilijker lijkt te maken en citeerde een universiteitsprofessor die een soortgelijke opmerking maakte. "Volkomen te ontkennen steganografische schijfversleuteling wordt een nachtmerrie als het gaat om het verzamelen van digitaal bewijsmateriaal. " zei Alan Woodward, een professor in de informatica aan de Universiteit van Surrey.

Snel vooruit naar rapporten die nu binnen zijn, dat een groep van Stanford- en Google-onderzoekers een onderzoek heeft uitgevoerd naar hoe een neuraal netwerk, CyclusGAN, leert vals spelen. De krant:CycleGAN, een Master of Steganography staat op arXiv en de drie auteurs zijn Casey Chu (Stanford), Andrey Zhmoginov (Google) en Mark Sandler (Google).

Zij schreven, "CycleGAN leert informatie over een bronafbeelding te 'verbergen' in de afbeeldingen die het genereert op een bijna onmerkbare, hoogfrequent signaal."

Als onderdeel van hun sectie Discussie, de auteurs maken het punt dat "Door informatie op deze manier te coderen, CycleGAN wordt bijzonder kwetsbaar voor vijandige aanvallen; een aanvaller kan ervoor zorgen dat een van de geleerde transformaties een afbeelding naar keuze produceert door een gekozen bronafbeelding te verstoren."

Hun advies? Ze schreven dat "de aanwezigheid van dit fenomeen aangeeft dat voorzichtigheid geboden is bij het ontwerpen van verliesfuncties waarbij composities van neurale netwerken betrokken zijn:dergelijke modellen kunnen zich op niet-intuïtieve manieren gedragen als een component profiteert van het vermogen van de andere component om tegenstrijdige voorbeelden te ondersteunen."

Gemeenschappelijke kaders, volgens de auteurs zoals generatieve vijandige netwerken en perceptuele verliezen gebruiken deze composities. Ze zeiden dat "deze kaders zorgvuldig moeten worden geanalyseerd om er zeker van te zijn dat tegenstrijdige voorbeelden geen probleem vormen."

Maar wacht. Moeten we naar de heuvels rennen met schreeuwende angst dat robots en AI ons allemaal zullen afmaken? Gelukkig, Devin Coldewey kalmeerde lezers in TechCrunch . Het voorval "onthult gewoon een probleem met computers dat al bestaat sinds ze zijn uitgevonden:ze doen precies wat je ze zegt te doen."

Wat bedoelde Coldewey daarmee? "De bedoeling van de onderzoekers was, zoals je zou kunnen raden, om het proces van het omzetten van satellietbeelden in de beroemde nauwkeurige kaarten van Google te versnellen en te verbeteren. Daartoe werkte het team met wat een CycleGAN wordt genoemd - een neuraal netwerk dat leert afbeeldingen van type X en Y in elkaar om te zetten. zo efficiënt en nauwkeurig mogelijk, door veel te experimenteren."

De computer kwam tot een oplossing "die licht wierp op een mogelijke zwakte van dit type neuraal netwerk - dat de computer, indien dit niet uitdrukkelijk wordt verhinderd, zal in wezen een manier vinden om details naar zichzelf door te geven in het belang van het snel en gemakkelijk oplossen van een bepaald probleem."

© 2019 Wetenschap X Netwerk