De wereld produceert elke dag ongeveer 2,5 triljoen bytes aan data. Het opslaan en overbrengen van al dit enorme - en voortdurend groeiende - aantal afbeeldingen, videos, Tweet, en andere vormen van data wordt een grote uitdaging, een die de groei van het internet dreigt te ondermijnen en de introductie van nieuwe technologieën, zoals het internet der dingen.

Nutsvoorzieningen, een team van onderzoekers meldt dat een algoritme dat gebruikmaakt van een machine learning-techniek op basis van het menselijk brein, die gegevensopstopping zou kunnen verminderen door de grootte van multimediabestanden te verkleinen, zoals video's en afbeeldingen, en herstellen zonder veel kwaliteit of informatie te verliezen. Machine learning is een vorm van kunstmatige intelligentie, of AI.

In een onderzoek, de onderzoekers ontwikkelden een algoritme met een terugkerend neuraal netwerk om gegevens te comprimeren en te herstellen, volgens C. Lee Giles, David Reese Hoogleraar Informatiewetenschappen en Technologie, Penn staat, en een medewerker van het Institute for CyberScience. In dit geval, het algoritme, die ze het iteratieve verfijningsalgoritme noemden, die zich richt op de stap decoderen of herstellen, in staat was om herstelde afbeeldingen te produceren met een betere kwaliteit dan de benchmarks die voor het onderzoek waren geselecteerd, inclusief een compressiesysteem ontworpen door Google, die de onderzoekers destijds als de beste beschouwden.

Mensen comprimeren gegevens om meer foto's op hun smartphone op te slaan, bijvoorbeeld, of deel video's op internet of via sociale-mediaplatforms zoals YouTube en Twitter.

Hij zei dat het succes van het systeem bij het comprimeren van bestanden te danken is aan het gebruik van een terugkerende neurale netwerkdecoder, in plaats van een feedforward-netwerk of een conventionele (lineaire) decoder. Een terugkerend neuraal netwerk gebruikt stateful geheugen, waarmee het stukjes gegevens kan opslaan terwijl het berekeningen maakt. Echter, een normaal neuraal netwerk - of feedforward neuraal netwerk - kan geen gegevens opslaan en kan informatie alleen sequentieel verwerken. Met de extra geheugencapaciteit, terugkerende neurale netwerken kunnen beter presteren bij taken, zoals beeldherkenning.

"Een terugkerend systeem heeft feedback, terwijl een meerlagig perceptron, of convolutienet, of een ander soortgelijk type neuraal netwerk, zijn meestal feedforward, met andere woorden, de gegevens gaan gewoon door, het wordt niet opgeslagen als geheugen, ' zei Gilles.

David Molenaar, hoogleraar elektrotechniek en informatica, die met Giles werkte, zei dat "het belangrijkste voordeel van herhaling in deze context voor beelddecodering is dat het gebruik maakt van correlaties over lange ruimtelijke gebieden van het beeld dan een conventionele beelddecoder."

Een ander voordeel van het algoritme, vergeleken met concurrerende systemen, was de eenvoud van het ontwerp van het algoritme, zeiden de onderzoekers, die onlangs hun bevindingen rapporteerden op de Data Compression Conference (DCC).

"We hebben eigenlijk alleen het terugkerende neurale netwerk aan het einde van het proces, vergeleken met die van Google, waaronder terugkerende neurale netwerken, maar ze zijn op veel verschillende lagen geplaatst, wat de complexiteit vergroot, ' zei Gilles.

Een van de problemen met compressie is dat wanneer een gecomprimeerde afbeelding of video wordt hersteld, het bestand kan stukjes informatie verliezen, waardoor de afbeelding of video wazig kan worden, of vervormd. De onderzoekers testten het algoritme op verschillende afbeeldingen en het was in staat om de afbeeldingen op te slaan en te reconstrueren met een hogere kwaliteit dan het algoritme van Google en andere benchmarksystemen.

Neurale netwerken ordenen hun elektronische 'neuronen' net zoals de hersenen zijn samengesteld uit netwerken van neuronen; echter, Alexander G. Ororbia, een assistent-professor aan het Rochester Institute of Technology, wiens onderzoek zich richt op het ontwikkelen van biologisch gemotiveerde neurale systemen, en leeralgoritmen leiden in dit onderzoek, zei elektronische hersenen zijn veel eenvoudiger.

"Het belangrijkste om te onthouden is dat deze neurale netwerken losjes gebaseerd zijn op de hersenen, " zei Ororbia. "De neuronen die deel uitmaken van een elektronisch neuraal netwerk zijn veel, veel eenvoudiger. Echte biologische neuronen zijn extreem complex. Sommige mensen zeggen dat het elektronische neurale netwerk bijna een karikatuur is van het neurale netwerk van de hersenen."

Giles zei dat het idee om terugkerende neurale netwerken te gebruiken voor compressie voortkwam uit het opnieuw bekijken van oud neuraal netwerkonderzoek naar het compressieprobleem, .

"We merkten dat er niet veel was over het gebruik van neuraal netwerk voor compressie - en we vroegen ons af waarom, "zei Giles. "Het is altijd goed om oud werk opnieuw te bekijken om iets te zien dat vandaag van toepassing zou kunnen zijn."

De onderzoekers testten het vermogen van hun algoritme om een ​​afbeelding te comprimeren en te herstellen in vergelijking met het systeem van Google met behulp van drie onafhankelijke statistieken die de beeldkwaliteit evalueren:Peak Signal Noise Ratio, Structurele gelijkenis-beeldindex en meerschalige structurele gelijkenis-beeldindex - die de beeldkwaliteit evalueren.

"De resultaten van alle onafhankelijke benchmarks en testsets en voor alle statistieken, laten zien dat het voorgestelde iteratieve verfijningsalgoritme afbeeldingen produceerde met minder vervorming en hogere perceptuele kwaliteit, " zei Ankur Mali, een promovendus aan Penn State, die veel meewerkte aan de technische implementatie van het systeem.

In de toekomst, de onderzoekers kunnen ook onderzoeken of het systeem gemakkelijker te trainen is dan concurrerende algoritmen.

While all the compression neural networks require training—feeding data into the system to teach it how to perform—Giles thinks the team's design may be easier to train.

"I would guess it's much, much faster, in terms of training, te, ' zei Gilles.