Waarom delen we berichten op Facebook?

Zoeken we feitelijke informatie, zoals de naam van de plant die de voortuin overneemt? Uiten we frustratie terwijl we sympathie zoeken? Is het puur narcisme of narcisme bij volmacht, via onze kinderen? Is het opscheppen, of de stiekeme neef van opscheppen, nederig opscheppen?

Of is het iets ergers?

Inhoud met kwade bedoelingen vormt een groot probleem voor Facebook, die op zoek is naar een manier om snel schadelijke berichten te identificeren en te verwijderen, zoals de livestreaming van de massaschietpartij op 15 maart in Nieuw-Zeeland, te midden van een hoeveelheid inhoud die te groot is voor mensen om te modereren.

Serge Belongie, hoogleraar computerwetenschappen aan Cornell Tech, bestudeert wat hij 'intentonomie' noemt - het complexe psycho-emotionele landschap dat op de loer ligt achter Facebook- en Instagram-berichten.

Belongie en zijn team werken samen met Facebook om mogelijke intenties voor het plaatsen van berichten te definiëren - van goedaardig tot polariserend tot hatelijk - en vullen een dataset met voorbeelden. Het doel is om een ​​machine learning-systeem te creëren en te trainen dat de intentie kan voorspellen en, eventueel, waarschuw het sociale netwerk in realtime over problematische berichten.

"De menselijke natuur en politiek en stammengedrag, monetaire prikkels - er spelen gewoon een ontelbaar aantal dingen mee, " zei Belongie, die $ 1,77 miljoen ontving, driejarige subsidie ​​van Facebook om te werken aan projecten die verband houden met het identificeren van inhoud met kwaadaardige bedoelingen. "Het beste wat we kunnen doen, is hulpmiddelen aanreiken zodat als iemand te goeder trouw aan tafel komt, ze kunnen de informatie van de verkeerde informatie scheiden."

In een apart project Het team van Belongie werkt aan machine learning-benaderingen voor het opsporen van vervalsingen. Mensen die advertenties op Facebook kopen, moeten hun account valideren met identificatie; Belongie zal zijn expertise op het gebied van computervisie - een gebied van kunstmatige intelligentie dat gericht is op het leren van machines om te zien zoals mensen doen - gebruiken om methoden te ontwikkelen die kunnen bepalen of die ID's nep zijn.

"Conventionele benaderingen voor machinaal leren vereisen dat je grote trainingssets met echte ID's hebt, uit elke staat, elk jaar bereik, verzameld door een professionele en dan heb je een groot aantal valse ID's nodig, " Zei Belongie. "Het is erg moeilijk om aan dat soort gelabelde gegevens te komen; er is niet veel van."

In plaats daarvan, zijn aanpak zal voortbouwen op het onderzoek van zijn groep naar het gebruik van computervisie om fijnkorrelige verschillen tussen planten te herkennen, dieren en paddenstoelen. Een vergelijkbare aanpak kan nuttig zijn voor het vinden van kleine details die vervalste identiteitsbewijzen onthullen, zoals de verkeerde soort komma of apostrof.

"Als iemand me gewoon een emmer met gegevens geeft en het meeste is correct, het meeste is echt, hoe vind je die speld in de hooiberg?" zei hij. "Ons doel is om afwijkingen op te sporen - dingen vinden die niet op hun plaats zijn."