science >> Wetenschap >  >> Elektronica

AI-technologie gebruiken om cyberpesten te voorkomen

Prabhu pitcht ReThink in een aflevering van ABC's Shark Tank. Krediet:Trisha Prabhu

Op 9 september 2013, na jaren van gruwelijk cyberpesten door toedoen van haar Lakeland, Fla., klasgenoten, De 12-jarige Rebecca Sedwick klom naar de top van een watertoren en sprong haar dood tegemoet.

Honderden kilometers ver, in Naperville, Ziek., De 13-jarige Trisha Prabhu las over de zelfmoord van Sedwick met een mengeling van angst en verontwaardiging.

"Ik bedacht me, hoe kan een meisje dat een jaar jonger is dan ik tot dit punt worden geduwd? Ik besloot dat ik geen toeschouwer meer kon zijn, " zei Prabhu, nu een eerstejaarsstudent van Harvard. "Omdat cyberpesten een probleem is waar tieners zoveel mee te maken hebben, Ik vond dat een tiener degene zou moeten zijn die het voortouw moet nemen bij een aantal van de volgende grote werken om het aan te pakken. Dus zonder enige autoriteit of geloofsbrieven, Ik besloot dat ik die persoon moest zijn. Ik voelde dat ik het aan Rebecca verschuldigd was, en alle anderen die hun leven of hun dierbaren hadden verloren aan wat echt gewoon zinloos is."

Prabhu verdiepte zich in het nieuwste psychologische en sociologische onderzoek naar het ongebreidelde probleem van cyberpesten. Ze was geïnteresseerd om te horen dat de prefrontale cortex, het deel van de hersenen dat rationele besluitvorming controleert, is meestal niet volledig ontwikkeld totdat een persoon 25 is.

Maar onbelemmerde toegang tot sociale media, sms'en, en online communicatiekanalen geven tieners de kracht om elkaar te beïnvloeden, vaak zonder basiskennis van concepten van digitaal burgerschap, ze zei.

"Ik dacht, wat als ik tieners kan dwingen om echt na te denken over wat ze doen op sociale media en hen in staat te stellen de juiste beslissing te nemen? Zo is ReThink ontstaan, "Zei ze. "Onze kern is een heel eenvoudig idee - als we tieners een tweede kans geven om na te denken over het sturen van aanstootgevende berichten op sociale media, niet alleen zullen ze die berichten niet verzenden, ze zullen het met een enorme marge doen."

Denk opnieuw na, een iPhone- en Android-app, installeert een digitaal toetsenbord dat het standaard toetsenbord van een smartphone vervangt. Het lijkt identiek en integreert naadloos met andere apps, zoals e-mailclients en sociale-mediaplatforms. Het enige verschil:het gebruikt kunstmatige intelligentie om aanstootgevende woorden te identificeren, en zet vervolgens pop-upwaarschuwingen in om de gebruiker de kans te geven te heroverwegen om die woorden in een e-mail te verzenden, tekst, of post op sociale media.

Sinds Prabhu de startup drie jaar geleden lanceerde, ReThink heeft wereldwijd meer dan 2,5 miljoen gebruikers bereikt. ReThink won onlangs de Mckinley Social Silver Medal in de i3 Innovation Challenge van dit jaar, gesponsord door het Technology and Entrepreneurship Center van Harvard, en claimde ook een van de vier, $75, 000 hoofdprijzen in de University's President's Innovation Challenge.

Veel van de grootste uitdagingen waarmee Prabhu te maken heeft gehad, zijn van technische aard. Het ontwikkelen van kunstmatige intelligentie die het sentiment van een mogelijk aanstootgevende boodschap effectief kan bepalen ("Ik haat je" versus "Ik haat het weer, " bijvoorbeeld) is een complex probleem. Het was vooral moeilijk om ervoor te zorgen dat de app naadloos werkt en toch semi-gesuperviseerde machine learning-modellen bevat die de nauwkeurigheid voortdurend verbeteren.

Het was ook een uitdaging om "triggerwoorden" te bedenken die in elke context aanstootgevend zijn, vooral bij het overwegen van andere talen (ReThink is beschikbaar in het Engels, Spaans en Hindi).

"Dit is een moeilijk genoeg probleem in het Engels, wat is mijn moedertaal, vanwege het jargon en de onbeperkte taalkundige mogelijkheden om te overwegen. Het is een proces dat we nooit zullen afmaken omdat, naarmate de taal evolueert, we zullen moeten evolueren, te, "zei ze. "Om in deze ruimte te komen, Ik heb nooit echt over taal nagedacht. Maar denkend aan pesten en cyberpesten, het komt echt neer op hoe we communiceren. Dat te doen op een mondiale sfeer was een geweldige reis, maar veel hard werk."

Het ReThink-team, die nu bestaat uit acht medewerkers die op afstand werken, heeft taalkundige experts in dienst om deze uitdagingen aan te gaan. Prabhu zei dat de snelle groei van ReThink, en het succes van zijn bedrijfsmodel, zijn een bewijs van de effectiviteit van het dynamische en diverse team van het bedrijf.

Hoewel de app gratis is voor gebruikers, ReThink verdient inkomsten door samen te werken met scholen, die een jaarlijks abonnementsgeld betalen voor technologie-implementatie en toegang tot gebruikersgegevens.

"Scholen staan ​​natuurlijk voor een enorme verantwoordelijkheid wanneer studenten deze apparaten in de klas brengen, " zei ze. "Het kan erg rommelig zijn als er tragische dingen gebeuren en een schooldistrict verwikkeld is in een rechtszaak van $ 20 miljoen. Scholen moeten kinderen leren hoe ze op verantwoorde wijze technologie kunnen gebruiken, omdat blootstelling en onderwijs niet hetzelfde zijn."

Het bedrijf ligt ook op schema om een ​​in-app-aankoop voor ouders uit te brengen, biedt meer controle over de app en toegang tot gegevens en analyses voor een maandelijks bedrag van $ 1.

De technologie wordt steeds populairder in veel omgevingen. Het bedrijf werkte samen met de staat Michigan om de app te implementeren voor alle openbare scholieren; werkte samen met de burgemeester van Chicago om het op te nemen in de klaslokalen van de stad; samen met de politie van Los Angeles, die de app verspreiden in een poging ongebreidelde 'sexting' tegen te gaan; en hebben onlangs de krachten gebundeld met het Amerikaanse ministerie van Buitenlandse Zaken om ReThink naar gemeenschappen in 134 landen te brengen, zei Prabhü.

ReThink lanceerde ook een hoofdstukinitiatief, studenten in staat stellen ambassadeurs te worden in de strijd tegen cyberpesten. Het bedrijf levert materialen, leerplannen, online pestsprekers voor schoolevenementen, en andere bronnen voor door studenten geleide groepen in het hele land.

"Het internet kan en zal worden gerepareerd door deze generatie jonge mensen. Het is gemaakt door de generatie voor ons, en ze hebben veel goeds gedaan, maar er waren ook veel onbedoelde gevolgen, " zei ze. "We proberen de volgende generatie jonge leiders op te voeden door middel van deze hoofdstukken en hen te helpen deze belangrijke gesprekken in hun gemeenschappen te bevorderen."

De snelle groei van ReThink vertoont geen tekenen van vertraging, en Prabhu is van plan dat zo te houden. Het bedrijf zal tegen het einde van volgend jaar versies van de app in een dozijn talen uitbrengen en is van plan om samen te werken met meer internationale scholen en uit te breiden naar nieuwe, wereldwijde markten.

Het bedrijf richt zijn aandacht nu op beelddetectie, bestuderen hoe ReThink-technologie kan worden toegepast wanneer een gebruiker op het punt staat een aanstootgevend beeld te delen op sociale mediasites zoals Instagram of Snapchat.

Voor Prabhu, het potentieel van ReThink is opwindend, ook al zal de weg die voor ons ligt veel uitdagingen en veel lange dagen en late nachten met zich meebrengen.

"Als je verstrikt raakt in de dagelijkse zakelijke taken, je kunt soms het 'waarom' achter het werk dat je doet kwijtraken. Het meest lonende deel voor mij is wanneer ik terugkom op dat 'waarom, ' ouders ontmoeten die kinderen hebben verloren aan dit probleem, of praten met andere jongeren die cyberpesten hebben ondergaan, " zei ze. "Er zijn zoveel mensen die echt last hebben van dit probleem. Het kwelt ze echt, en voelen zich vaak hulpeloos. Knowing that I can help them feel empowered, that I can fight for their ability to be safe and respected online, that is the most rewarding part of the work. That is what pushes me to keep going."