Scholen wenden zich steeds meer tot door kunstmatige intelligentie ondersteunde oplossingen om tragische daden van studentengeweld te stoppen, zoals de schietpartij op de Marjory Stoneman Douglas High School in Parkland, Florida, een jaar geleden.

Bark-technologieën, Gaggle.Net, en Securly Inc. zijn drie bedrijven die AI en machine learning gebruiken om e-mails van studenten te scannen, teksten, documenten, en in sommige gevallen, activiteit op sociale media. Ze zoeken naar waarschuwingssignalen van cyberpesten, sexting, drugs- en alcoholgebruik, depressie, en om studenten te markeren die een gewelddadig risico kunnen vormen, niet alleen voor zichzelf, maar klasgenoten.

Wanneer mogelijke problemen worden gevonden, en afhankelijk van de ernst, school beheerders, ouders - en in de meest extreme gevallen - wetshandhavers, worden gewaarschuwd.

In het najaar van 2017, Bark deed een testpilot met 25 scholen. "We hebben een aantal behoorlijk alarmerende problemen gevonden, waaronder een bomaanslag en dreiging van schietpartijen op school, " zegt Bark chief parent officer, Titania Jordanië.

Een paar maanden later gebeurde Parkland en we wisten wat we hadden, en hoe het zou kunnen helpen, maar "we wilden niet opportunistisch lijken of profiteren van een tragedie, ' zei Jordanië.

Het Bark-product is voor altijd gratis voor scholen in de VS. Het bedrijf zegt dat het het zich kan veroorloven om de dienst weg te geven aan scholen. vanwege het geld dat het verdient met een versie gericht op ouders.

Er zijn beperkingen.

• Geen van de bedrijven waarmee USA TODAY voor dit verhaal sprak, claimt het vermogen om elke keer verdacht gedrag te vangen. losjes gedefinieerd, kunstmatige intelligentie beschrijft machines die menselijk gedrag kunnen vertonen en kunnen leren van de gegevens die ze verwerken. Valse positieven komen soms voor.
• Een school kan de smartphone of andere apparaten van een leerling niet controleren buiten degene die het heeft uitgegeven, tenzij de student zich heeft aangemeld bij een sociale media, of andere rekening, met behulp van het e-mailadres of de inloggegevens die de school heeft verstrekt.
• Studenten zijn ook vaak meer technisch onderlegd dan hun ouders en zullen ze niet vertellen over elk account dat ze hebben.

Als er een probleem wordt gedetecteerd, Bark stuurt een sms en/of e-mail alert naar ouders en scholen, met aanbevolen stappen om het probleem aan te pakken.

Het ouderproduct van Bark kost $ 9 per maand, per gezin, of $99 per jaar, en omvat monitoring op meer dan 25 sociale-mediaplatforms, van Twitter en Instagram tot Snapchat en YouTube.

Bark wordt momenteel gebruikt in meer dan 1, 100 schooldistricten, voor 2,6 miljoen kinderen. Als het iets detecteert dat als buitengewoon ernstig wordt beschouwd, zoals een kinderontvoering of dreiging van schietpartijen op school, het probleem wordt geëscaleerd naar de FBI.

Volgens Jordanië, Bark zendt tussen 35, 000 en 55, 000 meldingen per dag, veel rechtvaardige gevallen van godslastering. Maar 16 plausibele schietpartijen op scholen zijn gemeld aan de FBI sinds Bark afgelopen februari zijn schoolproduct lanceerde. ze zegt.

Sterfgevallen door zelfmoord voorkomen

Gaggle, dat is ongeveer 20 jaar geleden, brengt scholen $ 6 per student in rekening, per jaar. Sinds 1 juli het bedrijf beweert 447 sterfgevallen door zelfmoord te hebben gestopt op de 1, 400 schooldistricten die gebruik maken van zijn service, en dat het vorig jaar 542 potentiële sterfgevallen door zelfmoord heeft voorkomen.

Gaggle zegt ook dat het vorig jaar 240 gevallen stopte waarbij een kind een wapen naar school bracht om een ​​andere leerling kwaad te doen of dat van plan was. Onder dergelijke omstandigheden, Goggle zal onmiddellijk een contactpersoon voor noodgevallen op school waarschuwen en, indien nodig, politie.

"Studies hebben aangetoond dat kinderen communiceren voordat een gewelddadige daad plaatsvindt en dat ze elektronisch communiceren. Als je niet de middelen hebt om die hulpkreten te horen, krijg je kinderen in gevaar, " zei Bill McCullough, vice-president verkoop bij Goggle.

McCullough voegt eraan toe dat het bedrijf niet alleen vertrouwt op machine learning om dreigingen te bepalen. Als een Goggle-scan van door school uitgegeven e-mails en documenten een kind in crisis aan het licht brengt, de inhoud wordt geanalyseerd door getrainde menselijke veiligheidsexperts die verifiëren of de dreiging legitiem is en vervolgens de ernst ervan bepalen. Als de dreiging als gering wordt beschouwd, misschien het gebruik van godslastering, een student kan direct worden gewaarschuwd. Als het leven van een student in gevaar wordt gebracht, een contactpersoon voor noodgevallen op school wordt onmiddellijk verwittigd.

Voor zijn deel, een derde bedrijf, veilig, werkt met ongeveer 2, 000 schooldistricten. Het rekent $ 3 per student per jaar voor een vlaggenschipproduct genaamd Filter, met premium add-ons die ongeveer $ 2,50 per student aan de kosten kunnen toevoegen.

Afgelopen oktober, een van de eersteklas services van Securly, bekend als 24 - het combineert AI met getrainde menselijke analisten - markeerde een student die op Google had gezocht naar zowel 'hoe maak je een bom' als 'hoe je zelfmoord pleegt'. De analist heeft contact opgenomen met de school.

Een ander recent voorbeeld betrof een student die op zoek was naar "pijnloze manieren om zelfmoord te plegen" en YouTube-video's over het onderwerp bekeek.

Echte dreiging of onschuldige taal?

Naarmate AI-systemen geavanceerder zijn geworden, dus het vermogen van de machines om contextuele analyse toe te passen om te bepalen of er echt gevaar is, of als vrienden in de schoolgaande leeftijd onschuldig lijken op dreigende taal om elkaar gewoon uit te schelden, misschien tijdens het spelen van een spel.

"Ons algoritme voor machine learning is slim genoeg om het verschil te kennen tussen een tween die een andere tween 'KMS' sms't, wat staat voor 'zelfmoord' als ze zich gewoon schamen... en het als spreektaal gebruikt. (Of) iemand met een daadwerkelijke neiging tot depressie, angst of het uiten van de wens om zichzelf van het leven te beroven of kwaad te doen, ' zegt Jordanië.

McCullough bij Gaggle, zegt dat de algoritmen van het bedrijf voortdurend worden bijgewerkt om de toon van wanhoop in een bericht te detecteren, symbolen en spelfouten op te pikken, en om taal beter te analyseren.

"We hebben zelfmoorden gehad waarvan we zijn gestopt waar er geen woord "doden" of "zelfmoord" in staat, zegt McCullough.

Gaggle kan de autoriteiten zelfs waarschuwen voor bedreigingen die niet afkomstig zijn van een schooldistrict dat het controleert, maar van buitenaf.

"We hadden een geval waarin een meisje uit de derde klas werd gevraagd door een extern e-mailadres om naaktfoto's te vragen of die persoon haar ouders ging vermoorden, " zegt McCullough. "Ze probeerde die foto's te sturen, maar omdat we onze dienst live uitvoeren, het is nooit uit onze omgeving gekomen." De persoon werd gearresteerd.

Evenwicht tussen privacy, kosten

Er is een "delicaat evenwicht" op het gebied van privacy, zegt Rob McCartney, directeur technologie bij het Sioux Central-schooldistrict in Iowa, die Bark gebruikt. "Hoewel het schooldistrict dat we beheren en onderhouden de e-mailadressen van de leerlingen bezit, de (student) heeft recht op voldoende privacy zonder dat wij naar binnen gaan en kijken en zeggen, 'oh dit is wie je vriendje is, of ben je gisteravond laat thuisgekomen?' Daar zijn we niet voor."

Vinay Mahadik, CEO van Secure, navigeert ook over de dunne lijn tussen privacy en veiligheid:"We doen veel moeite om een ​​verantwoordelijk bedrijf te zijn. Geen enkele keer heeft een ouder die we hebben gediend of een schooldistrict dat we hebben geholpen, teruggekomen en ons verteld dat dit iets vreselijks is wat je doet."

McCartney waardeert dat Bark vrij is, gezien de krappe budgettaire beperkingen waarmee veel schooldistricten worden geconfronteerd.

Maar Rich O'Malley, hoofdinspecteur van Florence 1 scholen in South Carolina, een district dat voor Gaggle betaalt, zegt dat "het redden van één leven of het kunnen aanraken van één student met een probleem het van onschatbare waarde maakt. Als inspecteur, waarschijnlijk is de belangrijkste kwestie die ik van ouders hoor, de veiligheid van de school."