Een team van materiaalwetenschappers van Haverford College heeft aangetoond hoe menselijke vooroordelen in gegevens de resultaten kunnen beïnvloeden van algoritmen voor machinaal leren die worden gebruikt om nieuwe reagentia te voorspellen voor gebruik bij het maken van gewenste producten. In hun artikel gepubliceerd in het tijdschrift Natuur , de groep beschrijft het testen van een machine learning-algoritme met verschillende soorten datasets en wat ze hebben gevonden.

Een van de meer bekende toepassingen van machine learning-algoritmen is gezichtsherkenning. Maar er zijn mogelijke problemen met dergelijke algoritmen. Een voorbeeld van zo'n probleem doet zich voor wanneer een gezichtsalgoritme dat bedoeld is om een ​​persoon tussen vele gezichten te zoeken, is getraind met mensen van slechts één ras. In deze nieuwe poging de onderzoekers vroegen zich af of vooringenomenheid, onopzettelijk of anderszins, zou kunnen opduiken in machine learning-algoritmeresultaten die worden gebruikt in chemietoepassingen die zijn ontworpen om naar nieuwe producten te zoeken.

Dergelijke algoritmen gebruiken gegevens die de ingrediënten beschrijven van reacties die resulteren in de creatie van een nieuw product. Maar de gegevens waarop het systeem is getraind, kunnen een grote impact hebben op de resultaten. De onderzoekers merken op dat momenteel dergelijke gegevens worden verkregen uit gepubliceerde onderzoeksinspanningen, wat betekent dat ze meestal door mensen worden gegenereerd. Ze merken op dat de gegevens van dergelijke inspanningen door de onderzoekers zelf kunnen zijn gegenereerd, of door andere onderzoekers die aan afzonderlijke inspanningen werken. Gegevens kunnen zelfs afkomstig zijn van een enkele persoon die simpelweg uit het geheugen vertelt, of op voorstel van een professor, of een afgestudeerde student met een briljant idee. Het punt is, de gegevens kunnen bevooroordeeld zijn wat betreft de achtergrond van de bron.

In deze nieuwe poging de onderzoekers wilden weten of dergelijke vooroordelen een impact kunnen hebben op de resultaten van algoritmen voor machinaal leren die worden gebruikt voor scheikundige toepassingen. Er achter komen, ze keken naar een specifieke set materialen die vanadiumboraten met amine-matrijs worden genoemd. Wanneer ze met succes worden gesynthetiseerd, kristallen vormen - een gemakkelijke manier om te bepalen of een reactie succesvol was.

Het experiment bestond uit het trainen van een machine learning-algoritme op gegevens rond de synthese van vanadiumboraten, en vervolgens het systeem programmeren om zijn eigen systeem te maken. Sommige van de door de onderzoekers verzamelde gegevens waren door mensen gegenereerd, en een deel ervan werd willekeurig verzameld. Ze melden dat het algoritme dat op de willekeurige gegevens was getraind, het beter deed in het vinden van manieren om de vanadiumboraten te synthetiseren dan wanneer het gegevens gebruikte die door mensen waren gegenereerd. Ze beweren dat dit een duidelijke vooringenomenheid vertoont in de gegevens die door mensen zijn gemaakt.

© 2019 Wetenschap X Netwerk