science >> Wetenschap >  >> Elektronica

Deep learning toepassen op motion capture met DeepLabCut

Markerless pose-schatting tijdens gedrag en over meerdere soorten is cruciaal voor veel toepassingen in de neurowetenschappen. Gemeenschappelijke modelorganismen worden afgebeeld in actie, met de geïllustreerde trajecten uit het verleden. Krediet:Ella Maru Studio

Een team van onderzoekers verbonden aan verschillende instellingen in Duitsland en de VS heeft een deep learning-algoritme ontwikkeld dat kan worden gebruikt voor motion capture van dieren van welke aard dan ook. In hun artikel gepubliceerd in het tijdschrift Natuur Neurowetenschap, de groep beschrijft hun trackingtool genaamd DeepLabCut, hoe het werkt en hoe het te gebruiken. Kunlin Wei en Konrad Kording van de Universiteit van Peking en de Universiteit van Pennsylvania bieden respectievelijk een News &Views-stuk over het werk van de groep in hetzelfde tijdschriftnummer.

Zoals Wei en Kording opmerken, wetenschappers proberen al meer dan een eeuw motion capture toe te passen op mensen en dieren - het idee is om de fijne kneepjes vast te leggen van alle kleine bewegingen die samen een groter, meer opvallende beweging, zoals een enkele danspas. Het kunnen volgen van dergelijke bewegingen bij dieren biedt enkele aanwijzingen over hun biomechanica en hoe hun hersenen werken. Als u dit met mensen kunt doen, kan dit helpen bij inspanningen op het gebied van fysiotherapie of verbeteringen in sportprestaties. Het huidige proces omvat video-opname van het onderwerp en het uitvoeren van een moeizaam proces van het frame voor frame taggen van afbeeldingen. In deze nieuwe poging de onderzoekers hebben een computerautomatiseringstechniek ontwikkeld om het proces uit te voeren, waardoor het veel sneller en gemakkelijker gaat.

Om DeepLabCut te maken, de groep trainde een neuraal netwerk met behulp van informatie uit een database genaamd Imagenet die een enorm aantal afbeeldingen en bijbehorende metadata bevat. Vervolgens ontwikkelden ze een algoritme dat de schattingen van houdingen optimaliseerde. Het derde stuk was de software die het algoritme uitvoert, communiceert met gebruikers en biedt output van resultaten. Het resultaat is een tool die kan worden gebruikt om motion capture uit te voeren op mensen en vrijwel elk ander wezen. Het enige dat een gebruiker hoeft te doen, is voorbeelden uploaden van wat hij zoekt, zeggen, foto's van een eekhoorn, met de belangrijkste onderdelen gelabeld en enkele video's die laten zien hoe het in het algemeen beweegt. Vervolgens uploadt de gebruiker een video van een onderwerp dat een interessante activiteit doet, bijvoorbeeld:een eekhoorn die een noot openbreekt. De software doet de rest, het produceren van motion capture van de activiteit.

Een fruitvlieg die in een 3D-kamer beweegt, wordt automatisch gevolgd met DeepLabCut Credit:Mathis et al, 2018

Het team heeft de nieuwe tool vrij toegankelijk gemaakt voor iedereen die hem voor welk doel dan ook wil gebruiken. Wei en Kording suggereren dat de tool een revolutie teweeg kan brengen in motion capture. waardoor het gemakkelijk beschikbaar is voor zowel professionals als beginners.

De hand van een muis wordt automatisch gevolgd met DeepLabCut, en de trajecten tonen de toekomstige (links) en voorbije (uiterst rechtse) bewegingen. Krediet:Mathis et al, 2018

© 2018 Tech Xplore