De vraag of technologie goed of slecht is, hangt af van hoe deze is ontwikkeld en gebruikt. Nergens is dat actueler dan in technologieën die gebruik maken van kunstmatige intelligentie.

Als het op de juiste manier is ontwikkeld en gebruikt, kunstmatige intelligentie (AI) heeft het potentieel om de manier waarop we leven te transformeren, werk, communiceren en reizen.

Er worden nieuwe, op AI gebaseerde medische technologieën ontwikkeld om de patiëntenzorg te verbeteren. Er zijn overtuigende aanwijzingen dat autonome voertuigen de veiligheid zullen verbeteren en de tolheffing zullen verlagen. Machine learning en automatisering stroomlijnen workflows en stellen ons in staat slimmer te werken.

Rond de wereld, Op AI gebaseerde technologie wordt steeds meer door individuen geadopteerd, regeringen, organisaties en instellingen. Maar samen met het enorme potentieel om onze levenskwaliteit te verbeteren, vormt een risico voor onze fundamentele mensenrechten en vrijheden.

passend toezicht, begeleiding en begrip van de manier waarop AI in Australië wordt gebruikt en ontwikkeld, moet prioriteit krijgen.

AI die wild is geworden, kan beelden oproepen van The Terminator- en Ex Machina-films, maar het is veel eenvoudiger fundamentele problemen die momenteel moeten worden aangepakt, zoals:

• hoe data wordt gebruikt om AI te ontwikkelen
• of een AI-systeem eerlijk wordt gebruikt
• in welke situaties moeten we blijven vertrouwen op menselijke besluitvorming?

We hebben een AI-ethiekplan

Dat is waarom, in samenwerking met overheid en bedrijfsleven, we hebben een ethisch kader voor AI ontwikkeld in Australië. Het doel is om de discussie op gang te brengen over hoe AI in Australië moet worden gebruikt en ontwikkeld.

Het ethische kader kijkt naar verschillende casestudies van over de hele wereld om te bespreken hoe AI in het verleden is gebruikt en welke impact het heeft gehad. De casestudy's helpen ons te begrijpen waar het mis is gegaan en hoe we kunnen voorkomen dat fouten uit het verleden worden herhaald.

We hebben ook gekeken naar wat er over de hele wereld werd gedaan om ethische zorgen over de ontwikkeling en het gebruik van AI aan te pakken.

Op basis van de kernproblemen en effecten van AI, acht principes werden geïdentificeerd om het ethische gebruik en de ontwikkeling van AI in Australië te ondersteunen.

1. Genereert netto voordelen: Het AI-systeem moet voor mensen voordelen opleveren die groter zijn dan de kosten.
2. Geen kwaad doen: Civiele AI-systemen mogen niet worden ontworpen om mensen te schaden of te misleiden en moeten worden geïmplementeerd op een manier die eventuele negatieve gevolgen tot een minimum beperkt.
3. Naleving van regelgeving en wetgeving: Het AI-systeem moet voldoen aan alle relevante internationale, Australische lokale, verplichtingen van de staat/territorium en de federale overheid, regels en wetten.
4. Privacy bescherming: elk systeem, inclusief AI-systemen, moet ervoor zorgen dat de persoonlijke gegevens van mensen worden beschermd en vertrouwelijk worden gehouden en dat gegevensinbreuken worden voorkomen die reputatie-, psychologisch, financieel, professionele of andere vormen van schade.
5. Eerlijkheid: De ontwikkeling of het gebruik van het AI-systeem mag niet leiden tot oneerlijke discriminatie van individuen, gemeenschappen of groepen. Dit vereist bijzondere aandacht om ervoor te zorgen dat de "trainingsgegevens" vrij zijn van vooroordelen of kenmerken die ertoe kunnen leiden dat het algoritme zich oneerlijk gedraagt.
6. Transparantie en uitlegbaarheid: Mensen moeten worden geïnformeerd wanneer een algoritme wordt gebruikt dat hen beïnvloedt en ze moeten informatie krijgen over welke informatie het algoritme gebruikt om beslissingen te nemen.
7. betwistbaarheid: Wanneer een algoritme een persoon beïnvloedt, moet er een efficiënt proces zijn om die persoon in staat te stellen het gebruik of de output van het algoritme aan te vechten.
8. Verantwoordelijkheid: Mensen en organisaties die verantwoordelijk zijn voor het creëren en implementeren van AI-algoritmen moeten identificeerbaar zijn en verantwoordelijk zijn voor de effecten van dat algoritme, zelfs als de effecten onbedoeld zijn.

Naast de kernprincipes worden in het raamwerk verschillende toolkit-items geïdentificeerd die kunnen worden gebruikt om deze principes te ondersteunen. Deze omvatten effectbeoordelingen, voortdurende monitoring en openbare raadpleging.

Een plan, hoe zit het met actie?

Maar principes en ethische doelen kunnen alleen zo ver gaan. Op een gegeven moment zullen we aan de slag moeten om te beslissen hoe we deze gaan implementeren en bereiken.

Er zijn verschillende complexiteiten waarmee rekening moet worden gehouden bij het bespreken van het ethische gebruik en de ontwikkeling van AI. Het enorme bereik van de technologie heeft het potentieel om elk facet van ons leven te beïnvloeden.

AI-toepassingen zijn al in gebruik in huishoudens, bedrijven en overheden, de meeste Australiërs worden er al door beïnvloed.

Er is een dringende behoefte om de effecten te onderzoeken die AI heeft op de kwetsbaren en op minderheidsgroepen, ervoor te zorgen dat we deze individuen en gemeenschappen beschermen tegen vooringenomenheid, discriminatie en uitbuiting. (Denk aan Tay, de racistische chatbot?)

Er is ook het feit dat AI die in Australië wordt gebruikt, vaak in andere landen zal worden ontwikkeld, dus hoe zorgen we ervoor dat het voldoet aan de Australische normen en verwachtingen?

Jouw keuze

Het raamwerk verkent deze problemen en vormt enkele van de eerste stappen van Australië op weg naar de positieve ontwikkeling en het gebruik van AI. Maar echte vooruitgang heeft input nodig van belanghebbenden uit de hele overheid, bedrijf, de academische wereld en de bredere samenleving.

Lees meer:​​Pas op hoe je met de AI van vandaag omgaat:het kan in de toekomst wraak nemen

Daarom staat de discussienota over het ethische kader nu open voor commentaar. Je hebt tot 31 mei 2019, om uw mening te geven over de digitale toekomst van Australië.

Met een proactieve benadering van de ethische ontwikkeling van AI, Australië kan meer doen dan alleen risico's beperken. Als we AI kunnen bouwen voor een eerlijker doel, we kunnen zowel een concurrentievoordeel behalen als de rechten van Australiërs vrijwaren.

Emma Schleiger, Onderzoekwetenschapper, CSIRO en Stefan Hajkowicz, Senior hoofdwetenschapper, Strategie en Foresight, Gegevens61

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.