'Veilige omgang met intelligente machines: regel het nu!' | Technisch Weekblad
Opinie&Analyse

'Veilige omgang met intelligente machines: regel het nu!'

Tijdens de coronacrisis neemt digitalisering een vlucht. We zitten dagelijks in online vergaderingen en in binnen- en buitenland wordt aan corona-apps gewerkt om met kunstmatige intelligentie (AI)  en robots corona het hoofd te bieden. Wanneer robots met AI worden uitgerust veranderen die van mechanische verlengstukken tot intelligente actoren waarmee mensen samenwerken en het is vooralsnog niet duidelijk welke risico’s mensen lopen. Want wat doen we als er niet van uit kunnen gaan dat de mens de intelligentste schakel is?

Nu is het voor veel mensen geen prettig idee om machines het label intelligent te geven. En natuurlijk is menselijke intelligentie op een aantal vlakken superieur. Denk aan ethische afwegingen, zingeving en brede associaties (daar rekenen we dan ‘gezond verstand’ maar onder). Toch worden machines inmiddels uitgerust met een lerend vermogen. Dat lerende vermogen zorgt ervoor dat machines op verschillende vlakken, die traditioneel worden geassocieerd met menselijke intelligentie, de mens overtreffen. Websites weten wat het best verkoopbare product is, auto’s corrigeren slordig rijgedrag (of rijden gewoon zelf), vacaturewebsites selecteren zonder bias kandidaten, telefoons geven accurate antwoorden op vragen en zelfs het wisselende Nederlandse weer kan met enig vertrouwen worden voorspeld.

Kunstmatige intelligentie is inmiddels sterk verweven geraakt met de maatschappij en softwarebedrijven veranderen de maatschappij met intelligente algoritmes. De belangen van mensen staan dan niet altijd voorop en softwaregiganten staan niet bekend om hun consciëntieuze manier van werken. Uber, bijvoorbeeld, laat de schatting van prijzen en reistijden over aan algoritmes waar chauffeurs weinig invloed op hebben. Maar softwarebedrijven zijn niet de enigen die kunstmatige intelligentie ontwikkelen. Ook machine bouwende industrieën, of die nu hun oorsprong in elektrische systemen in landbouw of in transport hebben, werpen zich op als ontwikkelaars van kunstmatige intelligentie. De investeringen lopen in de miljarden en er wordt verwacht dat de investeringen snel worden terugverdiend.

Maar machinebouwers hebben een heel andere relatie met mensen. Ze moesten altijd al aan allerlei strenge veiligheidseisen voldoen voor hun machines in contact konden worden gebracht met mensen. Zij moeten zichzelf in de ontwerpfase al afvragen of hun machines gevaar opleverden voor werknemers. Intelligente machines zijn daarop geen uitzondering. Het idee dat steeds meer besluiten op de werkplaats over worden gelaten aan intelligente machines was voor de machine-bouwende industrie aanleiding om zich te beraden op de toekomst van veiligheid.

Hier heeft de IEC (International Electrotechnical Commission) een rol. Het IEC is het orgaan dat algemene internationale normen voor elektrische componenten en apparatuur ontwikkelt en veiligheid is daarbij een speerpunt. De IEC stelt dat het huidige spectrum van veiligheidsstandaarden moet worden aangepast om medewerkers tegen de risico’s te beschermen die intelligente machines met zich meebrengen. Uitgangspunt is dat de werkomgeving moet worden gezien als een systeem waar drie soorten intelligente actoren samenwerken: de mens, de intelligente machine waarmee de mens direct samenwerkt en een (semi)autonoom Cloud-systeem dat het proces in achtergrond aanstuurt (met of zonder de hulp van mensen). Omringd door intelligente actoren verliest de medewerker zijn monopolie op besluitvorming in zijn arbeidsproces.

Om dat systeem veilig te maken doet de IEC een aantal aanbevelingen. Om te beginnen moet safety-by-design versterkt worden met ontwerpprincipes waarin de mens te allen tijde centraal staat. Ten tweede moeten moet een nieuwe groep industriestandaards worden ontwikkeld die een brug slaat tussen gedetailleerde technische veiligheidsnormen en breed geformuleerde doelwetgeving. Daarmee kunnen producenten beter aansluiten bij doelwetgeving van terugtrekkende overheden. Daarnaast voorziet de IEC dat nieuwe technische standaarden nodig zijn om kunstmatige intelligentie in goede banen te leiden. Omdat besluiten over werk moeten worden gedeeld met machines is communicatie tussen mensen en machines een specifiek aandachtspunt.

Machinebouwers zetten dus goede stappen maar hebben nog het één en ander te doen. Zij hebben er baat bij om te zorgen dat de medewerker geen gevaar loopt. Softwarehuizen zouden moeten aansluiten zodat een geharmoniseerde aanpak kan worden gemaakt. Maar er is ook een rol voor overheden, sociale partners en burgers. Ze moeten gaan nadenken over de ontwikkeling van handvatten om tot een effectieve en veilige vorm van samenwerking tussen mensen en intelligente machines te komen Een nuttige eerste stap is een brede consultatie om in kaart te brengen wat de werkelijke en gepercipieerde gevaren zijn van samenwerking met intelligente machines. De coronacrisis, die de digitalisering versnelt, levert een uitstekend startschot voor die discussie.

Prof. dr. ir. Coen van Gulijk (TNO Healthy Living, Universiteit van Huddersfield & TU Delft)

Ontvang de nieuwsbrief

Meld je nu aan!

Gratis proefabonnement TW

Bestel nu 2 gratis proefnummers TW