Kruimelpad

Nieuwsbericht

ACM onderzoekt werking van algoritmes in de praktijk

10-12-2020

De Autoriteit Consument & Markt (ACM) is vandaag een proef gestart hoe zij in de praktijk de werking van algoritmes kan controleren bij marktpartijen. De ACM wil deze kennis gebruiken om marktpartijen te laten weten wat zij kunnen verwachten als de ACM hun algoritmes controleert. De proef doet de ACM in samenwerking met Muziekweb, de muziekbibliotheek van Nederland.

Cateautje Hijmans van den Bergh, bestuurslid van de ACM: “Algoritmes spelen een steeds grotere rol bij de handelspraktijken van bedrijven. Om digitale markten goed te laten werken is het belangrijk dat wij kunnen vaststellen hoe algoritmes in de praktijk werken en welke gevolgen zij hebben. Daarom zijn we deze proef gestart, waarin we de werking van een concreet algoritme onderzoeken en nagaan wat de ACM voor haar toezicht nodig heeft.”

Toezicht en algoritmes

De toepassing van algoritmes kan voordelen opleveren voor bedrijven, zoals het beter laten aansluiten van vraag en aanbod. Maar er zijn ook zorgen. Bijvoorbeeld omdat bedrijven algoritmes inzetten om consumenten online te sturen in hun keuzes en aankopen, die niet altijd in het belang van de consument zijn. Ook zijn er twijfels of er nog wel voldoende zicht en controle is op de werking en effecten van complexe algoritmes. De ACM heeft hierover eerder dit jaar de Leidraad bescherming online consument  uitgebracht.

De ACM kan onderzoek doen naar de werking van algoritmes en de manier waarop marktpartijen deze inzetten, als deze een rol spelen bij overtredingen van de normen waarop de ACM toezicht houdt. Dat kan bijvoorbeeld het geval zijn wanneer algoritmes prijzen bepalen, vraag en aanbod op de energiemarkt sturen, het aanbod personaliseren, tot kartelvorming kunnen leiden of consumenten sturen richting een aankoopbeslissing die tegen hun eigen belang ingaat. De ACM heeft hiertoe de beschikking over een team van 15 experts op het gebied van algoritmes en data.

Bij zo’n onderzoek kijken zij onder meer naar:

  • De rol van het algoritme bij de mogelijke overtreding;
  • Het doel waarvoor het algoritme wordt ingezet;
  • De uitgangspunten die ten grondslag liggen aan het ontwerp en/of de implementatie van het algoritme;
  • De input voor en uitkomsten van het algoritme.

Proef met Muziekweb

Muziekweb gebruikt algoritmes om bezoekers muziekadvies op maat te geven. In deze proef kijkt de ACM hoe het komt dat het algoritme bijvoorbeeld de ene persoon rockmuziek en de andere juist jazz aanbeveelt. De ACM doet geen onderzoek naar deze partij, maar brengt in deze proef in kaart welke informatie zij nodig heeft om onderzoek te kunnen doen naar de werking van algoritmes. Deze kennis is belangrijk voor toekomstige onderzoeken naar overtredingen van marktpartijen waarbij algoritmes een rol spelen.

Samenwerking

De digitale economie is een agendathema voor de ACM. De ACM heeft voor haar eigen toezichtsterreinen in een ‘position paper’ beschreven welke mogelijkheden er in theorie zijn om de werking van een algoritme in te controleren. Uiteraard zijn er ook andere terreinen waarop het gebruik van algoritmes een rol speelt. In het toezicht op algoritmes zoekt de ACM daarom uitdrukkelijk de samenwerking met andere betrokken partijen, zoals andere toezichthouders en inspectiediensten.

Recent heeft het kabinet met een Kamerbrief gereageerd op een drietal onderzoeken naar de actuele en toekomstige kansen en risico’s van algoritmes. Hierin wordt ook verwezen naar het Witboek over AI (artificiële intelligentie) van de Europese Commissie. Hierin wordt benadrukt dat consumentenbescherming ook een plaats moet krijgen bij het ontwikkelen van beleid op het terrein van AI.