Intelligente chatbots en gebrekkig inzicht belangrijkste algoritmerisico’s
Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn op dit moment de belangrijkste algoritmerisico’s. Dit blijkt uit de eerste Rapportage Algoritmerisico’s Nederland, die de nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP) heeft gepubliceerd.
De rapportage geeft een eerste beeld van de risico’s en effecten van de inzet van algoritmes en artificiële intelligentie (AI) in Nederland. De rapportage leest: “Verantwoorde ontwikkeling en inzet van algoritmes die (groepen) personen kunnen raken is mogelijk. Het voorlopige eerste beeld is dat de Nederlandse samenleving stappen moet (blijven) zetten om grip te krijgen op algoritmes. Waar structurele en bindende kaders ontbreken, is het aan organisaties binnen overheid en bedrijfsleven zelf om een passende aanpak te bepalen. Initiatieven zoals registers, productstandaardisatie, beoordelingskaders en audittechnieken bevinden zich vaak nog in de pilotfase. Een inhaalslag in het opbouwen van de beheersing van risicovolle ‘traditionele’ algoritmes is nodig, maar de komst van geavanceerde en complexe algoritmes maakt die uitdaging extra groot. Zo lang er nog onvoldoende risicobeheersing is, doen organisaties er daarom verstandig aan terughoudend te zijn met de inzet van algoritmes.
“Organisaties die koplopers zijn bij de ontwikkeling en inzet van algoritmes moeten zich extra bewust zijn van de inspanning die van hen wordt gevraagd om publieke waarden en grondrechten te waarborgen. Nederland staat zeker niet alleen in deze situatie - internationale samenwerking is cruciaal. De AI-verordening is belangrijk, maar gaat tegelijkertijd geen panacee zijn voor de huidige uitdagingen. Nadelige gevolgen van bestaande algoritmes bevinden zich vaak onder de radar, risico’s van nieuwe technologieën staan direct in de spotlights. Praktijkvoorbeelden laten zien dat maatschappelijk significante organisaties de inzet van algoritmes in hun kernprocessen soms zien als een uitvoeringskwestie en interne keuze, waarover zij voor, tijdens en na de inzet geen of beperkte verantwoording hoeven af te leggen.”