NTA risicoprofileringsalgoritmen

Een werkgroep van de normcommissie AI & Big data start daarom op 1 april 2025 met de ontwikkeling van deze NTA. Op Europees en mondiaal niveau worden normen ontwikkeld voor de verantwoorde inzet van Artificiële Intelligentie (AI). De geharmoniseerde normen die in het kader van de Europese AI-verordening worden geschreven, zijn hier een belangrijk voorbeeld van. Niet alle algoritmen die impact kunnen hebben op burgers en consumenten vallen echter onder deze wetgeving vanwege de daarin opgenomen definitie van AI-systemen. Dit geldt voor regel gebaseerde risico-profileringsalgoritmen, terwijl er wel risico’s zijn met betrekking tot vooringenomenheid bij deze toepassingen. In de NTA zullen toetsingsmethoden worden uitgewerkt die algoritmeontwikkelaars en -beheerders ondersteunen bij het invullen van open juridische normen uit onder meer het non-discriminatierecht. Daarbij wordt zo veel mogelijk gebruik gemaakt van praktijkervaringen met het valideren van profileringsalgoritmen. Organisatorische beheersmaatregelen zullen ook (beperkt) aan bod komen. De NTA zal primair gericht zijn op de Nederlandse publieke sector, maar kan tevens door organisaties uit de private sector worden gebruikt.