Kunstmatige intelligentie biedt niet alleen veel nieuwe mogelijkheden voor gemeenten, maar het zorgt ook voor nieuwe uitdagingen. Het archiveren van algoritmes is er één van. Het KIA-kennisplatform Informatiehuishouding Overheden ontwikkelde daarvoor de handreiking ‘Duurzame toegankelijke algoritmes’.
Volgens de ‘Selectielijst archiefbescheiden gemeenten en intergemeentelijke organen 2020’ dienen algoritmes permanent bewaard te worden. Archivering levert een bijdrage aan het borgen van transparantie en verantwoording over het gebruik van algoritmes. Met behulp van de archieven kan worden gereconstrueerd of er sprake is geweest van ethisch handelen.
Archiving by design
Uitgangspunt van de handreiking is om bij het ontwerpen van de algoritmes maatregelen te treffen om deze duurzaam toegankelijk te maken (archiving by design). Dus niet achteraf, maar vooraf archivering inregelen. Hoe dat moet is niet eenduidig, zoals ook de toepassing van algoritmes niet eenduidig is. Verschillende omstandigheden vragen om verschillende keuzes. De handreiking is opgesteld om gemeenten bij het maken van deze keuzes te ondersteunen.
Doelgroep
De handreiking is bedoeld voor medewerkers in het werkterrein informatiebeheer/archivering die als adviseur betrokken zijn bij het ontwerpen van een algoritme. Het gaat niet om een integrale handleiding voor het ontwikkelen van een algoritme, maar dient in samenhang gebruikt te worden met andere handreikingen die bijvoorbeeld specifiek gaan over privacy en ethiek.
Inhoud handreiking
De handreiking bestaat uit een overzichtsplaat, een vragenlijst en een ‘bijsluiter’ (algemene toelichting). Een algoritme bestaat uit 4 componenten: trainingsdata, output, logica en documentatie. De archivering bevat al deze componenten. Per component moet worden gekeken hoe lang deze bewaard moet blijven, voor wie deze toegankelijk moet zijn en in welk vorm die wordt bewaard.
Vragenlijst
Voor een algoritme geeft de handreiking 3 verschillende fases: analyse, ontwerp blokken en beheer. Voor elk van deze fases zijn vragen opgesteld om het juiste impactprofiel op te stellen. De 4 mogelijke impactprofielen geven elk advies in waar de prioriteiten liggen bij het archiveren daarvan. Het wordt mogelijk in te loggen op de website en de vragenlijst online in te vullen. Daardoor kunnen ervaringen worden gedeeld.