Verantwoorde AI

Onze uitgangspunten

We laten ons leiden door breed gedragen principes voor verantwoorde AI en door het wettelijk kader, waaronder de Europese AI-verordening (EU AI Act) en de AVG. Concreet betekent dat:

• Menselijke controle: AI ondersteunt mensen, het vervangt hun oordeel niet. Bij beslissingen met impact houden we een mens in de lus, met de mogelijkheid om in te grijpen of te overrulen.
• Transparantie: we maken duidelijk wanneer iemand met AI te maken heeft, wat een systeem wel en niet kan, en waar de grenzen liggen.
• Privacy en dataminimalisatie: we gebruiken niet meer data dan nodig en verwerken persoonsgegevens conform onze privacyverklaring.
• Fairness: we zijn ons bewust van bias in data en modellen en nemen maatregelen om oneerlijke of discriminerende uitkomsten te voorkomen.
• Veiligheid en robuustheid: we testen op misbruik, foutgevoeligheid en onverwacht gedrag voordat een systeem live gaat, en monitoren het daarna.
• Verantwoording: keuzes rond AI-systemen zijn navolgbaar en toewijsbaar aan mensen, niet aan een ondoorgrondelijk model.

Hoe we dit in de praktijk brengen

• We bepalen vooraf samen met de opdrachtgever het doel, de scope en de risico's van een AI-toepassing.
• We classificeren toepassingen naar risico en passen zwaardere waarborgen toe naarmate de impact groter is.
• We documenteren welke data, modellen en aannames een systeem gebruikt, zodat het uitlegbaar en onderhoudbaar blijft.
• We bouwen mogelijkheden in voor menselijke review, logging en het terugdraaien van acties.
• We evalueren modellen op nauwkeurigheid, bias en veiligheid en herhalen dat gedurende de levensduur van het systeem.

Data en het trainen van modellen

We gebruiken de gegevens van een opdrachtgever uitsluitend voor het doel van de betreffende opdracht. We trainen geen modellen op vertrouwelijke klantgegevens voor algemeen gebruik zonder expliciete toestemming. Waar we AI-diensten van derden inzetten, kiezen we voor aanbieders met passende waarborgen voor data en privacy en leggen we de afspraken vast.

Wat we niet doen

We ontwikkelen geen AI-systemen die in strijd zijn met de wet of die mensen schaden. Denk aan toepassingen voor misleiding, ongerichte surveillance, social scoring of het manipuleren van kwetsbare groepen. Past een vraag niet bij deze uitgangspunten, dan gaan we het gesprek aan of nemen we de opdracht niet aan.

Incidenten melden

Zie je een AI-systeem van ons onverwacht, onveilig of oneerlijk gedrag vertonen? Laat het ons weten via hi@lumisoft.nl. We nemen meldingen serieus, onderzoeken ze en grijpen waar nodig in. Meer over de Europese kaders lees je bij de EU AI Act.

Doorlopend werk

Verantwoorde AI is geen eindpunt maar een doorlopend proces. We scherpen onze werkwijze aan naarmate de techniek, de inzichten en de regelgeving zich ontwikkelen, en werken deze pagina daarop bij.