AI en juridische aansprakelijkheid in Europa voor ondernemingen

Kunstmatige intelligentie (AI) is uitgegroeid tot een van de belangrijkste technologieën binnen de Europese economie. Ondernemingen passen AI-systemen steeds vaker toe in uiteenlopende domeinen zoals automatisering van bedrijfsprocessen, personeelsbeheer, data-analyse, marketing, klantenservice, fraudedetectie en softwareontwikkeling. Hoewel deze technologie aanzienlijke efficiëntiewinsten en innovatiekansen biedt, brengt zij ook complexe juridische en regelgevende uitdagingen met zich mee.

De Europese Unie heeft hierop gereageerd met de AI Act, het eerste alomvattende regelgevend kader ter wereld specifiek voor artificiële intelligentie. Deze verordening is rechtstreeks van toepassing in alle lidstaten, waaronder België, en heeft als doel innovatie te stimuleren terwijl fundamentele rechten, veiligheid en aansprakelijkheid worden gewaarborgd.

1. De AI Act: een risicogebaseerde benadering

De AI Act is opgebouwd rond een risicogebaseerd systeem dat AI-toepassingen indeelt in vier categorieën:

• minimaal risico
• beperkt risico
• hoog risico
• onaanvaardbaar risico

De meeste AI-systemen vallen onder minimaal of beperkt risico en zijn onderworpen aan beperkte verplichtingen, voornamelijk op het vlak van transparantie. Systemen met een hoog risico worden echter streng gereguleerd wegens hun mogelijke impact op personen en rechten.

Typische hoog-risico toepassingen zijn:

• rekrutering en HR-systemen
• kredietbeoordeling en financiële scoring
• verzekeringsbeslissingen
• onderwijs- en evaluatiesystemen
• kritieke infrastructuren
• bepaalde medische toepassingen

Voor deze systemen gelden zware verplichtingen, waaronder:

• uitgebreide technische documentatie
• transparantie over werking en logica
• menselijk toezicht op beslissingen
• gebruik van kwaliteitsvolle en niet-discriminerende datasets
• risicobeheer en voortdurende monitoring
• conformiteitsbeoordelingen vóór ingebruikname

Daarnaast verbiedt de AI Act bepaalde toepassingen volledig, zoals systemen voor sociale scoring, manipulatieve gedragingen of toepassingen die fundamentele rechten ernstig schenden.

2. Juridische aansprakelijkheid van ondernemingen

Een van de belangrijkste juridische vragen betreft de aansprakelijkheid bij schade veroorzaakt door AI. In het Europese en Belgische recht blijft de onderneming die de AI gebruikt in principe verantwoordelijk voor de uitkomsten van het systeem.

Dit betekent dat AI geen juridische verantwoordelijkheid overneemt: de gebruiker blijft aansprakelijk.

Typische aansprakelijkheidsgevallen zijn:

• discriminerende resultaten in geautomatiseerde rekrutering
• foutieve kredietbeslissingen
• onjuiste automatische beslissingen tegenover klanten
• financiële schade door algoritmische fouten
• reputatieschade door foutieve AI-output

Bijvoorbeeld: een AI-rekruteringssysteem dat bepaalde kandidaten systematisch uitsluit op basis van indirecte discriminatie kan leiden tot arbeidsrechtelijke procedures en schadeclaims.

Daarnaast kunnen ook ontwikkelaars en leveranciers van AI-systemen aansprakelijk worden gesteld, bijvoorbeeld wanneer er sprake is van een defect systeem, onvoldoende waarschuwingen of gebrekkige documentatie.

De Europese wetgever werkt bovendien aan een modernisering van de productaansprakelijkheidsregels om beter aan te sluiten bij AI-technologie.

3. AI en gegevensbescherming (AVG / GDPR)

De meeste AI-systemen verwerken grote hoeveelheden persoonsgegevens. Daarom is de Algemene Verordening Gegevensbescherming (AVG of GDPR) van essentieel belang.

Ondernemingen moeten voldoen aan basisprincipes zoals:

• rechtmatigheid, behoorlijkheid en transparantie
• doelbinding (gegevens enkel voor specifieke doeleinden)
• dataminimalisatie
• juistheid van gegevens
• opslagbeperking
• integriteit en vertrouwelijkheid

Bij AI-systemen is vooral geautomatiseerde besluitvorming gevoelig. Personen hebben in dat geval extra rechten, zoals:

• recht op menselijke tussenkomst
• recht om een beslissing aan te vechten
• recht op uitleg over de logica van het systeem

Niet-naleving van de GDPR kan leiden tot zeer hoge boetes, tot 20 miljoen euro of 4% van de wereldwijde jaaromzet, naast reputatieschade en mogelijke civiele claims.

4. Intellectuele eigendom en generatieve AI

De opkomst van generatieve AI brengt nieuwe juridische vragen met zich mee op het gebied van intellectuele eigendom. Deze systemen kunnen teksten, beelden, software en andere creatieve werken genereren op basis van trainingsdata die vaak uit bestaande bronnen bestaat.

Belangrijke juridische vragen zijn:

• mag auteursrechtelijk beschermd materiaal worden gebruikt voor training?
• wie is eigenaar van AI-gegenereerde output?
• kan AI zelf auteursrechten bezitten?
• wanneer is sprake van inbreuk op bestaande rechten?

In het Europese auteursrecht geldt traditioneel dat een menselijke auteur vereist is, wat onzekerheid creëert rond AI-gegenereerde werken.

Ondernemingen moeten daarom duidelijke contractuele afspraken maken over eigendom, licenties en aansprakelijkheid met AI-leveranciers en gebruikers.

5. Governance en compliance-strategie

Gezien de complexiteit van de regelgeving moeten ondernemingen een gestructureerde AI-governance implementeren. Dit is niet langer optioneel, maar een strategische noodzaak.

Een goede compliance-structuur omvat onder meer:

• interne beleidsregels voor AI-gebruik
• inventarisatie van AI-systemen
• regelmatige risicoanalyses en audits
• documentatie van beslissingsprocessen
• contractuele bescherming bij leveranciers
• opleiding van medewerkers

Europese en nationale toezichthouders voeren steeds strengere controles uit. Niet-naleving kan leiden tot sancties, operationele beperkingen en reputatieschade.

Conclusie

AI biedt grote economische kansen voor ondernemingen, maar gaat gepaard met een steeds strikter juridisch kader. De combinatie van de AI Act, de GDPR en het aansprakelijkheidsrecht maakt duidelijk dat bedrijven een proactieve juridische aanpak nodig hebben.

Een sterke compliance-structuur is essentieel om risico’s te beperken en innovatie op een veilige en duurzame manier te ontwikkelen binnen de Europese markt.