Waarom je nu je AI-tools en prijslogica moet controleren
Een reparatiebedrijf met tien medewerkers krijgt een software-update van zijn recruitment-platform. Er staat: “Deze tool gebruikt nu AI om cv’s te ranken.” De eigenaar denkt: prima, scheelt tijd. Tot een sollicitant belt met de vraag waarom hij is afgewezen. Het bedrijf beseft dat ze geen idee hebben hoe dat systeem tot zijn selectie kwam. En of ze daar wettelijk melding van hadden moeten maken.
Sinds 1 oktober gelden in Connecticut twee wetten die dit soort situaties adresseren. Ze richten zich op AI in werkgelegenheidsbeslissingen, datacollectie, gezichtsherkenning en gepersonaliseerde prijsstelling. Het pakket wordt beschouwd als een van de meest uitgebreide regelgevingskaders op state-niveau. Ook als je niet in Connecticut zit: deze regels geven aan waar de rest van de VS en Europa waarschijnlijk naartoe bewegen.
Wat moet je nu anders doen als je AI gebruikt?
Uit een survey in Connecticut bleek dat 42% van de bedrijven AI inzet in hun operaties. Tegelijk weet 54% van de niet-gebruikers niet hoe ze AI zouden moeten adopteren. De nieuwe wetgeving maakt die onduidelijkheid urgenter. Je moet nu kunnen uitleggen wát je gebruikt en waarom.
De Connecticut Artificial Intelligence Responsibility and Transparency Act (CART Act) verplicht werkgevers om schriftelijk kennis te geven wanneer AI invloed heeft op arbeidsvoorwaarden, condities of privileges. Dat gaat verder dan alleen werving. Het omvat ook promotie, compensatie, discipline, planning en andere werkplekbeslissingen. Discriminerende uitkomsten via AI-besluitvorming worden behandeld als schendingen van de antidiscriminatiewetten van de staat.
Praktisch voorbeeld: je gebruikt een tool die automatisch dienstroosters maakt op basis van beschikbaarheid en productiviteitsdata. Als dat systeem systematisch minder uren toekent aan medewerkers boven een bepaalde leeftijd, loop je juridisch risico. Ook als je die bias niet bewust hebt ingebouwd.
Gepersonaliseerde prijzen: wat mag nog?
De nieuwe regels leggen beperkingen en openbaarmakingsvereisten op voor bedrijven die persoonlijke data gebruiken om prijzen te customizen. Dynamische prijsstelling op basis van loyaliteitsprogramma’s, kortingen, vraag en aanbod of operationele kosten blijft toegestaan. Het gaat erom dat je geen verborgen profielen gebruikt om per persoon verschillende prijzen te rekenen zonder dat duidelijk te maken.
Bedrijven met geavanceerde analytics of AI-gedreven prijstools moeten hun systemen reviewen. De wet werd de dag na goedkeuring aangepast via een aanvullende bill (HB 5222). Dat geeft aan hoe snel dit vakgebied evolueert.
Gezichtsherkenning en locatiedata
Gebruik je gezichtsherkenning? Dan moet je duidelijke borden plaatsen en consumenten toegang geven tot je beleid via een website-link of QR-code. Het verkopen van precieze geolocatie-informatie van consumenten is verboden. Bedrijven die locatiegebaseerde info verzamelen via mobiele apps, connected devices of marketingplatforms moeten hun praktijken controleren.
Dit raakt bijvoorbeeld retailers met camera’s in de winkel die emoties of klantgedrag analyseren. Maar ook apps die aanbiedingen sturen op basis van je exacte positie.
Data broker registry en consumentenrechten
Connecticut lanceert een register dat wordt beheerd door het Department of Consumer Protection. Bedrijven die voldoen aan de definitie van data broker moeten zich vóór 1 januari 2027 registreren. Consumenten krijgen bredere rechten om persoonlijke informatie te laten verwijderen, inclusief profielen gegenereerd uit publiek beschikbare informatie. De definitie van wat als publiek beschikbaar kwalificeert, is vernauwt.
Genetische testbedrijven en AI-chatbots voor kinderen
Voor direct-to-consumer genetische testbedrijven gelden nieuwe vereisten rond toestemming, openbaarmaking, beveiliging en consumentencontrole. Consumenten krijgen eigendomsrechten over hun genetische samples en testresultaten, inclusief exclusieve controle over hoe informatie wordt verzameld, gebruikt, bewaard, openbaar gemaakt en vernietigd.
Bedrijven met AI-chatbots en companion-technologieën die interacteren met kinderen moeten veiligheidsprotocollen invoeren, ouderlijk toezicht mogelijk maken en restricties hanteren op schadelijke of manipulatieve interacties. Chatbots mogen niet aanmoedigen tot zelfbeschadiging, geweld, middelenmisbruik of eetstoornissen. Ook romantische of seksuele interacties met kinderen zijn verboden.
Hoe check je of dit op jou van toepassing is?
Ga na of je bedrijf:
- AI of geautomatiseerde besluitvormingstools inzet in werkgelegenheidsbeslissingen
- Consumentendata verzamelt, verwerkt of verkoopt
- Gezichtsherkenning toepast
- Gepersonaliseerde prijspraktijken hanteert
- Precieze geolocatie-informatie verwerkt
- Opereert als data broker of ermee samenwerkt
- Consumer-facing AI-applicaties ontwikkelt of inzet
Kleinere werkgevers zonder dedicated compliance-personeel staan voor de uitdaging om te begrijpen hoe deze vereisten precies van toepassing zijn. Werk samen met juridisch adviseurs, technologieleveranciers en compliance-teams om huidige praktijken te evalueren en benodigde wijzigingen te identificeren.
Wat je deze week kunt doen
Maak een inventaris van alle tools die je gebruikt en die AI of machine learning claimen. Noteer bij elke tool:
- Wat doet het systeem precies?
- Welke beslissingen beïnvloedt het?
- Heb je inzicht in hoe het tot die beslissingen komt?
- Welke data gebruikt het?
Dat overzicht helpt je niet alleen bij compliance, maar ook bij het beoordelen of die tools daadwerkelijk leveren wat ze beloven. En mocht je in Connecticut actief zijn of plannen om daar te opereren: zorg dat je vóór 1 januari 2027 weet of je aan de data broker-definitie voldoet.
