Consumentenorganisaties in de EU en de VS roepen op om consumentenrechten centraal te stellen bij de ontwikkeling en implementatie van AI (artificiële intelligentie) en generatieve AI. De organisaties vragen toezichthouders en beleidsmakers in hun land om actie te ondernemen. De Consumentenbond richt haar oproep aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens (AP) en staatsecretaris Van Huffelen (Digitalisering).
Aanleiding voor de oproep is een publicatie van de Noorse consumentenorganisatie Forbrukkeradet (NCC) op 20 juni 2023. Dit rapport: ‘Ghost in the machine – Addressing the consumer harms of generative AI’, beschrijft de belangrijkste risico’s van generatieve AI voor consumenten, bijvoorbeeld voor hun veiligheid en privacy. Maar het zet ook uiteen hoe generatieve AI misleiding, manipulatie, discriminatie, fraude en desinformatie kan vergroten.
De consumentenorganisaties die de oproep doen, maken zich zorgen over de rechten en veiligheid van consumenten bij Generatieve AI in zijn huidige vorm. Omdat de Europese AI-Act nog niet van kracht is, moeten de toezichthouders de bestaande EU-wetgeving op het gebied van gegevensbescherming, veiligheid en consumentenbescherming gebruiken om te handhaven.
AI kan veel risico’s opleveren voor consumenten. Zo confronteerde Snapchat kinderen recentelijk met My AI. Deze chatbot geeft adviezen die niet zijn afgestemd op de leeftijd van de vragensteller, wat gevaarlijke situaties kan opleveren. Dit voorbeeld en andere voorbeelden van de risico’s van AI staan beschreven in het rapport van de NCC en op Wat is kunstmatige intelligentie (AI)?. (via Consumentenbond)
Geef als eerste een reactie