| Fouten door kunstmatige intelligentie (AI) zijn uitgegroeid tot het grootste risico voor bedrijven op het gebied van beroepsaansprakelijkheid. Nieuw onderzoek wijst uit dat de snelle adoptie van technologie het landschap van beroepsaansprakelijkheid fundamenteel verandert.In een onderzoek van verzekeringsaanbieder Everywhen werd bedrijven en professionals gevraagd naar het grootste risico voor beroepsaansprakelijkheid waarmee organisaties momenteel te maken hebben. 41% noemde fouten door AI, gevolgd door cyberrisico’s met 35%. Compliancefouten werden door 23% van de respondenten genoemd, terwijl slechts 1% leveranciersfouten noemde.
De bevindingen wijzen op een significante verschuiving in de risico’s rondom professionele dienstverlening. Hoewel beroepsaansprakelijkheidsverzekeringen traditioneel geassocieerd werden met menselijke fouten zoals onjuist advies, gemiste deadlines, nalatigheid en contractuele geschillen, moeten bedrijven steeds vaker rekening houden met de gevolgen van technologie voor de beslissingen, adviezen en diensten die zij leveren. De opkomst van generatieve AI heeft bedrijven in staat gesteld alles te automatiseren en te versnellen, van onderzoek en analyse tot klantcommunicatie, documentvoorbereiding en professioneel advies. Maar een groter gebruik roept ook een steeds belangrijkere vraag op: wie is verantwoordelijk als AI fouten maakt?Een door AI gegenereerd document met onjuiste informatie, een geautomatiseerde aanbeveling gebaseerd op gebrekkige data of ongecontroleerde AI-output die is verwerkt in professioneel advies, kan financiële en reputatieschade veroorzaken voor zowel bedrijven als hun klanten. Uit het onderzoek blijkt dat dit niet langer als een toekomstig of theoretisch probleem wordt beschouwd. AI-fouten worden nu al gezien als een grotere bedreiging voor beroepsaansprakelijkheid dan het niet naleven van regelgeving en andere gevestigde risico’s voor professionals. Neil D’Mello, Client Director bij Everywhen, zegt: “Beroepsaansprakelijkheid en traditionele risico’s draaien al lange tijd om menselijk oordeel, het advies dat iemand geeft, de deadline die iemand mist of de fout die iemand maakt. Technologie begint dat beeld te compliceren. AI kan een ongelooflijk nuttig hulpmiddel zijn voor bedrijven, maar het gebruik van technologie ontslaat bedrijven niet per se van de verantwoordelijkheid voor de uitkomst. Als door AI gegenereerde informatie deel uitmaakt van het advies, de werkzaamheden of de dienstverlening aan een klant, moeten bedrijven begrijpen hoe die informatie is geproduceerd en ervoor zorgen dat er passende controles blijven bestaan.” Wat volgens hem deze resultaten bijzonder interessant maakt, is dat AI en cyberbeveiliging samen goed zijn voor 76% van de antwoorden. “Dit laat zien dat bedrijven hun grootste professionele risico’s steeds vaker zien als gerelateerd aan technologie. De uitdaging is nu ervoor te zorgen dat riskmanagement en verzekeringsregelingen zich in hetzelfde tempo ontwikkelen als de technologie die bedrijven implementeren.” Hij vervolgt: “AI heeft de potentie om de klantenservice te verbeteren en de besluitvorming te stroomlijnen, maar makelaars moeten begrijpen hoe door AI gegenereerde informatie wordt gebruikt binnen hun adviesprocessen. Passend toezicht kan ervoor zorgen dat klanten kwalitatief hoogwaardig advies ontvangen en de kans op beroepsaansprakelijkheid verkleinen. Uiteindelijk zullen klanten hun makelaar blijven raadplegen voor betrouwbaar professioneel advies.” Digitale risico’s komen steeds meer centraal te staan in de beroepsaansprakelijkheid Dat cyberrisico’s door meer dan een derde (35%) van de respondenten werden genoemd, onderstreept de mate waarin professionele en digitale risico’s met elkaar verweven raken. “Bedrijven bewaren steeds vaker gevoelige klantgegevens, communiceren en leveren diensten digitaal en zijn afhankelijk van cloudplatforms en onderling verbonden systemen. Een cyberincident kan daarom verder gaan dan alleen verstoring of gegevensverlies en mogelijk de mogelijkheid van een bedrijf om aan zijn professionele verplichtingen jegens klanten te voldoen, beïnvloeden”, zo blikt uit het rapport. Tegelijkertijd ontwikkelen de wettelijke verwachtingen zich, omdat bedrijven zich moeten aanpassen aan nieuwe technologieën, datavereisten en steeds complexere compliance-omgevingen. Everywhen stelt dat de bevindingen het belang onderstrepen van bedrijven om verder te kijken dan de traditionele definitie van beroepsfouten bij het beoordelen van hun risico’s. “In plaats van zich alleen af te vragen wat er gebeurt als een werknemer een fout maakt, moeten organisaties zich steeds vaker afvragen wat er gebeurt als de technologie waarop ze vertrouwen ook een fout maakt, en waar de uiteindelijke verantwoordelijkheid ligt.” “
|
