Anthropic, ontwikkelaar van kunstmatige intelligentie (AI), waarschuwt ervoor dat een catastrofaal incident met AI zou kunnen leiden tot aansprakelijkheden die de capaciteit van de verzekeringssector te boven gaan.In een registratieverklaring die is ingediend bij de Securities and Exchange Commission (SEC) voor de geplande beursgang, stelde de in San Francisco gevestigde ontwikkelaar van het Claude AI-systeem dat de bestaande verzekeringsdekking mogelijk ontoereikend is om te beschermen tegen grootschalige schades als gevolg van de technologie.
“Gezien de omvang van de schade die zou kunnen voortvloeien uit een catastrofaal incident met AI, beschikt geen enkele verzekeraar, en mogelijk de verzekeringssector als geheel, over voldoende capaciteit of expertise om een verzekering af te sluiten die in verhouding staat tot een dergelijk risico”, aldus Anthropic.
Het bedrijf stelt dat de verzekeringsmarkt voor AI-specifieke risico’s nog relatief onontwikkeld is en dat dekking voor bepaalde aansprakelijkheden mogelijk niet beschikbaar of onbetaalbaar is. Bedrijven schetsen routinematig worstcasescenario’s in de risicofactorensecties van SEC-documenten, inclusief potentieel ernstige gebeurtenissen die zich mogelijk nooit voordoen.
Anthropic stelde dat de juridische kaders die de aansprakelijkheid voor autonoom uitgevoerde acties door AI-systemen regelen, nog onduidelijk zijn, waardoor er onzekerheid bestaat over welke partijen verantwoordelijk zouden zijn voor schades. Anthropic zou te maken kunnen krijgen met claims van klanten, hun eindgebruikers of derden die beweren schade te hebben geleden door autonome AI-systemen, zelfs wanneer klanten de technologie hebben geconfigureerd, geïmplementeerd of beheerd, aldus de indiening.
Hoewel Anthropic contractuele bepalingen gebruikt om haar aansprakelijkheid te beperken, zijn die beschermingen mogelijk niet altijd afdwingbaar of voldoende, aldus het bedrijf.
