L'IA au cœur de la nouvelle 'tech-tonique' des risques

L'IA au cœur de la nouvelle 'tech-tonique' des risques

Alexandre Pengloan
Rédigé par Alexandre Pengloan
21 juin 2024 - 5 minutes

L’évidence s’impose désormais. Bien au-delà d’un simple buzz, l’intelligence artificielle est une technologie qui va impacter nos sociétés, à tous les étages, dans le futur.

Les experts évaluent l’apport prochain de l’IA générative entre 2,6 et 4,4 trillions de dollars par an à l’économie mondiale. Voici une grosse fourchette, avec beaucoup de zéros, que l’on a finalement du mal à se représenter. Mais ces estimations donnent malgré tout une petite idée de l’impact potentiellement météoritique du phénomène.

Qui dit milliards en jeu, dit forcément risques. Et qui dit risques, dit assurance. L’intelligence artificielle a d’ailleurs fait une spectaculaire apparition au 4e rang du dernier AXA Future Risks Report. Le secteur va ainsi être amené à endosser un rôle déterminant, et une responsabilité croissante, face aux enjeux liés à l’IA dans un paysage des risques en mouvement.

L’IA en 6 risques identifiés

L’intelligence artificielle, ou un défi au caractère prométhéen, ainsi que l’illustre Antonio Grosso. Comme le feu, l’IA a ce potentiel incroyable de transformer radicalement le quotidien de l’homme. Mais comme le feu, un tel pouvoir doit être manié avec la plus grande précaution.

Pour bien appréhender cette technologie, il faut déjà bien comprendre ce que l’on a entre les mains. A commencer par les risques associés. Dans un récent rapport, Swiss Re liste de manière pédagogique 6 dérives potentielles de l’IA, que les assureurs doivent garder à l’esprit :

  • Biais des données ou manque d’équité : l’IA peut involontairement discriminer des groupes de personnes en fonction de caractéristiques comme le genre, la race, l’âge ou la géographie.
  • Cyber : les systèmes d’IA, qui intègrent de plus en plus les SI, peuvent présenter des vulnérabilités face aux cyberattaques… mais aussi être utilisés de manière malveillante par les pirates !
  • Algorithme et performance : l’IA peut échouer à atteindre les objectifs de performance promis. Avec des pertes financières potentiellement lourdes pour les clients utilisateurs.
  • Éthique : l’IA peut ne pas respecter les codes d’éthique et de responsabilité nécessaires, souvent à cause d’un manque de transparence dans son fonctionnement.
  • Propriété intellectuelle : Un LLM peut par exemple utiliser la propriété intellectuelle de tiers sans autorisation lors de son apprentissage, entraînant des violations involontaires mais réelles des droits de copyright.
  • Confidentialité : les données personnelles sensibles peuvent être exposées lors de l’entraînement de l’IA. Il existe dès lors un risque de divulgation involontaire des informations, ou d’identification effective d’individus, dans les résultats générés par l’IA.

Autant de risques potentiels, donc, qui invitent les assureurs à avancer avec prudence et à se reposer sur une stratégie bien établie en amont.

En ce qui concerne la marche à suivre, les bonnes questions à se poser et les pièges à éviter, Bertrand Robert propose une synthèse éclairante.

Un paysage des risques en mouvement

L’une des principales caractéristiques de l’IA réside dans sa capacité à impacter tous les secteurs d’activité, et sur tous les maillons de la chaîne de valeur ou presque. Dans son étude, Swiss Re dresse un panorama des industries les plus sensibles aujourd’hui. Et celles qui le seront demain, car le paysage des risques va bouger vite, et fort !

A court terme, le secteur des technologies de l’information se trouve en première ligne. Pas une surprise, en raison de son rôle pionnier dans le développement et l’utilisation de l’IA​​.

Rapidement, les enjeux risquent de se diffuser dans d’autres verticales. Le secteur de la santé – déjà impacté par la problématique cyber – et des produits pharmaceutiques devrait ainsi voir une augmentation significative des risques liés à l’intelligence artificielle​​. Les erreurs dans les diagnostics générés par l’IA, les atteintes à la confidentialité des patients et les violations de la sécurité des données figurent parmi les préoccupations majeures​​.

Autre bon exemple, le secteur de la mobilité et des transports. L’avènement des véhicules électriques, puis autonomes, aura pour conséquence d’injecter de plus en plus de technologie embarquée, avec les risques associés. On parle ici de potentielles erreurs d’IA dans les systèmes de conduite, de piratage, de pannes techniques ou encore de questions éthiques et légales autour de l’usage des données. Vaste chantier en perspective !

La transition vers ce nouveau paysage des risques s’opérera à mesure que les technologies d’IA deviendront plus sophistiquées et omniprésentes. A titre d’exemple, les avancées dans le calcul en nuage et les capacités de traitement de l’IA augmenteront en parallèle les risques algorithmiques et de performance​​.

Les entreprises devront adapter leurs stratégies de gestion des risques en conséquence afin d’intégrer cette nouvelle donne. Et chercheront inévitablement des réponses auprès des assureurs pour les accompagner et les sécuriser sur ces sujets.

Un momentum à saisir pour l’assurance

Ce contexte inédit place l’assurance au cœur du jeu. Elle ne pourra évidemment agir seule, et le domaine réglementaire doit aussi aider à encadrer cette transition. L’IA Act, ou les avancées sur les sujets NIS 2 et DORA, sont là pour commencer à baliser le chemin.

Côté assurance, les initiatives se multiplient déjà pour apporter de réelles réponses opérationnelles. Citons, notamment :

  • les insurtechs Armilla et Vouch et leurs produits originaux pour dérisquer l’IA ;
  • la cyber insurtech Coalition qui étend son offre aux failles causées par l’IA.

Ce momentum sans précédent tend ainsi à propulser l’assurance dans une nouvelle ère. Une ère où les risques liés à l’IA devront être intégralement considérés et couverts. Qu’il s’agisse d’un assistant médical nouvelle génération, d’un chatbot générateur de contenu ou d’une voiture électrique dernier cri.

Mais aussi une ère pleine de promesses, où l’assurance, augmentée à l’IA, pourrait enfin gagner en prédictibilité, personnalisation et proximité avec ses assurés.

Aucun commentaire sur cet article. Soyez le premier !

Laissez votre commentaire