C’est le buzz de 2023 ! Depuis sa sortie, l’IA générative touche tous les secteurs professionnels y compris celui de l’assurance. Souvent jugée trop paperassier, le secteur a cette fois-ci décidé de ne pas louper le train en marche. Et de passer de l’observation à l’action.
Entre crainte et admiration, l’IA suscite depuis sa création, des sentiments ambivalents. A juste titre ? Si cette technologie ouvre un éventail d’opportunités inédites, de sa puissance découlent aussi certains dangers, qui n’échappent pas aux professionnels. Une enquête menée par Gartner auprès de 249 cadres supérieurs du risque révèle ainsi que l’IA générative se classe en deuxième position des principaux risques émergents.
Gartner, tous les trimestres, prend le pouls auprès des experts. Au printemps, une menace a brutalement surgi, pour intégrer directement le Top 10, émergeant même en 2e position : l’IA générative.
C’est lié à la fois la démocratisation fulgurante de cette technologie auprès du grand public ainsi qu’à l’utilisation croissante des outils d’IA générative dans tous les secteurs. Mais aussi aux nombreuses perspectives et cas d’usage envisagés, et donc des risques potentiels associés.
Ran Xu, directeur de la recherche au sein de Gartner Risk & Audit Practice
Trois sujets sont directement concernés, et ne doivent pas échapper aux professionnels de l’assurance :
1️⃣ la propriété intellectuelle : les informations utilisées pour nourrir un outil d’IA générative peuvent finir par faire partie de son ensemble d’apprentissage. Dès lors, des informations sensibles ou confidentielles pourraient se retrouver proposées comme réponses à d’autres utilisateurs. De plus, l’utilisation de ces résultats pourrait bien finir par enfreindre par inadvertance les droits de propriété intellectuelle d’autres personnes qui les ont utilisés.
2️⃣ la confidentialité des données : les outils d’IA générative pourraient partager des données, sans notification, avec des acteurs tiers, comme des vendeurs ou des fournisseurs de service. Une faille qui ne plairait évidemment pas à la CNIL !
3️⃣ la cybersécurité : qui dit technologie de pointe, dit forcément intérêt pour les hackers ! L’IA générative a le potentiel de sublimer l’utilisation du malware ou du ransomware. Et ouvre ainsi la porte à l’industrialisation des attaques de phishing avancées.
La nécessité d’encadrer une technologie aussi puissante sonne comme une évidence. Les autorités européennes sont conscientes des risques et travaillent sur le sujet avec le fameux IA Act. Cette proposition de règlement européen sur l’IA déposée par la Commission européenne, a pour objectif d’apporter un cadre juridique uniforme sur le continent pour l’usage et la commercialisation des IA.
Un règlement qui prévoit la classification des IA afin de déterminer les pratiques à interdire et / ou à encadrer, ainsi que les pratiques à « haut risque ». Sont en outre concernés les systèmes classifiant les individus, ou les systèmes d’identification biométrique à distance.
