Les risques posés par les fausses informations et la désinformation alimentées par l’intelligence artificielle innovent dans la propagation de fausses informations et menacent la démocratie, selon un rapport du Forum économique mondial publié mercredi.
Selon le dernier rapport sur les risques mondiaux, une série de risques environnementaux figure parmi les plus grandes menaces à long terme. Le rapport a été publié avant la réunion annuelle des PDG et des dirigeants mondiaux à Davos, en Suisse, et est basé sur une enquête réalisée auprès de près de 1 500 experts, dirigeants de l’industrie et décideurs politiques.
Le rapport classe les fausses informations et la désinformation comme le risque le plus grave au cours des deux prochaines années, soulignant que les avancées technologiques rapides créent également de nouveaux problèmes ou aggravent ceux qui existent déjà.
Les auteurs craignent que la montée en puissance des chatbots AI générateurs, tels que ChatGPT, signifie que la création de contenus synthétiques sophistiqués pouvant être utilisés pour manipuler des groupes de personnes ne soit plus limitée aux personnes ayant des compétences spécialisées.
On s’attend à ce que l’IA soit un sujet brûlant la semaine prochaine lors des réunions de Davos, auxquelles devraient participer des dirigeants d’entreprises technologiques tels que le PDG d’OpenAI, Sam Altman, le PDG de Microsoft, Satya Nadella, et des acteurs de l’industrie, notamment l’expert en IA en chef de Meta, Yann LeCun.
La désinformation et les fausses informations alimentées par l’IA sont en train de devenir un risque alors que des milliards de personnes dans de nombreux pays, y compris de grandes économies comme les États-Unis, le Royaume-Uni, l’Indonésie, l’Inde, le Mexique et le Pakistan, se rendent aux urnes cette année.
« Vous pouvez exploiter l’IA pour créer des deepfakes et avoir un impact réel sur de grands groupes, ce qui alimente vraiment la désinformation », a déclaré Carolina Klint, responsable de la gestion des risques chez Marsh, dont la société mère, Marsh McLennan, a co-écrit le rapport avec le groupe d’assurance Zurich.
« Les sociétés pourraient devenir encore plus polarisées » à mesure que les gens trouvent plus difficile de vérifier les faits, a-t-elle déclaré. Les fausses informations pourraient également être utilisées pour remettre en question la légitimité des gouvernements élus, « ce qui signifie que les processus démocratiques pourraient être érodés, ce qui entraînerait également une polarisation sociale encore plus grande », a déclaré Klint.
La montée en puissance de l’IA présente également une série d’autres risques, a-t-elle déclaré. Elle peut permettre aux « acteurs malveillants » de faciliter les cyberattaques, par exemple en automatisant les tentatives de phishing ou en créant des malwares avancés. Avec l’IA, « on n’a pas besoin d’être le plus intelligent pour être un acteur malveillant », a déclaré Klint.
Elle peut même contaminer les données collectées sur internet pour former d’autres systèmes d’IA, ce qui est « extrêmement difficile à inverser » et pourrait entraîner l’introduction de biais supplémentaires dans les modèles d’IA, a-t-elle ajouté.
L’autre préoccupation mondiale majeure parmi les personnes interrogées dans l’enquête sur les risques était le changement climatique. Après la désinformation et la fausse information, les conditions météorologiques extrêmes représentent le deuxième risque le plus urgent à court terme.
À long terme, défini comme dix ans, les conditions météorologiques extrêmes ont été décrites comme la première menace, suivie de quatre autres risques environnementaux : les changements critiques dans les systèmes terrestres ; la perte de biodiversité et l’effondrement des écosystèmes ; et les pénuries de ressources naturelles.
« Nous pourrions dépasser le point de basculement irréversible du changement climatique » au cours de la prochaine décennie, alors que les systèmes terrestres subissent des changements à long terme, a déclaré Klint.