Les vrais dangers de l’IA

Récemment, des chercheurs ont demandé à plus de 200 experts d’identifier les principaux risques que l’IA pourrait faire peser sur les entreprises à court terme (d’ici 2030).

Lire la suite: Les vrais dangers de l’IA

Premier risque : les capacités dangereuses de l’IA

Les systèmes d’IA qui développent, acquièrent, utilisent ou se voient fournir des capacités augmentant leur potentiel de provoquer des dommages à grande échelle, notamment par la tromperie, le développement et l’acquisition d’armes, la persuasion et la manipulation, la stratégie politique, les cyberattaques, le développement de systèmes d’IA, la compréhension de leur environnement et l’auto-prolifération.

Ces capacités peuvent entraîner des dommages à grande échelle si elles sont manipulées par des acteurs humains malveillants, des systèmes d’IA mal alignés sur les objectifs humains ou tout simplement des défaillances de l’IA.

Deuxième risque : les dynamiques concurrentielles

La concurrence entre développeurs d’IA ou acteurs assimilables à des États dans le cadre d’une « course à l’IA », visant à développer, déployer et utiliser rapidement des systèmes d’IA afin de maximiser un avantage stratégique ou économique. Cette compétition augmente le risque de voir apparaître des systèmes insuffisamment sécurisés et sujets aux erreurs.

Troisième risque : les cyberattaques et les cyberarmes

L’utilisation de systèmes d’IA pour développer des cyberarmes (par exemple en programmant des logiciels malveillants moins coûteux et plus efficaces), concevoir de nouvelles armes ou améliorer des armes existantes (par exemple des armes autonomes létales ou des armes chimiques, biologiques, radiologiques, nucléaires ou des explosifs à forte puissance) ou encore utiliser des armes dans le but de provoquer des dommages à grande échelle.

Quatrième risque : la concentration du pouvoir

La concentration, sous l’effet de l’IA, du pouvoir et des ressources entre les mains de certaines entités ou de certains groupes, en particulier ceux qui ont accès à de puissants systèmes d’IA ou qui en sont propriétaires. Cette concentration peut entraîner une répartition inéquitable des bénéfices et accentuer les inégalités au sein de la société.

Cinquième risque : des informations fausses 

Les systèmes d’IA peuvent générer ou diffuser involontairement des informations erronées ou trompeuses, susceptibles de conduire les utilisateurs à adopter des croyances inexactes et de porter atteinte à leur autonomie. Les personnes qui prennent des décisions à partir de croyances erronées peuvent subir des préjudices physiques, émotionnels ou matériels.

Ces risques concernent les entreprises, mais les experts ne parlent pas du risque terrible qui comment déjà à toucher le monde du travail. En effet, l’intelligence artificielle transforme le travail à tous les niveaux des entreprises. Et son impact est particulièrement visible en début de carrière. On estime que plus d’un jeune actif sur trois exerce un métier moyennement ou fortement exposé à une transformation des tâches liées à l’IA. Ça n’est pas rien !

La manière dont les entreprises réagiront à ces évolutions aura des conséquences importantes non seulement sur la productivité, mais aussi sur la façon dont les talents de demain seront formés et sur les possibilités offertes aux individus d’accéder à des opportunités professionnelles.

La plus grave erreur que les entreprises pourraient commettre serait de considérer les postes de début de carrière comme dispensables. Si elles les suppriment trop massivement au profit de l’IA, elles détruiront la filière qui permet de former les futurs managers et dirigeants et de préserver la mémoire de l’organisation.

Cela réduirait également les possibilités d’apprentissage sur le terrain, pourtant essentielles à l’évolution professionnelle. L’esprit critique, la communication, le leadership et la capacité à prendre des décisions éthiques s’acquièrent par la pratique et l’expérience, et pas uniquement grâce à un travail assisté par l’IA.

Si ces postes disparaissent, le problème ne se limitera donc pas à une pénurie de talents : les entreprises risquent de ne plus trouver personne à embaucher d’ici quelques années !