ROME – Le pape François a appelé jeudi à un traité international pour garantir que l’intelligence artificielle soit développée et utilisée de manière éthique, estimant que les risques d’une technologie dépourvue des valeurs humaines de compassion, de miséricorde, de moralité et de pardon sont trop importants.
Dans son message annuel pour la Journée mondiale de la paix, que l’Église catholique célèbre chaque année le 1er janvier, François a ajouté sa voix aux appels de plus en plus nombreux en faveur d’une réglementation mondiale contraignante de l’intelligence artificielle. Le Vatican a publié le texte du message jeudi.
Pour François, l’appel est quelque peu personnel : Au début de l’année, une image générée par l’IA le représentant vêtu d’une luxueuse veste blanche est devenue virale, montrant la rapidité avec laquelle des images réalistes peuvent se répandre en ligne.
Le message du pape a été publié quelques jours seulement après que les négociateurs de l’Union européenne aient obtenu une approbation provisoire sur les premières règles globales au monde en matière d’IA, qui devraient servir d’étalon-or pour les gouvernements qui envisagent d’adopter leur propre réglementation.
L’intelligence artificielle a attiré l’attention du monde entier au cours de l’année écoulée grâce aux progrès époustouflants réalisés par des systèmes de pointe tels que ChatGPT d’OpenAI, qui ont ébloui les utilisateurs par leur capacité à produire des textes, des photos et des chansons semblables à ceux d’un être humain. Mais cette technologie a également suscité des craintes quant aux risques qu’elle fait peser sur l’emploi, la vie privée et l’environnement. protection des droits d’auteur et même la vie humaine elle-même.
Francis a reconnu les promesses de l’IA et a salué les avancées technologiques comme une manifestation de la créativité de l’intelligence humaine, faisant écho à la déclaration de l’Union européenne sur l’intelligence humaine. message du Vatican lors de l’Assemblée générale des Nations unies de cette année, au cours de laquelle un grand nombre de dirigeants du monde entier a évoqué les promesses et les dangers de cette technologie.
Mais son nouveau message de paix va plus loin et souligne les graves préoccupations existentielles soulevées par les éthiciens et les défenseurs des droits de l’homme au sujet de la technologie qui promet de transformer la vie quotidienne d’une manière qui peut tout perturber, des élections démocratiques à l’art.
« L’intelligence artificielle pourrait bien représenter le pari le plus important de notre avenir », a déclaré le cardinal Michael Czerny, du bureau de développement du Vatican, qui a présenté le message lors d’une conférence de presse jeudi. « Si elle tourne mal, c’est l’humanité qui est à blâmer.
Le document insiste sur le fait que le développement technologique et le déploiement de l’IA doivent tenir compte avant tout de la garantie des droits de l’homme fondamentaux, de la promotion de la paix et de la protection contre la désinformation, la discrimination et la distorsion.
Le Pape François quitte la salle Paul VI après une audience avec des malades et des opérateurs de pèlerinage à Lourdes, au Vatican, jeudi 14 décembre 2023. (AP Photo/Alessandra Tarantino)
La plus grande alarme de François a été consacrée à l’utilisation de l’intelligence artificielle dans le domaine de la santé. dans le secteur de l’armement, qui a souvent été l’objet de l’attention du pape jésuite, qui a qualifié les fabricants d’armes traditionnels de « marchands de mort ».
Il a noté que les systèmes d’armes à distance avaient déjà conduit à une « distanciation par rapport à l’immense tragédie de la guerre et à une perception moindre de la dévastation causée par ces systèmes d’armes et du fardeau de la responsabilité de leur utilisation ».
« La capacité unique de jugement moral et de prise de décision éthique est plus qu’une collection complexe d’algorithmes, et cette capacité ne peut être réduite à la programmation d’une machine », a-t-il écrit.
Il a appelé à une surveillance humaine « adéquate, significative et cohérente » des systèmes d’armes autonomes létaux (ou LAWS), estimant que le monde n’a pas besoin de nouvelles technologies qui ne font que « promouvoir la folie de la guerre ».
À un niveau plus fondamental, il a mis en garde contre les répercussions profondes sur l’humanité des systèmes automatisés qui classent ou catégorisent les citoyens. Outre les menaces qui pèsent sur les emplois dans le monde entier et qui peuvent être confiés à des robots, M. Francis a fait remarquer qu’une telle technologie pourrait déterminer la fiabilité d’un candidat à un prêt hypothécaire, le droit d’un migrant à recevoir l’asile politique ou le risque de récidive d’une personne précédemment condamnée pour un crime.
« Les algorithmes ne doivent pas être autorisés à déterminer comment nous comprenons les droits de l’homme, à mettre de côté les valeurs humaines essentielles que sont la compassion, la miséricorde et le pardon, ou à éliminer la possibilité pour un individu de changer et de laisser son passé derrière lui », a-t-il écrit.
Le Pape François arrive pour une audience avec des malades et des opérateurs de pèlerinage de Lourdes dans la salle Paul VI, au Vatican, jeudi 14 décembre 2023. (AP Photo/Alessandra Tarantino)
Pour François, cette question touche à certaines de ses priorités en tant que pape : dénoncer les injustices sociales, défendre les migrants et s’occuper des prisonniers et des personnes en marge de la société.
Le message du pape ne s’est pas étendu sur les détails d’un éventuel traité contraignant, si ce n’est pour dire qu’il doit être négocié au niveau mondial, afin de promouvoir les meilleures pratiques et d’empêcher celles qui sont néfastes. On ne peut pas faire confiance aux entreprises technologiques pour s’autoréguler, a-t-il déclaré.
Il a repris des arguments qu’il avait déjà utilisés pour dénoncer les multinationales qui ont ravagé les ressources nationales de la Terre et appauvri les peuples autochtones qui en vivent.
La liberté et la coexistence pacifique sont menacées « chaque fois que les êtres humains cèdent à la tentation de l’égoïsme, de l’intérêt personnel, du désir de profit et de la soif de pouvoir », a-t-il écrit.
Barbara Caputo, professeur au centre d’intelligence artificielle de l’université polytechnique de Turin, a fait remarquer qu’il y avait déjà une convergence sur certaines questions et définitions éthiques fondamentales dans le règlement de l’UE et le décret dévoilé par le président américain Joe Biden en octobre.
« Ce n’est pas une mince affaire », a-t-elle déclaré lors de la conférence de presse du Vatican. « Cela signifie que quiconque souhaite produire de l’intelligence artificielle dispose d’une base réglementaire commune.
___
Kelvin Chan a contribué depuis Londres.
