Les progrès rapides de l’intelligence artificielle ouvrent des possibilités extraordinaires, mais soulèvent également des interrogations de plus en plus urgentes. Geoffrey Hinton, prix Nobel de physique 2024 et l’un des pionniers du deep learning, attire l’attention sur les risques liés à des systèmes capables d’apprendre et d’agir avec un degré croissant d’autonomie. Parmi les menaces envisagées figurent l’utilisation de l’IA dans les cyberattaques, la conception d’armes biologiques et, à plus long terme, la difficulté de contrôler des systèmes bien plus puissants que ceux dont nous disposons aujourd’hui.
Toutefois, le problème ne concerne pas uniquement des scénarios extrêmes. Luciano Floridi, philosophe et directeur du Digital Ethics Center de l’Université de Yale, identifie des risques déjà présents : la concentration du pouvoir technologique entre les mains d’un petit nombre d’entreprises et d’États, la manipulation de l’information et le renoncement progressif des individus à exercer leur propre jugement de manière autonome. La question fondamentale devient donc celle de la responsabilité : une tâche peut être déléguée à l’intelligence artificielle, mais non la responsabilité de ses conséquences.
Une attention particulière doit être accordée aux décisions difficilement réversibles ainsi qu’à celles qui touchent à la vie des personnes, à l’environnement, à la santé, au travail, à l’éducation et à la justice. Dans ces domaines, il doit toujours être possible d’identifier clairement une personne responsable, en mesure d’expliquer et de justifier une décision.
La réflexion de l’Église s’inscrit également dans ce débat. Le pape Léon XIV a rappelé la nécessité de ne pas confier aux algorithmes des décisions qui relèvent exclusivement de l’être humain. Le père Alberto Carrara, philosophe et professeur à l’Athénée pontifical Regina Apostolorum, souligne en outre que le défi posé par l’IA n’est pas seulement technologique, mais profondément anthropologique : avant de nous demander quelles technologies nous sommes capables de construire, il convient de nous interroger sur la conception de la personne humaine et de la société qu’elles sont appelées à servir.
La véritable question n’est donc pas seulement de savoir jusqu’où peut aller l’intelligence d’une machine, mais quelle autorité l’être humain est disposé à lui confier.
