Printemps Civique 2018 « Intelligence artificielle, l’éthique comme gouvernail ? » avec Laurence Devillers et Bertrand Vergely

 

Conférence du 12 juin à l’Assemblée nationale

 

« Cette question du sens est une question politique primordiale que l’on ne peut, par conséquent, abandonner aux professionnels de la science ni à ceux de la politique » écrivait dans La condition moderne, Hannah Arendt.

Intervention de Laurence Devillers

Le bon rapport à l’Intelligence Artificielle (IA)

La balise 3 d’Esprit Civique correspond à la juste fonction utilitaire de l’IA pour la société : contre les extrêmes que sont le « post-humanisme » et « l’obscurantisme ».

« Il ne faut pas mystifier l’IA, mais comprendre que le seul danger qui lui est inhérent provient de la mauvaise utilisation des systèmes par des concepteurs qui n’auraient pas conscience d’une déontologie minimale préservant la société de risques. »

« Il faut utiliser les bonnes applications des systèmes IA car elles peuvent améliorer le sort de personnes, comme, par exemple, les adolescents autistes du CHU de Nantes. »

Les humains et machines doivent être distingués : les uns sont singuliers et les autres duplicables.

Les machines n’ont aucun « conatus », au sens d’appétit de vie de Spinoza, et sont totalement manipulées par les êtres humains. Par exemple, « la super intelligence des machines qui sont conscientes d’elles-mêmes est une absurdité. »

Les trois vagues du développement des IA

La première vague, la créativité laborieuse, a permis de développer des IA aux systèmes experts, où l’expertise humaine est donnée dans des règles. Par exemple, « la machine battant le champion de chinois de Go car elle a perfectionné dans la pratique l’application des règles humaines ».

La deuxième vague, c’est l’apprentissage statistique à partir de données : le big data. Là l’expertise de l’humain est donnée à la machine par le truchement « d’étiquettes ». La machine apprend en fonction des étiquettes associant une image à un nom, données par les humains. Mais elle apprend absolument sans comprendre.

Actuellement, la troisième vague, a pour objet de comprendre ce que font les machines, de les rendre loyales, de créer une éthique des machines. La recherche en IA se concentre sur le sens commun des systèmes.

Les dangers de l’IA

Le fétichisme des IA. Où les fantasmes d’une machine dotée d’une super intelligence « consciente d’elle-même » entraînent une occultation des problématiques actuelles.

Dépendance et assistanat. Utilisation d’applications comme Waze a pour effet une baisse considérable de la mémoire.

L’anthropomorphisation des systèmes. Danger majeur pour l’humain d’attribuer un caractère particulier (social, humain) à une machine. Les exemples sont nombreux comme celui de ce robot IA ayant été doté d’une nationalité par l’Arabie Saoudite en 2017…

La manipulation des machines. Richard Thaler, Prix Nobel d’économie en 2017, a mis en évidence le « nudge », ou appelé aussi en français « théorie du paternalisme libertarien ». La pratique du nudging a pour objet de créer un effet de manipulation incitative sur les individus.

Quel rapport au politique, quelle régulation ?

Il est urgent de travailler de façon systémique avec des philosophes, des théologiens, des sociologues, des psychologues, des économistes, des neuroscientifiques, des informaticiens et des roboticiens qui mettent en œuvre les systèmes.

 Avec Cédric Villani, Laurence Devillers a proposé une COP 21 de l’IA. Elle entrevoit par l’autorégulation et par l’établissement d’une charte, la perspective de limites posée aux usages de l’IA (par le consentement, le droit à l’oubli, la sécurité, le contrôle, l’explicabilité, etc…).

Intervention de Bertrand Vergely

Définition et clarification des notions 

  • Sur la morale et l’éthique

Notre monde ne veut plus parler de moral et a substitué le mot éthique à moral, le terme d’éthique se définissant quant à lui par des « valeurs », elles même incarnées par des règles au sens juridique.

Cela induit une confusion totale des notions élémentaires.

La morale est, pour Bertrand Vergely, un ensemble de principes fondamentaux non négociables sur lesquelles reposent l’humanisme.

L’éthique est une manière de vivre par le juste milieu chez Aristote. Pour les Stoïciens, l’éthique se faisait par l’obéissance aux Dieux. S’agissant des épicuriens, l’éthique renvoyait alors au plaisir. Enfin, pour Spinoza, l’éthique appartenait au domaine de la joie.

  • Sur la notion de personne

Le théâtre antique définissait symboliquement la notion de personne par le masque que les acteurs portaient pour voiler les visages des hommes et faire apparaître le concept de cette personne. Le véritable sens de la personne est dans son être moral et spirituel. 

Les capacités de présence et d’intériorité font parties de la spiritualité, et sont donc des corolaires de la notion de personne. L’intériorité est un fait inouï, soit la capacité de faire vivre l’unique qui est en moi et l’unique qui est en chaque chose, c’est-à-dire le non reproductible, le non simulable.

Une éthique de la personne repose sur l’apprentissage de l’intériorité, le fait de vivre en mobilisant la capacité unique qui existe à l’intérieur de nous. Le but du système éducatif est de fabriquer des « persona » : des personnes originales et singulières.

La personne ne doit pas être comprise comme l’individu et ses droits, qui est alors une vision réductrice et libérale, où il n’est pas question d’intériorité ni de conscience sociale, seulement de liberté de choix.

  • Le sens de la vie : c’est de donner une âme à la cité, comme disait Platon.

Le réductionnisme de l’humain au machinisme en trois étapes 

  • La pensée Cartésienne

Dès Descartes la question de la confusion des humains et des automates s’est posée (Méditations et Physique). Descartes demandait : « est-ce que ces manteaux et ces chapeaux que je vois passer sont des hommes ou des automates ? ». L’auteur répondait à ce problème en expliquant qu’il y a chez l’Homme un caractère inimitable qui peut être perçu immédiatement du fait qu’il est porteur intrinsèquement d’une conscience.

  • La pensée de Julien Offray de La Metterie

La réduction de l’homme au machinisme a été véritablement inventée au XVIIIème siècle par Julien Offray de la Metterie. Dans son ouvrage appelé l’Homme Machine, il fait sauter la distinction qu’il y a entre l’homme et la machine afin de se libérer de tout encrage métaphysique de l’homme, alors simple produit de la nature, elle-même n’étant qu’une machine.

  • La pensée de Gilles Deleuze

La philosophie Deleuzienne pousse à son paroxysme « l’Homme Machine ». L’auteur défend que la réalité est un flux d’informations et de désirs qui produit des connections, des déconnections et des reconnections.

Les dangers pour la personne des IA et du machinisme

Le véritable enjeu de cette révolution technique c’est que les IA peuvent pénétrer notre intimité et notre pensée.

Si Descartes voit que les automates peuvent reproduire même de manière imparfaite l’humanité, ils peuvent néanmoins poser un problème majeur pour notre culture en devenant des « trompes l’œil ».

Le machinisme produit une rupture dans l’idée même d’humanité car il aurait pour objet de réduire l’humanité à une propre auto-construction. Or, l’humain, avant tout, s’incarne par le reçu. Il y a donc un danger de faire émerger une humanité totalement autonome par rapport à ce reçu. La question de « l’Homme-Dieu » est primordiale pour l’avenir de notre humanité.

L’IA pourrait considérablement renforcer le danger que Tocqueville voyait dans la Démocratie en Amérique avec non plus un Etat qui s’occupe de tout, mais une IA qui assiste en tout l’Homme en lui « ôtant même la peine de vivre ».

 Remettre la morale au centre du politique

Selon Bertrand Vergely, la solution réside dans la reconnaissance de l’existence de limites à ne pas franchir, tels des invariants anthropologiques, afin de préserver la singularité de l’être sur laquelle repose la commune humanité.

Conclusions de Dominique Potier

L’intelligence artificielle fait un écho au débat précèdent sur l’ethos européen. Les questions soulevées par l’IA peuvent évoquer à la fois une vision prométhéenne de l’homme occidental, comme celles qui ont engendré le cataclysme du XXème siècle, et le meilleur de son génie. 

L’IA dans ses perspectives de développement mondial ne peut se résumer à une course aveugle à l’innovation, un dialogue des cultures s’impose pour lui fixer finalités et limites.

Notre rapport aux robots n’est sans évoquer celui que nous entretenons avec les animaux. Ce dernier fait l’objet de débats législatifs passionnels qui illustrent une certaine désorientation… Nous sommes sommés de dire notre humanité à la fois face à l’IA et à l’animalité.

Deux pistes nous sont données par nos invités ce soir : le caractère « irremplaçable » de la personne humaine et une vocation pour la vie politique de donner « une âme à la cité » !

 

 

Intelligence artificielle l'éthique comme gouvernail

 

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *