The Implementation of Ethical Decision Procedures in Autonomous Systems : the Case of the Autonomous Vehicle - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2021

The Implementation of Ethical Decision Procedures in Autonomous Systems : the Case of the Autonomous Vehicle

L’implémentation des processus de décision éthiques au sein des systèmes autonomes : le cas du véhicule autonome

Résumé

The ethics of emerging forms of artificial intelligence has become a prolific subject in both academic and public spheres. A great deal of these concerns flow from the need to ensure that these technologies do not cause harm—physical, emotional or otherwise—to the human agents with which they will interact. In the literature, this challenge has been met with the creation of artificial moral agents: embodied or virtual forms of artificial intelligence whose decision procedures are constrained by explicit normative principles, requiring the implementation of what is commonly called artificial morality into these agents. To date, the types of reasoning structures and principles which inform artificial morality have been of two kinds: first, an ethically maximal vision of artificial morality which relies on the strict implementation of traditional moral theories such as Kantian deontology or Utilitarianism, and second, a more minimalist vision which applies stochastic AI techniques to large data sets of human moral preferences so as to illicit or intuit general principles and preferences for the design of artificial morality. Taken individually, each approach is unable to fully answer the challenge of producing inoffensive behavior in artificial moral agents, most especially since both forms are unable to strike a balance between the ideal set of constraints which morality imposes on one hand, and the types of constraints public acceptability imposes, on the other. We provide an alternative approach to the design of artificial morality, the Ethical Valence Theory, whose purpose is to accommodate this balance, and apply this approach to the case of autonomous vehicles.
Les problèmes éthiques liés à l’arrivée de formes d’intelligence artificielles différentes a sollicité beaucoup d’attention aussi bien académique que publique. Cependant, ces inquiétudes se concentrent sur un problème particulier : comment assurer que les décisions prises par les agents artificiels comme des voitures autonomes ne nuisent pas aux êtres humains présents dans leur environnement ? Cette question a incité la création de ceux qui sont communément appelés les agents moraux artificiels dans la littérature, la prise de décision desquels est contrainte par une moralité artificielle : un système de principes normatifs implémenté dans le processus de raisonnement de la machine. A ce jour, la forme que prend cette moralité artificielle relève de deux approches différentes : soit une forme maximalement éthique, qui dépend de l’implémentation stricte des théories morales préexistantes comme la déontologie Kantienne ou l’Utilitarisme, soit une forme minimaliste, qui applique des techniques de l’IA stochastique à l’analyse et agrégation de données portant sur les préférences morales d’une population, afin d’en tirer des principes généraux mobilisés ensuite dans la prise de décision des machines. Prises individuellement, aucune des deux approches n’arrivent à pondérer l’importance des contraintes morales avec la pertinence de l’acceptabilité publique des agents moraux artificiels. Nous proposons une approche alternative à la moralité artificielle, la théorie des valences éthiques, qui s’efforce d’accommoder ce genre de pondération, et nous l’appliquons au cas du véhicule autonome.
Fichier principal
Vignette du fichier
EVANS_Katherine_2021_these.pdf (3.9 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-03185842 , version 1 (30-03-2021)

Identifiants

  • HAL Id : tel-03185842 , version 1

Citer

Katherine Evans. The Implementation of Ethical Decision Procedures in Autonomous Systems : the Case of the Autonomous Vehicle. Philosophy. Sorbonne Université, 2021. English. ⟨NNT : 2021SORUL003⟩. ⟨tel-03185842⟩
629 Consultations
717 Téléchargements

Partager

Gmail Facebook X LinkedIn More