Les scientifiques qui associent intelligence artificielle et techniques autonomes souhaitent une solide compréhension éthique de l'impact que leur travail pourrait avoir.
Plus de 100 pionniers de la technologie ont récemment publié une lettre ouverte aux Nations Unies sur le sujet des armes mortelles autonomes, ou «robots tueurs».
Ces personnes, par exemple, l'entrepreneur Elon Musk ainsi que les créateurs de nombreuses entreprises de robotique, font partie de l'effort qui a débuté en 2015. La lettre appelait à la fin d'une course aux armements qui, selon elle, pourrait être la "troisième révolution en la guerre, à la suite de la poudre à canon et des armes atomiques ".
L'ONU a un rôle à jouer, mais la responsabilité de l'avenir proche de ces systèmes doit également commencer par le laboratoire. Le système éducatif qui forme nos chercheurs en IA doit les former à l'éthique et au codage.
Autonomie en IA
Les systèmes autonomes peuvent prendre des décisions pour eux-mêmes, avec un apport minimal ou nul de la part des personnes. Cela augmente considérablement l'efficacité des robots et des appareils similaires.
À titre d'exemple, un drone d'expédition autonome n'a besoin que de l'adresse d'expédition, et peut ensuite déterminer par lui-même la meilleure route à emprunter - surmonter les obstacles qu'il peut rencontrer en cours de route, par exemple, des conditions météorologiques défavorables ou un troupeau de mouettes curieuses. .
Il y a eu beaucoup de recherches sur les systèmes autonomes, et des drones d'expédition sont maintenant développés par des sociétés telles qu'Amazon. De toute évidence, la même technologie pourrait facilement être utilisée pour effectuer des livraisons nettement plus méchantes que les livres ou la nourriture.
Les drones deviennent également plus petits, moins chers et plus robustes, ce qui signifie qu'il sera bientôt possible de produire et de déployer des armées volantes de milliers de drones.
La capacité de déploiement de tels programmes d'armement, principalement découplés de la gestion individuelle, a incité la lettre exhortant l'ONU à "trouver un moyen de nous protéger tous de ces dangers".
Éthique et justifications
Quelle que soit votre opinion sur ces systèmes d'armes, la question met en évidence la nécessité de prendre en compte les questions éthiques dans la recherche sur l'IA.
Comme dans la plupart des domaines des mathématiques, obtenir la profondeur essentielle pour produire des contributions à la connaissance de la planète nécessite de se concentrer sur un sujet spécifique. Souvent, les chercheurs sont des spécialistes dans des domaines relativement restreints et peuvent manquer d’instructions formelles en éthique ou en raisonnement moral.
C'est précisément ce type de raisonnement qui s'impose de plus en plus. Par exemple, les automobiles sans conducteur, qui sont testées aux États-Unis, devront être en mesure de porter des jugements sur des circonstances potentiellement préjudiciables.
Par exemple, comment peut-il réagir si un chat traverse la route de manière inattendue? Est-il plus sage d'écraser le chat, ou même de faire un écart brusque pour l'empêcher, risquant de blesser les occupants de la voiture?
Espérons que ces cas seront rares, mais la voiture devra être équipée de certains principes spécifiques dans votre esprit pour guider sa prise de décision. Comme Virginia Dignum l'a fait lors de l'envoi de son article " Responsible Autonomy" lors de la récente Conférence internationale conjointe sur l'intelligence artificielle (IJCAI) à Melbourne:
La voiture sans conducteur possédera l'éthique; la question est: l'éthique de qui?
Un thème similaire a été exploré dans l'article «Automatiser la doctrine du double effet» de Naveen Sundar Govindarajulu et Selmer Bringsjord.
La doctrine du double effet est un moyen de raisonner sur des questions morales, telles que la meilleure autodéfense dans certaines circonstances, et est attribuée à ce savant catholique du 13ème siècle Thomas d'Aquin.
Le nom Double Impact vient du fait d'avoir un grand impact (comme sauver la vie de quelqu'un) ainsi qu'un mauvais impact (blesser quelqu'un d'autre dans le processus). Cela peut être un moyen de justifier des activités telles qu'un drone tirant sur une voiture qui coule sur des piétons.
Qu'est-ce que cela signifie pour l'éducation?
L'émergence de l'éthique comme sujet de discussion dans la recherche sur l'IA suggère que nous devrions également réfléchir à la manière dont nous préparons les élèves à un monde dans lequel les systèmes autonomes sont de plus en plus courants.
La demande d' individus «en forme de T» a été lancée récemment. Les entreprises recherchent actuellement des chercheurs non seulement avec une région particulière d'épaisseur technique (la course verticale du T), mais aussi avec des capacités professionnelles et des qualités personnelles (la course à plat). Ensemble, ils peuvent voir les problèmes de divers points de vue et fonctionner efficacement au sein d'équipes multidisciplinaires.
La plupart des cours de premier cycle en informatique et dans des domaines comparables comprennent un cours sur l'éthique et la pratique professionnelles. Celles-ci sont généralement centrées sur la propriété intellectuelle, le droit d'auteur, les brevets et les questions de confidentialité, qui sont certainement importantes.
Cependant, il ressort clairement des discussions à l'IJCAI qu'il y a un besoin émergent de matériel supplémentaire sur des problèmes éthiques plus larges.
Les sujets pourraient inclure des stratégies pour déterminer le moindre de deux maux, des théories juridiques comme la négligence criminelle et l'effet historique des technologies sur la planète.
L'essentiel est de permettre aux élèves d'incorporer dès le début des perspectives éthiques et sociétales dans leur travail. De plus, il semble approprié d'exiger que les propositions de recherche démontrent comment les préoccupations éthiques sont intégrées.
Étant donné que l'IA devient plus largement et profondément ancrée dans la vie quotidienne, il est très important que les technologues comprennent la société dans laquelle ils vivent et l'impact que leurs créations peuvent avoir à ce sujet.
