Code éthique des robots

2007/06/02 Galarraga Aiestaran, Ana - Elhuyar Zientzia

• Robotika
• Adimen artifiziala
• Etika

Ce robot de la maison Fujitsu, en plus d'effectuer les tâches ménagères, aide son propriétaire. (Photo: Fujitsu)

Ainsi, en Corée du Sud, dans un état des États-Unis, et aussi en Europe, comme en Grande-Bretagne, on étudie l'élaboration d'un document d'obligations et de droits des robots.

Parmi les sujets les plus préoccupés par l'expert, la sécurité occupe la première place. Les robots sont de plus en plus autonomes, capables de prendre des décisions dans une certaine mesure et seront de plus en plus intelligents. Par conséquent, la question est qui est responsable si par décision du robot lui-même fait du mal à quelqu'un: l'auteur du robot, son propriétaire, ou le robot lui-même?

La vérité est que certains posent déjà cette question, par exemple quand en finance un robot, dans ce cas un logiciel complexe, prend une décision erronée. Qui est responsable d'un mauvais investissement?

Les trois lois

Isaac Asimov a réfléchi sur ce sujet dans les années 40. Dans le livre robot, j'ai écrit que les robots intelligents devaient être programmés pour respecter trois lois. Tout d'abord, un robot ne peut nuire à un être humain, ou ne peut être sans rien faire, si la personne peut l'empêcher de se blesser. Deuxièmement, le robot doit obéir aux ordres donnés par l'homme, sauf lorsque l'ordre est opposé à la première loi. Enfin, le robot doit se protéger, tant qu'il ne rompt pas la première loi ou la seconde.

Isaac Asimov.

Ces trois lois semblent assez bonnes si vous voulez empêcher les robots d'endommager les gens. Mais programmer des robots pour les remplir n'est pas une tâche facile. Par exemple, bien que la première loi semble simple, elle pose des problèmes aux robots. Parce que pour les gens il est facile de séparer une personne d'un chimpanzé ou d'un mannequin, mais pour un robot les trois sont très semblables.

Cependant, ce n'est pas le plus grand obstacle ; les ingénieurs pourront faire en sorte que le robot puisse le différencier, qu'il comprenne bien les ordres des personnes et qu'il soit programmé pour respecter les trois lois. Mais cela ne suffira pas.

Selon les experts, le rôle futur des robots va générer de nouvelles questions. Par exemple, ils ont déjà commencé à fabriquer des robots pour des applications militaires: La maison Samsung a développé un robot sentinelle qui consiste à surveiller la frontière entre la Corée du Nord et la Corée du Sud.

Ce robot a deux caméras et un pistolet. Si le robot décide d'utiliser le pistolet et tue quelqu'un, il faut savoir qui est le tueur. Bien que l'exemple soit extrême, il montre l'ampleur du problème.

Questions, doutes, préoccupations

En tout cas, la question peut être plus compliquée dans les usages civils que dans les usages militaires. Les chercheurs pensent qu'à l'avenir, des robots pourraient disperser des manifestants à travers des canons à eau. Ces situations sont celles qui inquiètent, pas celles qui semblent de science-fiction.

En fait, les chercheurs ont critiqué un rapport élaboré par le Bureau des sciences et de l'innovation du gouvernement britannique en décembre 2006. Le rapport est intitulé « Rêve utopique ou boom des machines ? » et prévoit que les robots réclament à l'avenir des droits des personnes, comme le droit au logement ou le service sanitaire.

Quickplacer, le robot le plus rapide. (Photo: Fondation Fatronic)

Selon les experts, ces questions ne sont pas basées sur la science et sont sensationnalistes. Cependant, ils reconnaissent que le rapport peut être bénéfique parce qu'il a suscité des débats et a donc contribué à susciter une préoccupation sociale pour cette question.

Mais en fait, les chercheurs pensent que les gens s'intéressent à d'autres sujets et qu'il est temps de les discuter. Au Japon, par exemple, des robots ont déjà été utilisés pour prendre soin des gens. Pour le moment, les personnes âgées sont mesurées par le rythme cardiaque, etc., mais il est logique de penser que bientôt les robots seront en mesure de faire plus de choses et, par conséquent, ils seront en grande partie chargés de prendre soin des personnes âgées.

Cela a les avantages que dans les maisons de retraite, il sera moins cher d'avoir des robots de soins que les travailleurs. Mais cela suscite aussi des inquiétudes, car beaucoup ne trouvent pas acceptable de laisser les personnes âgées aux mains des machines.

D'autre part, l'utilisation de robots pour les rapports sexuels est également une question de discussion et, en général, les experts considèrent que les robots qui ont la forme de personnes peuvent générer de la confusion.

Cependant, les fabricants de robots ne sont pas encore entrés dans ce type de compte. L'objectif du Document sur les droits des robots en préparation en Corée du Sud est surtout d'éviter l'utilisation illégale, de protéger les données collectées par les robots et de pouvoir les identifier et les suivre. Autrement dit, des problèmes pratiques et de base sont résolus.

Mais l'autre aussi viendra. Ils demandent aux sceptiques qui se souciait des droits des animaux il y a des décennies. Ils pensent que la question des robots aura une évolution similaire. Le temps le dira.

Publié dans Gara.