Código ético de los robots

2007/06/02 Galarraga Aiestaran, Ana - Elhuyar Zientzia

• Robotika
• Adimen artifiziala
• Etika

Este robot de la casa Fujitsu, además de realizar las tareas domésticas, ayuda a su dueño. (Foto: Fujitsu)

Así, en Corea del Sur, en algún estado de EEUU, y también en Europa, como en Gran Bretaña, se está estudiando la elaboración de un documento de obligaciones y derechos de los robots.

Entre los temas más preocupados por el experto, la seguridad ocupa el primer lugar. Los robots son cada vez más autónomos, son capaces de tomar decisiones en cierta medida y serán cada vez más inteligentes. Por lo tanto, la pregunta es quién es el responsable si por decisión del propio robot se hace daño a alguien: el autor del robot, su propietario, o el propio robot?

La verdad es que algunos ya hacen esta pregunta, por ejemplo cuando en finanzas un robot, en este caso un complejo programa informático, toma una decisión errónea. ¿Quién es responsable de una mala inversión?

Las tres leyes

Isaac Asimov reflexionó sobre este tema en los años 40. Yo, en el libro robot, escribió que los robots inteligentes debían programarse para cumplir tres leyes. En primer lugar, un robot no puede perjudicar a un ser humano, o no puede estar sin hacer nada, si la persona puede impedir que se lesione. En segundo lugar, el robot debe obedecer las órdenes dadas por el hombre, salvo cuando la orden se opone a la primera ley. Por último, el robot debe protegerse a sí mismo, siempre y cuando no rompa la primera ley ni la segunda.

Isaac Asimov.

Estas tres leyes parecen bastante buenas si se quiere evitar que los robots dañen a las personas. Pero programar robots para llenarlos no es tarea fácil. Por ejemplo, aunque la primera ley parece sencilla, genera problemas a los robots. Porque para las personas es fácil separar a una persona de un chimpancé o de un maniquí, pero para un robot las tres son muy similares.

Sin embargo, no es el mayor obstáculo; los ingenieros conseguirán que el robot sea capaz de diferenciarlo, que comprenda bien las órdenes de las personas y que esté programado para cumplir las tres leyes. Pero eso no será suficiente.

Según los expertos, el papel futuro de los robots va a generar nuevas preguntas. Por ejemplo, ya han empezado a fabricar robots para aplicaciones militares: La casa Samsung ha desarrollado un robot centinela que consiste en vigilar la frontera entre Corea del Norte y Corea del Sur.

Este robot tiene dos cámaras y una pistola. Si el robot decide usar la pistola y mata a alguien, hay que averiguar quién es el asesino. Aunque el ejemplo es extremo, pone de manifiesto la magnitud del problema.

Preguntas, dudas, preocupaciones

En cualquier caso, la cuestión puede ser más complicada en los usos civiles que en los militares. Los investigadores creen que es posible que en el futuro se vean robots dispersando manifestantes a través de cañones de agua. Estas situaciones son las que preocupan, no las que parecen de ciencia ficción.

De hecho, los investigadores han criticado un informe elaborado por la Oficina de Ciencia e Innovación del Gobierno Británico en diciembre de 2006. El informe se titula “¿Sueño utópico o auge de máquinas?” y prevé que en el futuro los robots demanden derechos de las personas, como el derecho a la vivienda o el servicio sanitario.

Quickplacer, el robot más rápido. (Foto: Fundación Fatronic)

Según los expertos, estas cuestiones no se basan en la ciencia y son sensacionalistas. Sin embargo, reconocen que el informe puede ser beneficioso porque ha generado debate y, en consecuencia, ha contribuido a despertar una preocupación social por esta cuestión.

Pero de hecho, los investigadores creen que a la gente le importan otros temas y que ahora es hora de discutirlos. En Japón, por ejemplo, ya se han empezado a utilizar robots para cuidar a las personas. Por el momento, a las personas mayores se les mide el ritmo cardíaco, etc., pero es lógico pensar que pronto los robots serán capaces de hacer más cosas y, por lo tanto, ellos se encargarán en gran medida de cuidar a las personas mayores.

Esto tiene las ventajas de que en las residencias de ancianos será más barato tener robots cuidadores que trabajadores. Pero también genera preocupación, ya que a muchos no les parece aceptable dejar a los mayores en manos de las máquinas.

Por otro lado, la utilización de robots para las relaciones sexuales también es una cuestión de discusión y, en general, los expertos consideran que los robots que tienen forma de personas pueden generar confusión.

Sin embargo, los fabricantes de robots todavía no han entrado en este tipo de cuentas. El objetivo del Documento de Derechos de los Robots que se está preparando en Corea del Sur es, sobre todo, evitar el uso ilegal, proteger los datos recogidos por los robots y poder identificarlos y seguirlos. Es decir, se están resolviendo problemas prácticos y básicos.

Pero el otro también vendrá. Preguntan a los escépticos quién se preocupaba de los derechos de los animales hace décadas. Creen que la cuestión de los robots tendrá una evolución similar. El tiempo lo dirá.

Publicado en Gara.