22/Ene/07

Revista Axxón Axxón en facebook Lectores de Axxón en facebook

Dilema ético ante los robots asesinos

Los informes que llegan de Corea del Sur sobre robots de vigilancia desarrollados recientemente, que son capaces de disparar de manera autónoma sobre blancos humanos, generan preocupación por sus implicaciones potenciales.

Cuando el escritor de ciencia ficción Isaac Asimov desarrolló sus tres leyes de la robótica en 1940, la primera ley era: "Un robot no puede dañar a un humano, o, por inacción, permitir que un humano sea dañado".

Asimov agregó luego una ley para que el robot tenga en cuenta las necesidades de la Humanidad en su totalidad por encima de las de un solo individuo, pero la intención seguía sin cambiar: que los robots se deben diseñar para proteger vidas humanas y no deben ser capaces de ponerlas en peligro.

Los informes que llegan de Corea del Sur sobre robots de vigilancia desarrollados recientemente, que son capaces de disparar de manera autónoma sobre blancos humanos, generan preocupación por sus implicaciones potenciales.

Se cree que los nuevos robots inteligentes de seguridad y vigilancia estarán disponibles en el mercado, según se informa, a fines de este año. Serán desplegados a lo largo de la frontera norte de Corea del Sur.

Con un costo estimado de us$ 200.000 por cada uno, las unidades están equipadas con cámaras fotográficas que operan a la luz del día, capaces de identificar blancos en un radio de 4 km, y de visión infrarroja nocturna que tiene un alcance de 2 km.

Desde lo ético se ha cuestionado siempre el uso de tecnología en el desarrollo de armamento, pero los nuevos robots están causando una inquietud adicional debido a su capacidad de moverse con independencia.

Aunque las unidades permiten la intervención humana con controles a distancia, según se informa, también pueden responder de manera autónoma si el intruso no puede proporcionar la contraseña correcta.

Entre las opciones está hacer sonar una alarma, usar una fuerza no letal, como balas de goma, pero también disparar un rifle o una ametralladora.

En EEUU y en todas partes del mundo ya se utilizan robots militares para vigilancia y retiro de bombas, pero parece ser que estas máquinas coreanas serán las primeras capaces de disparar sobre seres humanos sin la participación del operador.

Según Mike Bowern, presidente del comité económico, legal y social de la Australian Computer Society, demasiada autonomía es un peligro.

"El fabricante sugiere que los robots son superiores a los guardias humanos porque no son afectados por la fatiga o un tiempo inclemente".

"Sin embargo, un soldado humano se hará responsable de sus acciones y puede elegir no disparar si existe alguna duda".

"En cambio, un robot no tiene ningún razonamiento sensible y no puede discutir ninguna otra línea de conducta fuera de la que se le haya programado", dice.

"Otra cuestión es la calidad final del producto. Siendo comunes aún los defectos en el software y hardware en muchos usos comerciales, se debe tener en consideración la posibilidad de que ocurra una avería, o un defecto de software, que influencien en la conducta del robot".

"Tenemos poca información sobre la gente implicada en diseñar y construir estos robots o sobre qué precauciones están tomando para evitar los potenciales problemas".

Es necesario evitar una situación en la que civiles inocentes puedan ser puestos en peligro.

¿Qué pasa si ciudadanos influyentes intentan obtener estos robots para proteger sus propiedades personales?

¿Quién sería responsable en una situación así si, creyendo que es una amenaza, el robot disparase sobre un niño u otro individuo por error?

El especialista en ética en computadoras James Moor se pregunta si no hay ciertas decisiones que las computadoras jamás deberían tener que tomar.

Los robots no serían legal o moralmente responsables de sus decisiones. Es una responsabilidad de todos los profesionales en el área de la tecnología asegurarse de que los que desarrollan tecnología de este tipo sean responsables y éticos

El autor de esta nota, Philip Argüí, es presidente de la Australian Computer Society.

Fuente: Australian IT News. Aportado y traducido por Eduardo J. Carletti