Apr 15, 2015

Todavía estamos a tiempo de prevenir un futuro en el que las máquinas tomen la decisión de matar o dejar vivir a un ser humano

altArtQA0Rk0PYnuD4GXVvJ1BLq-tqGtkfpaxNTIyu0iHqX2

Expertos debaten esta semana en Ginebra el uso y limitaciones de los robots asesinos

Bogotá, 15 de abril de 2015.- Desde el pasado día 13 y hasta el próximo 17 de abril, un centenar de expertos en robótica e inteligencia artificial se reúnen en el Palacio de las Naciones Unidas (Ginebra, Suiza) con representantes de los 120 Estados parte de la Convención sobre Ciertas Armas Convencionales (CCAC) para deliberar sobre el uso y limitaciones de los sistemas de armas letales autónomas y elaborar un documento base de recomendaciones que se llevarán a la cumbre anual de la CCAC el próximo noviembre.

Este tipos de armamento, también conocido como robots asesinos, se caracteriza por ser capaz de elegir y disparar contra un objetivo sin necesidad de intervención humana.  En ese sentido, significan un paso más allá de los drones (aviones no tripulados), ya que disponen de plena autonomía para actuar.

Su desarrollo, lejos de ser un tema de ciencia ficción en la gran pantalla, con personajes como “Robocop” o “Sonny” (“Yo, robot”), está altamente avanzado y, aunque no existan todavía, la rápida evolución de la tecnología en esa dirección ha llamado la atención internacional y ha causado profunda preocupación.

Por ello, el punto clave de la discusión sobre este tipo de armamento se centra en el control humano, es decir, hasta dónde se considera aceptable ese control en un arma con cierta autonomía, al tiempo que plantea la incapacidad de distinguir entre objetivos militares y civiles y abre el debate sobre la responsabilidad legal por las muertes y lesiones ilegítimas.

Quién debería, en ese caso, responder por los errores de ese tipo de máquinas: ¿los contratistas? ¿los fabricantes? ¿los compradores? ¿el mismo robot?

“El objetivo de la reunión es sentar a los expertos en el tema de la robótica y la inteligencia artificial, con los Estados parte de la CCAC para que en conjunto puedan formar una opinión que les permita en noviembre, en la reunión formal de Estados parte de la convención, buscar alternativas, bien sea de prohibición o de control de los sistemas letales autónomos”, declaró el   subdirector de la Campaña Colombiana Contra Minas (CCCM), Camilo Serna, quien participa de los actos en Ginebra.

altArtQA0Rk0PYnuD4GXVvJ1BLq-tqGtkfpaxNTIyu0iHqX

La CCCM es una de las organizaciones que integra la Campaña para Detener los Robots Asesinos (Campaign to Stop Killer Robots), coalición internacional de más de 50 organizaciones no gubernamentales que pide la prohibición preventiva del desarrollo, producción y uso de las armas totalmente autónomas, del mismo modo como se hizo en 1995 con las armas láser cegadoras.

Hasta ahora, ni el Derecho Internacional Humanitario (DIH) ni el Derecho sobre los Derechos Humanos contempla sanciones para una máquina que cometa un crimen, con lo cual deja la puerta abierta a la impunidad.

“Colombia invierte un recurso muy importante en compra de armas. En la medida en que en el mundo se desarrollen estos sistemas es muy posible que puedan llegar al país y tengamos que ver cómo armas deciden autónomamente a quién matar, sin distinguir si es un civil o un militar”, explicó Serna.

“Todavía estamos a tiempo de prevenir un futuro en el que las máquinas tomen la decisión de matar o dejar vivir un ser humano. Es más fácil prevenir que atacar un mal cuando ha ocurrido una tragedia”, concluyó.

La reunión de las altas partes contratantes en la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que Puedan considerarse Excesivamente Nocivas o de Efectos Indiscriminados (también conocida como CCAC) está prevista que se desarrolle en Ginebra entre el 13 y 15 de noviembre, con el objetivo de renovar su mandato para continuar las discusiones de expertos que lleven a un proceso de negociación más formal.

La CCAC es un anexo de Naciones Unidas a los Convenios de Ginebra de 1949, adoptado en 1980 y cuya entrada en vigor se fijó en 1983. Actualmente lo han suscrito 120 Estados y está integrado por cinco protocolos que prohíben o limitan el uso de varios tipos de armas y restos explosivos de guerra que se consideran que provocan sufrimiento innecesario o afectan indiscriminadamente a soldados y civiles.

Share on FacebookTweet about this on Twitter