Las armas letales
autónomas, (o como le gusta llamar a los medios, “robots asesinos”) regresaron
a la agenda de las Naciones Unidas la semana pasada. La Campaña para detener a
los Robots Asesinos surgió en el 2013 y afortunadamente el asunto fue tomado rápidamente
por el Convenio sobre Ciertas Armas Convencionales (CCW) en Ginebra.
He pasado mi vida
trabajando en inteligencia artificial (IA), y existen muchos motivos por los
que temo por el desarrollo de robots asesinos. Estas son cinco razones.
1. Los robots asesinos
están cerca
Puede que estés
pensando en Terminator, un robot que, si le crees a la película, estará
disponible en el 2029. Pero la realidad es que los robots asesinos serán mucho
más simples para empezar y, a lo mucho, a unos años de distancia. Piensa en el
drone Predator y sus misiles acertadamente llamados Hellfire, pero con el
controlador humano reemplazado por un programa de computadora. Esto es
técnicamente posible hoy día.
2. Habrá una carrera
armamentista
Una vez que este genio
salga de su botella, habrá una carrera armamentista para mejorar los robots
inicialmente crudos. Y el punto final de esa carrera armamentista será
precisamente el tipo de tecnología escalofriante que ves en “Terminator”.
Hollywood acertó en esa parte.
La Ley de Moore
predice que los chips de computadora duplican su tamaño cada dos años.
Probablemente veremos un crecimiento exponencial similar en los robots
asesinos. Voto porque llamemos a esto la “Ley Schwarzenegger” para recordarnos
dónde va a parar esto.
3. Los robots asesinos
proliferarán
Los robots asesinos
serán baratos. Y se volverán cada vez más. Tan sólo mira la velocidad con la
que los drones se han hecho accesibles en los últimos años. También serán
fáciles de hacer, al menos crudamente.
Obtén un cuadcóptero,
agrega un Smartphone y una pistola o bomba pequeña. Lo único que necesitas es
que alguien como yo te escriba un software de IA. Y la milicia los va a amar,
al menos al principio, porque no necesitan dormir ni descansar, ni un
entrenamiento largo y costoso, ni ser evacuados del campo cuando sean dañados.
Sin embargo, una vez
que los militares tengan que defenderse de los robots asesinos, tal vez cambien
de opinión.
De acuerdo con
The Intercept, durante una operación militar estadounidense de cinco meses en
el 2011 contra los talibanes y al Qaeda en el Hindú Kush, “casi nueve de cada
diez personas” que murieron en los abatimientos con drones “no eran los blancos
directos de los estadounidenses”.
Y esto es cuando aún
tenemos humanos en el ciclo, tomando la última decisión sobre vida o muerte. El
actual estado del arte de la Inteligencia Artificial no se acerca a la
consciencia situacional, o a la forma de tomar decisiones de un piloto humano
de drones.
Las estadísticas para
un drone completamente autónomo consecuentemente serán mucho peores.
Con el tiempo, se
harán mejores y espero completamente que se igualen si no es que sobrepasen a
los pilotos humanos. Aquí es donde entran en juego diferentes argumentos. Por
ejemplo, los robots asesinos sin duda caerán en malas manos, incluyendo gente
que no tiene ningún recelo de usarlos en contra de civiles. Ellos son un arma
de terror perfecta. Los robots asesinos también eliminarán barreras para la
guerra. Al distanciar aún más a los humanos de los campos de guerra,
convertirán la guerra en un video juego muy real.
4. Los robots asesinos
serán difíciles de regular
Tesla actualiza su
auto Model S para manejar autónomamente en las autopistas con una sencilla
actualización de su software entregada por vía aérea. Tenemos que esperar,
desde luego, que las actualizaciones simples de software podrán en un futuro
cambiar sistemas que no son ni autónomos ni letales en armas letales autónomas.
Esto hará que sea muy complicado controlar a los robots asesinos.
Y querremos las
tecnologías que van en esos robots asesinos. Serán prácticamente las mismas que
estarán dentro de los autos autónomos, que en su gran mayoría ya existen. Cada
año, alrededor de 30,000 personas mueren en las autopistas de los Estados
Unidos y 1.2 millones a nivel mundial. Esta estadística se desplomará una vez
que sean comunes los coches autónomos.
Pero sólo porque algo
sea difícil, no significa que no debamos intentarlo. E incluso una prohibición
que sea parcialmente efectiva, como la de las minas anti-persona, valdrá la
pena.
Mi perspectiva es que
necesitamos regular los robots asesinos para evitar una carrera armamentista –y
la opinión sobre la rapidez con la que debemos actuar es compartida por muchos
otros en el gremio. Una carta abierta pidiendo su prohibición fue publicada en
julio de este año.
Los firmantes incluyen
a muchos investigadores de vanguardia en inteligencia Artificial, los CEOs de Google
Deep Mind, el Research Lab de Facebook al igual que miles de otros de todo el
mundo.
En Noviembre el
Convenio sobre Ciertas Armas Convencionales (CCW) de la ONU se reunirá una vez
más en Ginebra para decidir si continúa con este tema y si toman alguna medida
sobre su prohibición. Por el bien del mundo, espero lo hagan.
