Diseño

Destruir a un robot antes de que nos mate

La UE se plantea nuevas leyes, como un «botón de emergencia» que permita detenerlos en caso de riesgo. Contempla incluso otorgarles una «personalidad electrónica limitada»

«Westworld»
«Westworld»larazon

La UE se plantea nuevas leyes, como un «botón de emergencia» que permita detenerlos en caso de riesgo. Contempla incluso otorgarles una «personalidad electrónica limitada»

Primera ley: ningún robot causará daño a un ser humano o, por inacción, permitirá que un ser humano resulte dañado. Segunda ley: todo robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la primera ley. Tercera ley: todo robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley. Con esta triada de premisas establecía Isaac Asimov las bases de una sociedad ficticia en la que seres humanos y robots conviven, premisas que, 75 años después, parecen inspirar los miedos y soluciones de la Comunidad Europea.

Y es que las leyes siempre suelen ir por detrás de la realidad pero, esta vez, el Parlamento Europeo ha querido adelantarse a los desafíos que pueden presentarse en un futuro –más cercano de lo que parece– al pedir un marco regulatorio claro para la denominada inteligencia artificial. Los parlamentarios han recordado que las pesadillas evolucionan con los tiempos y que las suyas ha pasado a poblarlas Terminator.

Así, aunque puedan parecer interrogantes propios de una fábula de ciencia ficción, el Europarlamento empieza a preguntarse por la posibilidad de crear un estatus jurídico para las «personas electrónicas» o la puesta en marcha de un «botón de emergencia» que permita detener a un robot en caso de riesgo, por ejemplo, un vehículo no tripulado que pueda ocasionar un accidente.

El debate político tan sólo ha comenzado a dar sus primeros pasos. El pasado jueves, la Comisión de Asuntos Jurídicos de la Eurocámara aprobó un informe en el que pide a la Comisión Europea (órgano que monopoliza la iniciativa legislativa dentro del equilibro de poderes del proceso legislativo europeo) que proponga nuevas leyes ante el temor de que las actuales estén obsoletas o pasen a estarlo en poco tiempo. Este informe será votado en la sesión plenaria del mes de febrero, aunque todavía se desconoce si el ejecutivo comunitario recogerá el guante. Los portavoces de la Comisión Europea recuerdan que ya existe un marco regulatorio sobre responsabilidad civil.

El Parlamento Europeo puso en marcha un grupo de trabajo para estudiar las repercusiones en la vida diaria de los europeos de la denominada «inteligencia artificial» en enero de 2015. Su ponente, la eurodiputada socialista Mady Delvaux, en una entrevista realizada por el propio servicio de prensa de la Eurocámara, reconocía la dificultad que existe para definir esta tecnología. «Sabemos dónde empezamos pero no dónde terminaremos», aseguraba la eurodiputada luxemburguesa a la vez que admitía su preocupación por nuevos fenómenos como los androides, localizados en su mayoría en Japón. A los problemas de naturaleza ética también se suman los puramente comerciales. «Estados Unidos, China y Corea tienen proyectos muy ambiciosos. Si no creamos el marco legal para el desarrollo de la robótica, nuestro mercado será invadido por robots de otras partes», explicaba.

Este grupo de trabajo también ha estudiado los posibles accidentes en la interacción con humanos y el acceso equitativo para todos los ciudadanos de las nuevas tecnologías de esta denominada «nueva revolución». En el primer aspecto, el informe aprobado por aplastante mayoría –17 votos a favor, 2 en contra y 2 abstenciones– urge a que, en el caso de los vehículos no tripulados, se provea de seguros obligatorios y fondos de compensación a las víctimas. Frente a la dificultad de calibrar los retos que se avecinan ante las nuevas tecnologías, el texto también pide la creación de una agencia europea que facilite a las autoridades nacionales el asesoramiento por parte de expertos y un código de conducta voluntario que analice desde todos los puntos de vista el impacto para la salud humana o el medio ambiente del desarrollo de esta tecnología. Las repercusiones sobre el modelo productivo y sus consecuencias en el tejido social también preocupan a los eurodiputados, que reconocen una posible alza del desempleo ante el auge de la inteligencia artificial, aunque también nuevas oportunidades en los mercados de trabajo.

Antes de aprobar este dictamen, el Parlamento Europeo ha tenido acceso a un informe realizado por su unidad de investigación. El texto plantea muchas preguntas y algunas respuestas. «La experiencia pasada nos ha enseñado que los efectos de la introducción de nuevas tecnologías no se pueden prever completamente», reconoce el estudio. Dentro del terreno de lo inexplorado, el informe destaca la posibilidad de que las tareas rutinarias sean en un futuro encargadas a los robots mientras que las que requieran mayor creatividad y capacidad de tomar decisiones sigan en manos de trabajadores cualificados y la necesidad de establecer qué parámetros deben seguirse para delegar unas u otras tareas a la inteligencia artificial.

La pérdida de privacidad también puede ser una consecuencia no deseada de estas tecnologías. El informe recuerda que las viviendas inteligentes en las que se puede optimizar energía se sirven de la facultad de disponer de mucha información sobre los hábitos de sus habitantes, lo que puede conllevar el uso interesado de estos datos para otros propósitos. Lo mismo puede suceder en el caso de la robótica aplicada a información especialmente sensible, como el historial médico de un paciente.

Sin embargo, estos últimos interrogantes resultan relativamente sencillos de responder en comparación con otros mucho más inquietantes. La posibilidad de que en las interacciones entre humanos y robots estos últimos acaben adquiriendo algún tipo de «sentido moral», o incluso puedan mantener algún tipo de relación afectiva con un humano también preocupa a los expertos. El informe termina con algunas reflexiones filosóficas difíciles de encontrar en el gris lenguaje de los textos comunitarios. Ante la posible evolución de los robots en sus relaciones con los seres humanos, los expertos concluyen que «la cuestión de qué hace a un ser humano realmente humano resulta inevitable».

«Westworld» y el conflicto de intereses

Michael Crichton llenó las salas de cine en 1973 con «Westworld» y es a él a quien debemos la reciente serie de HBO que lleva hoy el mismo nombre. Esta trama de ciencia ficción, que se estrenó el pasado 2 de octubre, recrea un parque temático futurista poblado de robots de apariencia humana. Los visitantes acuden a él con el fin de vivir sus fantasías sin importar lo peligrosas que puedan resultar, pues confían en la sumisión de los androides, hasta que las intenciones de los programadores chocan con la inteligencia adquirida por los robots.

La palabra «robot»

El término «robot» proviene de la palabra checa «robota», que quiere decir «trabajo forzoso», en referencia a la esclavitud. La primera vez que se empleó en el sentido que hoy conocemos fue en 1920, por el escritor Karel Capek en su obra «Robots Universales Rossum», aunque reconoció que el mérito de la aportación lingüística correspondía a su hermano Josef, al que había pedido consejo.