Seleccionar página
Los Robots como Personas Electrónicas

Los Robots como Personas Electrónicas

El Parlamento Europeo dentro de sus competencias ha emitido un informe sobre Inteligencia Artificial y Robótica donde aborda cuestiónes de orden jurídico, económico, social y ético sin evitar la temática de la Inteligencia Artificial o la Robótica como tecnología disruptiva. El Informe se pregunta, reflexiona en voz alta sobre que retos y oportunidades nos depara la Inteligencia Artificial y Robótica. Por otro lado reflexiona sobre los riesgos de la Inteligencia Artificial y Robótica. Por primera vez se habla claro y de forma directa sobre un tema tan apasionante como preocupante,

¿Qué diferencia existe entre la Inteligencia Artificial y la Robótica respecto del Cerebro y el Cuerpo humano?

La Inteligencia Artificial (IA) es el software alojado en servidores que procesa todos los datos que le suministran, mientras que el Robot sería el cuerpo que permite desplazar a esa Inteligencia Artificial, sin embargo la Inteligencia Artificial es independiente de la Robótica ya que no necesita un cuepo para sobrevivir, es inmortal. La Robótica necesita de la Inteligencia Artificial para desplazarse de forma autónoma, si ella no podría desplazarse.

El Cerebro sería el equivalente a la Inteligencia Artificial siempre que habitara en un cuerpo vivo, ya que no es independiente, no funciona sin un cuerpo y viceversa ya que el cuerpo sin cerebro tampoco funcionaría, probad a separar la cabeza del cuerpo y si véis que el cuerpo sigue andando corred al médico porque algo extraño ocurre.

El ser humano es mortal mientras que la Inteligencia Artificial es inmortal, mientras que los servidores/ordenadores que procesen los datos no desaparezcan o sufran una interrupción, hackeo o borrado de datos – que sería el equivalente a un infarto electrónico – la IA será inmortal.

Son diez párrafos demoledores, claros y directos abordando la problemática de la IA y Robótica para lo que plantean una serie de reflexiones y medidas:

INFORME PARLAMENTO EUROPEO - REFLEXIONES
  1. Considerando que, desde el monstruo de Frankenstein creado por Mary Shelley al mito clásico de Pigmalión, pasando por el Golem de Praga o el robot de Karel Čapek —que fue quien acuñó el término—, los seres humanos han fantaseado siempre con la posibilidad de construir máquinas inteligentes, sobre todo androides con características humanas;

  2. Considerando que, ahora que la humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial —que va a afectar probablemente a todos los estratos de la sociedad—, resulta de vital importancia que el legislador tenga en cuenta todas las consecuencias que ello entraña;
  3. Considerando que, entre 2010 y 2014, las ventas de robots aumentaron un 17 % de media cada año, que en 2014 las ventas registraron el mayor incremento anual observado hasta ahora —a saber, un 29 %—, y que los principales motores de este crecimiento son los proveedores de componentes de automoción y la industria electrónica y eléctrica; que, a lo largo del último decenio, se han triplicado las solicitudes anuales de patentes en el sector de la tecnología robótica;
  4. Considerando que, a corto y medio plazo, se espera que la robótica y la inteligencia artificial traigan consigo eficiencia y ahorro, no solo en la producción y el comercio, sino también en ámbitos como el transporte, la asistencia sanitaria, la educación y la agricultura, y que, gracias a ellas, se podrá evitar que los seres humanos se expongan a condiciones peligrosas, como, por ejemplo, las que entraña la limpieza de lugares contaminados con sustancias tóxicas; que, a largo plazo, el potencial para generar prosperidad es prácticamente ilimitado;
  5. Considerando que, al mismo tiempo, el desarrollo de la robótica y la inteligencia artificial puede conllevar que los robots asuman gran parte del trabajo que ahora realizan los seres humanos, cuestión esta que genera interrogantes sobre el futuro del empleo y la viabilidad de los sistemas de seguridad social en caso de que se mantenga la actual base fiscal, y que podría acarrear una mayor desigualdad en la distribución de la riqueza y el poder;
  1. Considerando que, entre las cuestiones que suscitan preocupación, se halla también la de la seguridad física, en caso, por ejemplo, de que la programación de un robot falle, así como la de las posibles consecuencias de un fallo del sistema o de ataques informáticos contra robots interconectados y sistemas robóticos en un momento en el que empiezan a usarse, o están a punto de usarse, aplicaciones cada vez más autónomas, ya sea en relación con automóviles y drones, robots asistenciales o robots utilizados a fines policiales y de mantenimiento del orden público;
  2. Considerando que muchas cuestiones básicas de la protección de datos ya son objeto de examen en el marco general de internet y del comercio electrónico, pero que quizá sea necesario abordar otros aspectos relativos a la propiedad de los datos y la protección de los datos personales y la privacidad, habida cuenta de que las aplicaciones y los dispositivos comunicarán entre sí y con las bases de datos sin intervención humana alguna, o incluso sin que nadie tenga conocimiento de ello;
  3. Considerando que, aunque quizá resulte difícil valorar las «consecuencias invisibles» que esto tendrá para la dignidad humana, será necesario examinarlas en caso de que los robots sustituyan a los humanos a la hora de prestar cuidados y hacer compañía; que las cuestiones de la dignidad humana también pueden plantearse en el contexto de la rehabilitación y de las intervenciones en el cuerpo humano;
  4. Considerando que, en última instancia, existe la posibilidad de que, dentro de unos decenios, la inteligencia artificial supere la capacidad intelectual humana de un modo tal que, de no estar preparados para ello, podría suponer un desafío a la capacidad de la humanidad de controlar su propia creación y, por ende, quizás también a la capacidad de ser dueña de su propio destino y garantizar la supervivencia de la especie;
  5. Considerando que en varios países extranjeros, como los EE.UU., Japón, China y Corea del Sur, se están planteando adoptar medidas reguladoras en el ámbito de la robótica y la inteligencia artificial, y que en algunos casos ya han empezado a hacerlo; que algunos Estados miembros han empezado también a reflexionar sobre posibles cambios legislativos a fin de tener en cuenta las nuevas aplicaciones de dichas tecnologías;

El Informe del Parlamento Europeo adelanta estas cuestiones:

  • La Inteligencia Artificial como Persona Electrónica con Derechos y Obligaciones
  • Las Leyes de Asimov van dirigidas a las Personas no a los Robots
Leyes de Asimov

1.- Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2.- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3.- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.

  • La Normativa actual es Ineficáz frenta al Robot autónomo
  • Crear un Registro de Robots Avanzados
  • Necesidad de un Marco Ético en el desarrollo de IA
  • Crear la Agencia Europea de la IA/Robótica
  • Renta Básica Universal
  • Robots identificables – No similitud con personas
  • Acceso a Código Fuente ¿Responsabilidad Penal?
  • Responsabilidad Objetiva de la IA/Robótica autónoma
  • Seguro Obligatorio y Fondo de Compensación
  • Control de Reducción Costes Humanos/Repercusión en la Seguridad Social/Beneficios Empresariales
  • Dignidad de la Persona, Propiedad Intelectual, Privacidad, Datos y Derechos Fundamentales

El Informe aborda muchas cuestiones, tantas que hace tambalear las normas jurídicas de muchos países como puse de manifiesto en estos post o en FOROLEY.

La Ley de Propiedad Intelectual frente a la IA

 

Intelligence Voice Interfaces – Ciberderecho

 

La Privacidad en IA o IoT – Nuevo Paradigma

 

La Nanotecnología – Tecnología disruptiva

 

 

 

Los Ciberdelitos

Los Ciberdelitos

Introducción:

La Tecnología ha permitido conectar a millones de usuarios, la inmersión de los smartsphones con conexión a Internet en España ha crecido exponencialmente siendo España líder europeo en la penetración de smartphones, 23 millones de usuarios utilizan aplicaciones móviles – WhatsApp, Telegram, SnapChat, Signal, SessMe, Allo – y 26 millones de españoles acceden regularmente a Internet. La tecnología permite conectar millones de personas a distancia y eso ha permitido que delitos tradicionales se adapten también a la era digital.

La tecnología por un lado es una facilitador de tareas pero por otro lado puede poner en peligro un mundo conectado, hemos pasado de realizar simples búsquedas en Google, Yahoo, Bing, DuckDuckGo … a volcar datos en la nube a través de las aplicaciones que nos suministran, como agendas, calendarios, archivos – texto, fotos, videos – . Millones de personas publican datos íntimos en las redes sociales (RRSS). Facebook, Instagram, SnapChat basan su modelo de negocio en un Gran Hermano digital donde las cámaras son los servidores alojados en terceros paises donde se analiza toda la información, los algoritmos son capaces de analizar en tiempo real texto, imágenes, video, ya no es útil taparse la cara en una fotografía porque los algoritmos pueden saber quien eres, el reconocimiento biométrico (voz, cuerpo, venas, ojos, etc) abre las puertas a nuevos modelos de negocio, un dron con una cámara sabrá a gran distancia a quien entregar el paquete por la forma de tu silueta, un coche podrá reconocerte sin smartphone.

El mundo digital no tiene barreras, UBER, BLABLACAR, GOOGLE, FACEBOOK, LINKEDIN, TWITTER, INSTAGRAM, WHATSAPP, ALLO … y una larga lista de plataformas/aplicaciones son buena muestra de ello, con precisión muy pocos saben donde se ubican sus servidores, dónde está ubicado su headquarter, generalmente por estrategía de negocio están deslocalizados y esto plantea unos retos enormes ¿a quién correspondería la jurisdicción de un delito, quién conoce del asunto penal? un hacker puede conectarse desde Rusia a un servidor de China, y realizar un ataque a EE.UU sustrayendo datos bancarios haciendo una transferencia a una cuenta en España ¿qué ordenamiento jurídico le aplicamos?. La prueba plantea retos enormes en la ciberseguridad, ya que el hacker tan solo necesita un PC con conexión a Internet donde averigurar su huella digital es el caballo de batalla para todos los ordenamientos jurídicos, esto determinará desde que País se realizó el ataque pero no podrá acreditar en muchos casos quién estaba detrás de ese PC.

La ciberseguridad con el auge de la Tecnología, los Drones, La Realidad Virtual y Aumentada, Internet of Things, Servicios Cloud van a suponer un verdadero quebradero para muchos ordenamientos jurídicos que bien por limitación de medios o conocimientos no van a poder dar respuesta a este tipo de delitos.

 


Normativa Aplicable con caracter general

  • Código Penal
  • Ley de Enjuiciamiento Criminal
  • Ley Orgánica de Responsabilidad Penal del Menor

La reforma de 1 de Julio del Código Penal de 1995 ha introducido el elemento tecnológico adaptando y creando nuevos tipos penales que afectan tanto a personas físicas como personas jurídicas, también se ha modificado la Ley de Enjuiciamiento Criminal para dar respuesta a este avance de la tecnología.


Ciberdelitos

  • Delitos relativos a la manipulación genética (Hulking) – Art 159

  • Amenazas – Art 169

  • Acoso ilegítimo (Stalking) – Art 172 ter 

  • Abusos y Agresiones sexuales a menores de 16 años  (Grooming, Sexting) – Art 183 ter

  • Del Descubrimiento y Revelación de Secretos (Hacking, Cracking) – Art 197 

  • Calumnias e Injurias – Art 205 y ss

  • De las Estafas (Phising, Pharming, Robo de Wifi) – Art 248

  • Daños o (Craking) – Art 264

  • Delitos relativos a la Propiedad Intelectual – Art 270

  • Quebrantamiento de Condena – Art 468.3

  • Organizaciones y Grupos Criminales – Art 570 bis apartado 2 c

  • Delito de Terrorismo – Art 578.2 

La Reforma del Código Penal de 1 de julio de 2015 rompió el viejo aforismo de “Societas Delinquere Non Potest” por lo que también la empresa o entes con personalidad jurídica pueden cometer la gran mayoría de delitos tecnológicos (Art 31 Bis Código Penal).


CCR Abogados a través de su CEO Carlos Caravaca Romero fue entrevistado por el periodista Juán Maiquez en la 7 TV Región de Murcia para analizar el auge de los Ciberdelitos y su dificultad probatoria.

 


La reforma de la Ley de Enjuiciamiento Criminal ha sido profunda para dar mayor apoyo a la averiguación de los delitos, sin embargo ha sido muy criticada por ser restrictiva de derechos fundamentales:

5 novedades:

1. Límites a la investigación judicial en fase de instrucción – Art 324 LeCrim.

  • 6 meses causas simples
  • 18 meses causas complejas

2. Cambio de denominación de imputado a investigado o encausado – Art 118.4 LeCrim.

3. Protección del honor e intimidad personal de los investigados o encausados en las detenciones – Art 520 LeCrim.

4. Escuchas e intervención de emails y Whatsapp, Telegram, Allo, Signal, SessMe, SnapChat – Art 578 ter a) 

5. Policía Judicial con Identidad Falsa – 282 bis LeCrim.

 

WhatsApp tras un mes sin usarlo

WhatsApp tras un mes sin usarlo

La aplicación de mensajería instantánea WhatsApp era un habitual en mi día a día, hasta que decidí sustituirla por SIGNAL que a priorí garantiza unos niveles de seguridad inigualables por esta u otras aplicaciones de mensajería – Allo, Telegram, Sessme, SnapChat, etc –

PRIVATE MESSAGING

For iPhone and Android

  • Say Anything – Send high-quality group, text, picture, and video messages, all without SMS and MMS fees.
  • Be Yourself – Use your existing phone number and address book. There are no separate logins, usernames, passwords, or PINs to manage or lose.
  • Stay Private – We cannot read your messages, and no one else can either. Everything is always end-to-end encrypted and painstakingly engineered in order to keep your communication safe.
  • Get Organized – Archive functionality makes it easy to keep track of the conversations that matter to you right now.
  • Pay Nothing – The development team is supported by community donations and grants. There are no advertisements, and it doesn’t cost anything to use.

PRIVATE CALLING

For iPhone and Android

  • Speak Freely – Make crystal-clear phone calls to people who live across town, or across the ocean, with no long-distance charges.
  • Stay Private – We cannot hear your conversations, and no one else can either. No exceptions.
  • Pay Nothing – The development team is supported by community donations and grants. There are no advertisements, and it doesn’t cost anything to use.

La principal diferencia es que Signal es de código abierto para que los desarrolladores y criptógrafos comprueben que su código no tiene puertas traseras a diferencia de WhatsApp que no garantiza que los servidores puedan utilizar las llaves de descifrado por lo que único que garantiza WhastApp es que los terceros o peritos no podrán acceder a la conversación privada sin la autorización de WhatsApp.

¿Os tardan en llegar los mensajes de WhatsApp más de lo habitual? en mis pruebas tengo latencia, un pequeño retardo que puede significar que los servidores descifren, lean la informaicón y la lleven al dispositivo de destino lo que vendría a ser algo más complejo que demostrar que tiene una puerta trasera, ya que se juega con milésimas de segundo imperceptibles para el humano pero suficientes para que los servidores de Facebook accedan a la información con las claves de descifrado.

Para que se entienda correctamente, si yo envio un email con un archivo cifrado a un compañero que hace uso de GMAIL y le facilito la clave para desencriptar el archivo ¿quién puede leer el archivo? tanto mi compañero como GMAIL si lo abre en línea u online salvo que lo descargue y desencripte en el PC pero como lo haga en línea Google leerá todo el contenido, con WhatsApp ocurre exactamente eso, que las conversaciones pasan por sus servidores pero son ellos quienes disponen de las llaves de cifrado/descifrado y pueden seguir leyendo las conversaciones por lo que la privacidad de los datos no está garantizada.

Esto pone en jaque muchos procedimientos judiciales, donde tras la STS determinaba que había dos vías de garantizar la autenticidad de la conversación, por un lado la práctica forense de una prueba pericial o que la misma en su ausencia se viera corroborada por una prueba testifical ¿estáis de acuerdo con el Tribunal Supremo en ambos casos?. Los peritos ya no pueden acceder a las conversaciones de WhatsApp por su cifrado y necesita la autoridad judicial requerir a WhatsApp para que aporte la conversación que ha sido impugnada en sede judicial ¿qué ocurre si WhatsApp no la aporta? recordad que el 6 de Junio en el ámbito penal entra en vigor la reforma de la LeCriminal y su limitación de plazos a las instrucción en las causas simples – 6 meses -.

Hackeando WhatsApp después del cifrado – NOTICIA

Ahora poneos en el caso de que usuras Signal, donde la conversación no solo es cifrada sino que SIGNAL no tiene acceso a los datos – o eso garantizan – ni con requerimiento de la autoridad judicial conseguirían los datos o la conversación salvo descuido del usuario y que el Juez acuerde retener el smartphone y SIGNAL no vaya protegido por contraseña ¿sería válida la conversación?.

Todas las APPs de mensajería plantean retos jurídicos de Privacidad y Prueba, sin embargo esta semana hemos confirmado un secreto a voces a través de una Sentencia del Tribunal Supremo.

Sitel, una ‘bestia’ informática capaz de «casi todo» graba una conversación ambiente activando el teléfono de la persona aunque no descuelgue la llamada. 

Lejos quedan ya las horas de guardia de un funcionario enganchado a unos cascos a la espera de que el sospechoso reciba o realice una llamada para darle al botón de la grabadora. Lo único que sigue igual es que un juez debe dar luz verde al pinchazo. A partir de esa autorización, basta una llamada de Interior a la empresa operadora del teléfono bajo sospecha para que la compañía empiece a desviar a uno de los tres servidores centrales, de la Guardia Civil, Policía y Centro Nacional de Inteligencia, un flujo de información «impensable hace sólo unos años».

Todas las condiones de uso o términos de uso te solicitan acceso al micrófono de tu smartphone ¿podríamos tener a un ejercito utilizando SITEL sin tu consentimiento?, podrían las APPs de mensajería estar grabando a sus usuarios a través del micrófono sin su autorización o consentimiento con tan solo reflejar en las condiciones de uso que autorizas el acceso al micrófono de tu smartphone.

A todo lo anterior hay que añadir Internet Of Things y la Inteligencia Artificial (IA), que necesitan tener activado el micrófono 24 horas para darte el servicio que contrates, si conectas una TV de Samsung a Internet puedes encender o apagar la TV por voz eso implica que te está escuchando y reconoce tu voz las 24 horas del día y todo lo que capte a su alrededor es enviado y analizado en sus servidores con la Inteligencia Artificial ocurre lo mismo, ya interactues con un Robot, o SmartPhone como el nuevo sistema de mensajería de Google Allo que aplica IA a las conversaciones, y la misma vara de medir para Siri, Cortana, Sherpa, etc … por lo tanto Allo (nueva app de mensajería de Google) nuncá respetará la privacidad de los usuarios, al igual que cualquier aplicación que incorpore un sistema de Inteligencia Artificial como el altavoz de Amazón Echo o según comentan el futuro de apple.

La Privacidad y los datos de los usuarios ¿se puede controlar con la normativa aprobada por el Parlamento Europeo?. Este año saltaba la noticia de Safe Harbour con las consecuencias de que los paises extraeuropeos no garantizaban niveles de protección similares a la normativa europea o nacional, caso Facebook, caso Google, caso Ashley Madison y esta semana saltaba la noticia del gran cable de fibra que Facebook, Microsoft y su socio Telefónica estan construyendo para conectar España con EE.UU y potenciar los servicios cloud, robótica, inteligencia artificial, etc ¿se cumplirá la normativa europea o española?, ¿el flujo de datos será bidireccional?. Está claro que la voz ocupa más ancho de banda que el texto y que la construcción de este mega cable nos informa de que los servicios irán por esta vía, es además lo que necesita la IA para consolidarse en los próximos años en detrimento de la Privacidad, ¿se debería establecer un baremo indemnizatorio y la obligación de contratar póliza de seguro en el país que presten los servicios?.

Es aconsejable mantener las reuniones con los clientes con los smartphones apagados ¿estáis de acuerdo?, lo primero que aconsejo al cliente cuando me reuno es que por favor apague su dispositivo móvil.


Los Chats eliminados de WhatsApp se pueden recuperar ya que no son eliminados – link