¿Cómo regularemos a los robots? | Monday 7 November 2016

Daría lo que fuese por saber qué se debatió en el primero congreso en el que se habló de Internet y de las Tecnologías de la Información, desde un punto de vista jurídico, en España. De hecho no sé cuándo se produjo ese año 0 en el que se mencionaron por primera vez las palabras Internet, Comercio Electrónico, ISP… en un congreso de Derecho en España. Ahora hay una saturación de eventos y jornadas especializadas, pero en los años 70 y 80 el acceso a la información era ínfimamente menor, por lo que probablemente no esté ni documentado.

Seguro que en dicho primer congreso en el que abogados y académicos hablaron en nuestro país de los retos jurídicos de Internet no salieron conceptos como “UGC – Contenido Generado por Usuario”, “hosting/housing”, “DDoS”, “Cyberlocker”, “Deep Linking” (bueno, este quizá sí), “Cloud Computing” o “Redes Sociales”, por decir algunos. Lo interesante de las Nuevas Tecnologías es que son impredecibles; se desarrollan de una forma y el uso (y conflictos) que generan en muchos casos son imposibles de anticipar.

Estamos en los albores de una nueva revolución tecnológica, no marcada por tecnologías de la información, sino por la Robótica y la Inteligencia Artificial, principalmente. Cada día leemos noticias sobre nuevos desarrollos tecnológicos en estos campos y visiones idílicas o apocalípticas sobre el futuro que nos depararán estas tecnologías.

Estamos, respecto a la Robótica y la IA, como estaban los primeros que debatieron sobre Internet, sabiendo que traerían profundos cambios normativos en nuestro ordenamiento, pero seguro que sin tener la menor idea de los verdaderos desafíos a los que nos tendremos que enfrentar. Hablamos de Robots, Internet de las Cosas, de Coches Autónomos, de Drones, de Tecnologías Disruptivas, pero seguro que dentro de algunos años descubriremos que otros eran los verdaderos retos de estas tecnologías.

Por fortuna, dentro de pocos días podremos disfrutar de ese primer congreso en el que se debatirá en España los retos de las nuevas “Nuevas Tecnologías”. Será el jueves 24 de noviembre, en FIDE, bajo el título “Robotiuris: I Congreso de los aspectos legales de la robótica“, organizado por la fundación y el compañero Alejandro Sánchez del Campo (aka Replicante Legal).

En el Congreso hablaré sobre la regulación de las Tecnologías Disruptivas, de lo que escribiré aquí en los próximos días para ir abriendo boca.

Si hubieses dado lo que fuese por estar en el primer congreso sobre desafíos legales de Internet, seguro que no querrás perderte la primera jornada temática sobre unas tecnologías de las que se hablarán muchísimo en las próximas décadas. Allí nos vemos.

¿Autores Artificiales? (I) | Monday 5 September 2016

Uno de los principios elementales de la Propiedad Intelectual es que únicamente las obras y prestaciones realizadas por seres humanos están protegidas. Así lo dictamina el artículo 5 de la LPI, que afirma categóricamente que se “considera autor a la persona natural que crea alguna obra literaria artística o científica“. Por tanto, solo las “personas naturales” pueden ser autores y, en principio, creadores de obras protegidas por derechos de propiedad intelectual.

Tradicionalmente, cuando damos clase y tenemos que explicar este artículo, decimos que las empresas (personas jurídicas) pueden ser titulares de derechos, pero no “autores”, categoría (con derechos morales) que la LPI guarda exclusivamente para los humanos; y también acudimos a exclusiones simpáticas, como los animales (un elefante o un mono no pueden ser autores, por lo que sus creaciones no están protegidas por derechos de propiedad intelectual –ver el famoso selfie del mono-), o “la naturaleza”, al crear un árbol con unas formas muy singulares o una formación rocosa digna del mejor autor surrealista.

En cambio, en los últimos años vemos cómo están surgiendo determinadas obras donde la intervención humana queda en un segundo plano.

1670799-slide-img-9274

Por caprichos del arte y de las modas, el cuadro que aparece sobre estas líneas podría venderse en una galería de Nueva York por un precio desorbitado. Y curiosamente no ha sido pintado por un ser humano, sino por una máquina construida por el colectivo polaco “panGenerator“, que investiga para que las artes plásticas y visuales, y la tecnología se den la mano.

 

before-after

Automated Insights es una empresa americana que crea textos en lenguaje natural en base a datos o información de la bolsa, deportes, negocios, etc. Su software crea textos y artículos periodísticos de forma autónoma e independiente, y es utilizado entre otros por Associated Press o Yahoo para escribir artículos de prensa. De hecho, medios nacionales como El Mundo utilizan desde hace meses sistemas de narración automática de partidos en directo, trabajo que antes hacía un humano. Los textos son meramente descriptivos y nada creativos, pero dales tiempo.

comuter-generated musical

También hace unos meses se publicó que se iba a estrenar un musical en Londres cuyo argumento y diálogos incorporada música y argumentos generados por ordenador. La noticia tiene truco, ya que en realidad el musical no lo había generado una máquina, sino que los autores se habían asistido de ella para determinar los elementos comunes de cientos de musicales de éxito (big data) y así poder crear una obra que tuviese más garantías de gustar al público. De hecho, teniendo en cuenta el coste del contenido audiovisual y las incertidumbres respecto al retorno de la inversión, muchas empresas del sector están confiando en este tipo de herramientas para tomar decisiones empresariales y artísticas. La clave es saber (no intuir) qué le gusta al público.

Todos estos casos tienen algo en común; con más o menos arte y más o menos originalidad, son contenidos/obras generadas por un ordenador con software basado en Inteligencia Artificial. La consecuencia de ello, como adelantaba al principio, es que el resultado literario o artístico de dicho algoritmo inicialmente no está protegido por derechos de propiedad intelectual, al no ser el fruto de la creación de una persona natural. Este hecho, que cada vez será más habitual, tiene una trascendencia práctica muy importante, ya que si estos contenidos no están protegidos por derechos de propiedad intelectual, cualquiera puede reproducirlos, distribuirlos… explotarlos, sin necesidad de autorización.

¿Creéis que se puede sostener que hay “obra”, pero no “autor”? y ¿de otorgar derechos a alguien, se lo daríais a quien creó el algoritmo, al propietario/licenciatario de la máquina/software, o al usuario del mismo (cuando no coincide con el licenciatario)?.

Análisis aparte creo que requiere el software creador de software (“Automatic programming” y generadores de código), que trataré en el próximo post.

¿Tenemos que empezar a debatir sobre la protección del contenido generado por máquinas?

¿Sueñan las Máquinas con Leyes Electrónicas? | Monday 6 June 2016

El título de esta entrada es un simplón homenaje a la novela de Philip K. Dick “Do Androids Dream of Electric Sheep?”, que igualmente servirá como referencia para la sesión que, desde DENAE, estamos organizando junto con la consultora tecnológica Altran.

Como sabéis, en DENAE apostamos por una figura de abogado híbrido, que se plantea las cuestiones jurídicas de cualquier asunto, pero que también lo analiza desde un punto de vista técnico y de negocio. Al fin y al cabo, estamos hablando de Derechos Intangibles, Datos, Información, Invenciones… con un componente jurídico muy importante. Por eso, el próximo jueves los abogados podremos probar tecnologías que todavía no están completamente en el mercado (como gafas de realidad virtual, simuladores, robots, etc.) y debatir con ingenieros que desafíos nos traerá esta Cuarta Revolución Industrial que estamos comenzando a vivir.

Entre los tres temas que trataremos, desde una perspectiva jurídica, los compañeros Raúl Rubio, Alejandro Sánchez del Campo y yo (realidad virtual, drones y robots), a mí me ha tocado los dilemas y cuestiones jurídicas que nos plantearán en el futuro (y presente) los androides y otro tipo de máquinas, tanto en una primera etapa con una evolución de inteligencia artificial más limitada, como en un futuro más o menos lejano, en donde puedan alcanzar algún nivel de conciencia (artificial) y de singularidad tecnológica.

Los ingenieros no piensan en los abogados a la hora de diseñar sistemas y mecanismos automatizados, al igual que los abogados y legisladores no cuentan con los ingenieros para redactar las leyes o las relaciones entre individuos. Sin embargo, dada la cada vez mayor interacción social entre las máquinas y los humanos, los abogados debemos estar más involucrados en la configuración de procesos dentro de las máquinas (cómo deben reaccionar ante determinados estímulos), al igual que los ingenieros deben ayudarnos a regular dicha interrelación hombre-máquina.

De hecho, desde hace ya casi una década, en Corea del Sur se discute, incluso en ámbitos parlamentarios, cómo debería regularse la relación de los humanos con los robots y viceversa, con un componente ético importante. Hasta dónde debería llegar la autonomía operativa de una máquina; si debemos permitir robots que “emulen” sentimientos y que puedan conectar a nivel emocional con las personas (¿no es entrañable R2-D2 cuando se enfada?); o qué se puede hacer con toda la información/datos que registra un mecanismo autónomo, son respuestas que deben darse en esta normativa.

Estamos dando los primeros pasos en esta materia y seguro que el jueves habrá lugar para muchas elucubraciones y desvaríos entre abogados e ingenieros. El evento, solo para socios de DENAE previa inscripción aquí. Allí nos vemos.

El Internet de las Cosas y la Seguridad de Nuestros Datos | Thursday 26 May 2016

Más de seis meses sin escribir en el blog y os aseguro que tenía una necesidad imperiosa de hacerlo. En realidad llevo ya varios años con el blog muy inactivo, tanto por las obligaciones profesionales (el despacho, las clases en universidades, DENAE, conferencias y participaciones en publicaciones tradicionales) como personales. Pero como digo, últimamente he tenido mucho interés de tratar temas que me rondan la cabeza y espero poder encontrar el tiempo que no he hallado estos meses y así reactivar el blog. Los temas que quiero tratar, manteniendo el Derecho del Entretenimiento como columna vertebral, son los que trata mi amigo el Replicante Legal (robótica, inteligencia artificial, IoT, innovación, etc.), aunque, como digo, espero darle otra óptica.

De hecho, quiero comenzar aprovechando unas notas que tenía preparadas para mi participación de ayer en el I Congreso de Inteligencia Artificial en la Era Digital, y que no pude compartir por problemas logísticos de la organización. El tema de la mesa en la que participaba (junto con el ingeniero Chema Alonso) era el Internet de las Cosas (IoT) y la Seguridad de los Datos que se recaban a través de este tipo de dispositivos.

Desde mi punto de vista, a pesar de los números, el IoT ha sufrido una leve caída de interés en los últimos meses. De hecho, las acciones de Fitbit, el líder el mercado de cuantificadores para deporte, pasó de $51 por acción en julio de 2015, a $11 en febrero de este año, y varios estudios indican que la tasa de abandono de estos productos es relativamente elevada.

Creo que este hecho se debe a que todavía los usuarios, al menos los de determinados dispositivos conectados o susceptibles de extraer información útil, no encontramos valor a los datos aportados por dichos dispositivos, al menos de la forma que se facilita. Tenemos un reloj inteligente que recaba mucha información de nuestras sesiones de entrenamiento, con datos muy bien ordenados y mostrados en una app o web, pero necesitamos de mucho conocimiento para poder sacar conclusiones más o menos elaboradas de los mismos (si debemos de relajar nuestras rutinas por exceso de entrenamiento, qué debemos hacer para correr o nadar más rápido, etc.).

El hardware en algunos casos ya está aquí, pero nos falta software/“inteligencia artificial” que analice dichos datos y nos recomiende (como lo haría un experto) qué acciones tomar para sacar el máximo partido a tal información.

Es indudable que los datos generados en estos sistemas informáticos (de entretenimiento, salud, movilidad, etc.) tienen un gran valor para las empresas cuando son procesados con algoritmos más o menos inteligentes y pueden tomar decisiones (inteligentes) en base a ellos. Un ejemplo es Telefónica o Netflix, que analiza los hábitos de consumo de sus suscriptores para tomar decisiones empresariales, de programación e incluso de generación de contenido. El Big Data al servicio del Entretenimiento.

Imaginaos el siguiente escenario sobre el IoT, dentro de muy poco real:

  • Tenemos una pulsera cuantificadora que nos sigue durante el día y en nuestro ejercicio diario.
  • Los datos son transmitidos a un sistema informático (un smartphone), que analiza los mismos y nos sugiere rutinas de entrenamiento.
  • El mismo sistema nos propone una dieta personalizada según nuestra edad, peso, estatura, ritmo de vida, objetivos, etc.
  • El mismo sistema es capaz de intercomunicarse con diferentes electrodomésticos, muebles de la despensa, frigorífico, etc. , para hacer una lista de la compra personalizada en base a nuestra dieta y a los productos que ya tenemos en nuestra casa.
  • El mismo sistema se conecta a un supermercado online para que nos entreguen la compra en casa, sin tener que preocuparnos por pensar qué debemos comer, qué tenemos en nuestra casa ni cuándo iremos a la compra, porque lo único que tendremos que hacer es validar todas las decisiones tomadas por un sistema informático con inteligencia artificial.

En este cómodo escenario se plantean diferentes cuestiones, más allá de las emocionales:

  • Privacidad de los datos: para llegar a un gran nivel de personalización, el usuario debe dar muchísima información al sistema, incluyendo geolocalización, datos de salud, domicilio, productos existentes en la cocina, tarjeta de crédito… ¿estamos dispuestos a dar toda esta información? Puede que ahora mismo digamos que no, pero creo que es probable que si hace 20 años nos hubiesen preguntado si estaríamos dispuesto “dar” todas nuestras fotografías, cartas, vídeos, vivencias, etc., a una empresa extranjera para que las guarde, igualmente diríamos que no, y hoy no hay más que ver la información que alojan Google o Facebook para comprobar que esa predicción no se hubiese cumplido. Estos cambios llegan de forma más gradual de lo que pensamos y muchas veces recorremos el camino sin darnos cuenta de que hacia donde vamos, quizá, teorizando, no lo hubiésemos aceptado.Incluso más allá ¿debería ser obligatorio registrar los datos generados por un objeto, como un coche autónomo, para determinar la culpabilidad en caso de accidente o para mejorar la congestión del tráfico en las ciudades? O como ya se plantea ¿Se deberían de compartir datos clínicos para que, gracias al Big Data y la Inteligencia Colectiva, se puedan diagnosticar enfermedades de forma más sencilla?
  • Propiedad de los datos: ¿de quién son todos los datos que recopilan los diferentes dispositivos y que se analizan en los sistemas de esta hipotética empresa? ¿son del usuario o de la empresa? Tenemos leyes que regulan el tratamiento de los datos de carácter personal ¿y si no son datos personales o se anonimizan?Del mismo modo ¿qué ocurre si un usuario quiere cambiar de aplicación? En la actualidad, en muchas ocasiones lo que nos une a una aplicación/servicio son los datos que llevamos meses o años incorporando a él, incluso aunque estamos dispuestos a cambiar por haber mejores alternativas. Podemos ser (y somos) “esclavos digitales” de empresas, ante la imposibilidad o la dificultad de migrar todos los datos de un sistema a otro. ¿Sería razonable exigir legalmente a las empresas la fácil extracción y migración de datos con servicios competidores? Con el Derecho de Acceso de la LOPD podemos conseguirlo parcialmente, pero estamos a la merced del formato en el que la empresa nos facilite los datos y si este es compatible con otros servicios.
  • Lugar del Tratamiento de los datos: ¿qué legislación se aplica si el usuario es de un país, los datos están alojados en servidores de un país diferente, y el operador del sistema está a su vez en un país tercero? ¿cómo deben tratarse los datos ante escenarios transnacionales? En esto también hemos avanzado, pero actualmente sigue provocando problemas de competitividad a empresas europeas que tienen que competir en una arena mundial, con reglas del juego más restrictivas.
  • Seguridad de los datos: casi el más importante de todos, ya que un hackeo de los datos, tanto por el lado del consumidor como del lado de la empresa, expondría enormemente al usuario, al poder conocer sus hábitos de consumo y de vida.

 

En indiscutible que la seguridad completa en la informática no existe, y para eso están las leyes, para sancionar a quienes dañan y lesionan derechos e intereses de terceros utilizando para ello posibles fallos informáticos. Si el código informático fuese inquebrantable, no harían falta leyes que intenten persuadir ante incursiones desautorizadas en sistemas ajenos. En tal caso, el código se protegería por sí mismo y no haría falta abogados, jueces ni policías que buscasen sancionar conductas ilícitas.

Pero para construir este futuro escenario de objetos intercomunicados y millones de bits con datos tratados a diario, creo que debemos conjugar 3 elementos que se interrelacionan entre sí:

  • Seguridad Informática, para que los sistemas sean seguros ante ataques e intromisiones ilegítimas.
  • Legislación, para poder disuadir por un lado y condenar por otro cualquier conducta infractora de derechos.
  • Ejecución/Enforcement, para poder actuar de manera efectiva utilizando la legislación en caso de que la seguridad informática. En este punto es donde creo que todavía tenemos que trabajar, para dotar a la policía y a los jueces de medios para actuar contra los infractores.

 

Otra cuestión es si los usuarios encontraremos valor a un mundo de objetos interconectados, que viendo nuestra obsesión tecnológica, creo que llegará antes de que nos demos cuenta.

multistory-speaker