Los posibles problemas legales de la IA (y por qué debería importarle)

Hemos tenido grandes sueños para la inteligencia artificial durante años. Desde Los Supersónicos mostrándonos sarcásticas sirvientas robóticas hasta robots que sueñan con ovejas eléctricas, hasta las promesas más realistas de diagnósticos de robots en hospitales , hemos estado escuchando acerca de la IA realista que es realmente útil para los humanos durante algún tiempo.

A medida que avanzamos hacia una era en la que vemos más y más IA en nuestra vida diaria, debemos comenzar a investigar las implicaciones legales de estas nuevas tecnologías. ¿Será la IA un activo o un pasivo? Veamos algunos problemas que ya están en proceso.

Espera, ¿qué es la IA?

¿Están los robots listos para conquistar el mundo? ¿Es Siri? ¿Son bots militares? ¿Es Tom Servo y Cuervo?

Apuesto a que pensaste que era demasiado joven para esta broma, ¿eh? Bromas contigo, ¡este programa está en Netflix!

AI, o inteligencia artificial, es la capacidad de una máquina para ser "inteligente". Si eso suena súper amplio, es porque lo es. Ya tenemos máquinas que consideramos “inteligentes” por su capacidad de tomar decisiones y evaluar situaciones utilizando una programación sofisticada.

El concepto de IA a menudo se combina con el aprendizaje automático , que es cuando las máquinas pueden desarrollar su programación original y "aprender". De hecho, estoy fusionando estos dos términos en este artículo, solo para hacerles la vida más fácil a mis lectores.

En mi defensa, al menos estoy siendo intencional.

Si la IA y el aprendizaje automático permiten que los robots y los programas informáticos sean inteligentes, aprendan, crezcan y cambien a los bichos, ¿en qué momento los consideramos lo suficientemente conscientes como para espiar, actuar como "testigos" o tener derechos propios?

Alexa citada

Todos estábamos haciendo apuestas sobre cuánto tiempo tomaría para que esto sucediera, ¿no es así? Un caso judicial en curso ha llamado a Alexa, el nombre predeterminado que se le da al asistente doméstico de Amazon Echo, al estrado.

Bueno, está bien, no literalmente. Pero los datos de un Amazon Echo fueron citados en una investigación de asesinato . La idea es que, si Alexa está escuchando, tal vez escuchó (y grabó) un asesinato real. La evidencia es tan buena como una cámara de seguridad y mejor que un testigo humano para probar un crimen, si tan solo Amazon diera la información.

Como era de esperar, Amazon no estaba entusiasmado con el precedente que sentó la incautación de la información registrada de Alexa. Por lo tanto, están luchando contra la orden judicial , afirmando que la comunicación con el dispositivo califica como voz protegida, y entregar las grabaciones sentaría un precedente que podría conducir a violaciones de la privacidad de los usuarios de Echo.

Y Alexa está escuchando, en caso de que te preguntes a qué me refiero. Alexa es la palabra de comando dada a Amazon Echo y Echo Dot. Después del comando, Echo toma lo que se ha dicho y sigue la solicitud dada. Pero para escuchar la palabra de comando en primer lugar, el micrófono debe estar encendido. Amazon asegura a los usuarios que solo las frases de comando se envían al almacenamiento en la nube, pero eso aún nos permite saber que Alexa siempre está esperando su nombre.

En otras palabras, Alexa siempre está escuchando , pero su nombre hace que preste atención . Lo cual es un poco espeluznante cuando lo piensas, especialmente sabiendo que esa escucha pasiva podría permitirle a Alexa escuchar un asesinato.

Te escucha cuando estás durmiendo

Entonces, si Amazon Echo está siempre, siempre escuchando, ¿qué significa eso para la privacidad? Según Amazon, el Echo no guarda ni almacena ninguna información que no haya sido transmitida junto con la palabra clave "Alexa". Aún así, si el Echo está encendido, tiene la capacidad de escuchar, una capacidad que podría activarse en una fecha posterior.

Cuánto confía en esta promesa está directamente relacionado con cuánto confía en Amazon. Cuando dicen que quieren proteger la comunicación que el usuario tiene con Alexa, ¿quieren protegerla por el bien del usuario o por el suyo propio?

Esta es una de las mayores preocupaciones que muchas personas tienen sobre el auge de Internet de las cosas . En esencia, el "IoT" es un sistema de objetos físicos que están conectados entre sí, así como a Internet, y pueden interactuar con los usuarios de una manera que consideramos "inteligente". Algunas personas piensan que la interconexión es excelente, mientras que otras la ven como una tecnología que salta al tiburón e invade la privacidad humana.

Y algunas personas realmente odian el IoT (lenguaje fuerte en el enlace). Lo cual es justo, dado que el auge de IoT aumenta la cantidad de elementos en su hogar que rastrean, almacenan y guardan sus datos hasta que sus empresas matrices se benefician o un hacker aburrido decide ejecutar Doom en su refrigerador .

Pero, ¿qué pasa con Alexa? ¿No tiene ella algo que decir en todo esto? La respuesta es quizás.

Un momento incómodo de Isaac Asimov

Si eres un meganerd como yo, probablemente ya estés familiarizado con las tres leyes de la robótica del escritor de ciencia ficción Isaac Asimov. Si no es así (o si desea un repaso sin rebajarse a Google), las reglas son las siguientes:

1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le dan los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley.

Estas “leyes” son de uno de los cuentos de Asimov y forman la base de gran parte del conflicto en su obra. En su simple elegancia, las leyes en realidad han sido utilizadas y referenciadas por diseñadores de robótica de la vida real, lo cual es bastante genial.

Es fácil inventar leyes para la programación de software, que en realidad son todas las leyes de Asimov, pero las cosas se complican rápidamente cuando el software comienza a interactuar con las personas. Así que aquí hay una pregunta: ¿cómo hacemos que los robots sigan estas reglas si obtienen libre albedrío?

¿Salto Grande? Realmente no. Este conflicto específico es el concepto detrás de gran parte del trabajo de Asimov, junto con muchos escritos de ciencia ficción en general. Pero en realidad, ¿cómo abordará el sistema legal la humanidad de la IA?

Al menos un juicio simulado ya ha hecho la pregunta.

En 2004, se llevó a cabo un juicio simulado en San Francisco para determinar el destino de BINA48, una IA ficticia propiedad de una empresa ficticia, que puede o no haber recuperado la conciencia con éxito. En el caso, un robot que hizo el trabajo de 1,000 agentes de servicio al cliente descubrió a través de la correspondencia de la empresa que iba a cerrarse. El programa contactó a un abogado, pidiendo ayuda legal para prevenir su “muerte”.

Si bien el concepto se siente futurista, ¿quién puede decir que la legislación necesaria para tal caso aún no existe? En este caso, entraron en juego las leyes relativas a los derechos de los pacientes de soporte vital, un recordatorio interesante sobre la variedad de situaciones que las leyes aparentemente nominales podrían necesitar cubrir algún día.

Algunas publicaciones han ido tan lejos como para sugerir que los casos judiciales centrados en la IA pueden convertirse rápidamente en un problema de derechos civiles .

Dicho todo esto, esto sigue siendo un problema para el futuro. Sin embargo, los derechos y responsabilidades de la IA son algo en lo que pensar antes de que se conviertan en un problema.

¿Qué problemas legales de IA prevé?

¿Te preocupan los derechos de Siri y Alexa y futuros programas como estos? ¿O crees que son solo espías electrónicos para sus empresas matrices? Tal vez solo esté emocionado por la evidencia que pueden ayudar a recopilar futuros abogados. Cualquiera que sea la respuesta, está claro que la inteligencia artificial viene con una serie de problemas legales inherentes.

Dime lo que piensas en los comentarios a continuación. Suscríbase a mi lista de correo para obtener más noticias y reseñas sobre tecnología legal, y consulte estos artículos para obtener más contenido como este:

• Las 15 principales estadísticas de marketing legal para 2017 Para obtener más información sobre el futuro de la tecnología legal

• Apps de Aviso Legal: ¿Herramientas Útiles o Chatbox Zombies? Para leer sobre la IA en acción

• Por qué las firmas digitales deben usarse en todos los departamentos legales En caso de que se pregunte de qué otra manera la tecnología puede ayudar a su empresa