Os possíveis problemas legais da IA ​​(e por que você deve se importar)

Temos grandes sonhos para a inteligência artificial há anos. Desde os Jetsons nos mostrando empregadas robóticas sarcásticas até robôs sonhando com ovelhas elétricas, até as promessas mais realistas de diagnósticos de robôs em hospitais , ouvimos falar de IA realista que é realmente útil para humanos há algum tempo.

À medida que avançamos para uma era em que vemos cada vez mais IA em nossas vidas diárias, precisamos começar a analisar as implicações legais dessas novas tecnologias. A IA será um ativo ou um passivo? Vejamos alguns problemas já em construção.

Espere, o que é IA?

Será que os robôs estão prontos para dominar o mundo? É Siri? São bots militares? É Tom Servo e Crow?

Aposto que você pensou que eu era muito jovem para essa piada, hein? Brincadeiras com você, esse programa está na Netflix!

AI, ou inteligência artificial, é a capacidade de uma máquina ser “inteligente”. Se isso soa super amplo, é porque é. Já temos máquinas que consideramos “inteligentes” por sua capacidade de fazer escolhas e avaliar situações usando programação sofisticada.

O conceito de IA é muitas vezes confundido com aprendizado de máquina , que é quando as máquinas são capazes de construir sua programação original e “aprender”. Na verdade, estou confundindo esses dois termos neste artigo, apenas para facilitar a vida dos meus leitores.

Em minha defesa, pelo menos estou sendo intencional.

Se a IA e o aprendizado de máquina permitem que robôs e programas de computador sejam inteligentes, aprendam, cresçam e mudem, em que ponto os consideramos conscientes o suficiente para espionar, atuar como “testemunha” ou ter direitos próprios?

Alexa intimada

Estávamos todos apostando em quanto tempo levaria para isso acontecer, não estávamos? Um processo judicial em andamento chamou Alexa, o nome padrão dado ao assistente doméstico Amazon Echo, para o estande.

Bem, ok, não literalmente. Mas os dados de um Amazon Echo foram intimados em uma investigação de assassinato . O pensamento é que, se Alexa estiver ouvindo, talvez ela tenha ouvido (e gravado) um assassinato real. A evidência é tão boa quanto uma câmera de segurança e melhor do que uma testemunha humana para provar um crime, se a Amazon desembolsasse a informação.

Sem surpresa, a Amazon não ficou empolgada com o precedente estabelecido pela apreensão das informações gravadas de Alexa. Portanto, eles estão lutando contra o mandado , afirmando que a comunicação com o dispositivo se qualifica como fala protegida, e entregar as gravações abriria um precedente que poderia levar a violações de privacidade para os usuários do Echo.

E Alexa está ouvindo, caso você esteja se perguntando o que eu quis dizer. Alexa é a palavra de comando dada ao Amazon Echo e Echo Dot. Após o comando, o Echo pega o que foi dito e segue o pedido dado. Mas para ouvir a palavra de comando em primeiro lugar, a escuta do microfone deve estar ligada. A Amazon garante aos usuários que apenas as frases de comando são enviadas para o armazenamento em nuvem, mas isso ainda nos permite saber que Alexa está sempre esperando por seu nome.

Em outras palavras, Alexa está sempre ouvindo , mas o nome dela faz com que ela preste atenção . O que é meio assustador quando você pensa sobre isso, especialmente sabendo que essa escuta passiva pode permitir que Alexa ouça um assassinato.

Ele te ouve quando você está dormindo

Então, se o Amazon Echo está sempre, sempre ouvindo, o que isso significa para a privacidade? De acordo com a Amazon, o Echo não salva ou armazena nenhuma informação que não tenha sido retransmitida junto com a palavra de gatilho “Alexa”. Ainda assim, se o Echo estiver ligado, ele tem a capacidade de ouvir, uma capacidade que pode ser ativada posteriormente.

O quanto você confia nessa promessa está diretamente relacionado ao quanto você confia na Amazon. Quando eles dizem que querem proteger a comunicação que o usuário tem com o Alexa, eles querem protegê-la pelo bem do usuário ou por conta própria?

Esta é uma das maiores preocupações que muitas pessoas têm sobre o surgimento da Internet das Coisas . Em essência, a “IoT” é um sistema de objetos físicos que estão conectados uns aos outros, assim como à internet, e podem interagir com os usuários de uma forma que consideramos “inteligente”. Algumas pessoas acham que a interconexão é ótima, enquanto outras a veem como a tecnologia saltando sobre o tubarão e invadindo a privacidade humana.

E algumas pessoas realmente odeiam a IoT (linguagem forte no link). O que é justo, já que a ascensão da IoT aumenta o número de itens em sua casa que estão rastreando, armazenando e salvando seus dados até que as empresas-mãe lucrem ou um hacker entediado decida executar o Doom em sua geladeira .

Mas e Alexa? Ela não tem uma palavra a dizer em tudo isso? A resposta é talvez.

Um Momento Constrangedor de Isaac Asimov

Se você é um mega nerd como eu, provavelmente já conhece as três leis da robótica do escritor de ficção científica Isaac Asimov. Caso contrário (ou se você gostaria de uma atualização sem recorrer ao Google), as regras são as seguintes:

1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrarem em conflito com a Primeira Lei.
3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Lei

Essas “leis” são de um dos contos de Asimov e formam a base de grande parte do conflito em sua obra. Em sua elegância simples, as leis foram realmente usadas e referenciadas por designers de robótica da vida real, o que é muito legal.

É fácil inventar leis para programação de software, o que é realmente tudo o que as leis de Asimov são, mas as coisas rapidamente ficam confusas quando esse software começa a interagir com as pessoas. Então aqui vai uma pergunta: como fazemos os robôs seguirem essas regras se eles ganham livre-arbítrio?

Grande salto? Na verdade, não. Esse conflito específico é o conceito por trás de muitos trabalhos de Asimov, junto com muitos escritos de ficção científica em geral. Mas, na verdade, como o sistema legal abordará a humanidade da IA?

Pelo menos um julgamento simulado já fez a pergunta.

Em 2004, um julgamento simulado foi realizado em São Francisco para determinar o destino da BINA48, uma IA fictícia de propriedade de uma empresa fictícia, que pode ou não ter adquirido consciência com sucesso. No caso, um robô que fazia o trabalho de 1.000 agentes de atendimento ao cliente descobriu por meio de correspondência da empresa que deveria ser desligado. O programa procurou um advogado, pedindo ajuda jurídica para evitar sua “morte”.

Embora o conceito pareça futurista, quem pode dizer que a legislação necessária para esse caso já não está em vigor? Nesse caso, as leis relativas aos direitos dos pacientes de suporte de vida entraram em jogo, um lembrete interessante da variedade de situações que aparentemente as leis de valor nominal podem um dia precisar cobrir.

Algumas publicações chegaram ao ponto de sugerir que casos judiciais centrados em IA podem rapidamente se tornar uma questão de direitos civis .

Tudo dito, isso ainda é um problema para o futuro. No entanto, os direitos e responsabilidades da IA ​​são algo para se pensar antes de se tornarem um problema.

Quais questões legais de IA você prevê?

Você está preocupado com os direitos para Siri e Alexa e programas futuros como eles? Ou você acha que eles são apenas espiões eletrônicos para suas empresas-mãe? Talvez você esteja apenas empolgado com as evidências que eles podem ajudar os futuros advogados a coletar. Seja qual for a resposta, está claro que a inteligência artificial vem com uma série de questões legais inerentes.

Diga-me o que você pensa nos comentários abaixo. Inscreva-se na minha lista de e-mails para obter mais notícias e análises de tecnologia jurídica e confira estes artigos para obter mais conteúdo como este:

• As 15 principais estatísticas de marketing jurídico para 2017 Para saber mais sobre o futuro da tecnologia jurídica

• Aplicativos de aconselhamento jurídico: ferramentas úteis ou zumbis de chatbox? Para ler sobre a IA em ação

• Por que as assinaturas digitais devem ser usadas em todos os departamentos jurídicos Caso você esteja se perguntando de que outra forma a tecnologia pode ajudar sua empresa