Precisamos de proteção legal contra os riscos da IA

O primeiro corretor de valores mobiliários garantidos por hipotecas que conheci no verão de 2007, vestindo uma camiseta amarrotada e uma expressão chocada no rosto, disse: “Estou desistindo”. Eu havia trabalhado recentemente em uma clínica habitacional, então sabia que algo estranho estava acontecendo com hipotecas duvidosas, mas ele foi inflexível ao afirmar que eu não tinha ideia da escala da bagunça que eu havia feito.

Certamente as regulamentações bancárias podem evitar o pior, perguntei. ele riu.

Sabemos o que aconteceu a seguir. Os mercados financeiros entraram em colapso, devastando vidas individuais e a economia global. Sabemos que aqueles que estão no poder têm todos os incentivos para obter lucros enormes, sabendo que mesmo que as suas acções imprudentes não tenham consequências, outros pagarão o preço se as coisas correrem mal.

Agora, estamos vergonhosamente prestes a repetir o mesmo erro com a inteligência artificial. Ao prepararmo-nos para 2008, permitimos que sistemas poderosos moldassem a nossa vida quotidiana, com pouca compreensão de como funcionam e pouca influência sobre a forma como são utilizados.

A IA pode agora decidir se contrairá uma hipoteca, quanto tempo passará na prisão ou se será expulso de habitações públicas por pequenas violações do código. Estes sistemas analisam as transações que fazemos online, influenciam os produtos que compramos e medeiam as informações que consumimos.

Mas isto é apenas o começo. Os chatbots de IA não eram amplamente utilizados há 18 meses. Os pesquisadores agora podem criar vídeos longos a partir de prompts. Já existem agentes de IA que funcionam sem supervisão humana constante (por exemplo, em feeds de redes sociais), mas a próxima fronteira, a proliferação em massa, está ao virar da esquina.

Na minha empresa, somos apaixonados pelas capacidades da IA ​​dos agentes e por como ela pode ser mal utilizada para exacerbar os danos que já vemos em sistemas de IA menos poderosos. Também entendo isso em primeira mão.

Uma sociedade justa está preparada para isso. Não permite que aqueles que estão no poder assumam riscos às nossas custas ou explorem lacunas na lei, como fizeram os bancos e os credores quando lucraram enquanto minavam os mercados financeiros.

Mas ficamos vergonhosamente para trás em termos de responsabilização significativa. A Tesla de Elon Musk pode vender carros com um recurso chamado “condução totalmente autônoma”, evitando responsabilidade se o recurso causar um acidente. Imagine se uma companhia aérea ou fabricante de aeronaves pudesse negar a responsabilidade por um acidente de avião. Esta falha levanta questões sobre a razão pela qual os tribunais ainda podem utilizar a IA para determinar penas de prisão, apesar de se ter provado que tais sistemas não são fiáveis, e por que razão a aplicação da lei está sujeita à supervisão do Congresso. No entanto, também explica como a IA é utilizada para prever a criminalidade. falso preconceito racial.

A maioria das leis propostas sobre IA ignoram a supervisão e a responsabilização e, em vez disso, procuram tornar os próprios sistemas de IA seguros. Mas isso não faz sentido. A IA não pode ser inerentemente segura, assim como uma furadeira, um carro ou um computador não podem ser inerentemente seguros. Devemos usar leis e regulamentos para abordar os danos a curto prazo e minimizar os riscos a longo prazo.

Isto exigirá uma melhor utilização das instituições existentes para regular a IA. Acredito que há três prioridades principais.

Primeiro, existe uma proibição de comportamento prejudicial. Tal como a polícia não pode entrar numa casa sem mandado, os governos e as agências não devem vigiar os cidadãos sem uma razão clara e justificável.

Em segundo lugar, garanta o direito à explicação. A decisão da Suprema Corte de 1970 no caso Goldberg v. Johnson Kelly argumentou que o governo não pode reter arbitrariamente benefícios sem explicação e sem direito a recurso. À medida que a tomada de decisões baseada na IA se torna mais predominante, precisamos de garantir direitos semelhantes às decisões que determinam as áreas mais importantes das nossas vidas.

Terceiro, precisamos fortalecer o princípio da responsabilidade. O princípio jurídico de que se você prejudicar alguém deve reparar o dano existe há séculos, mas temos sido estranhamente relutantes em aplicar o mesmo princípio às empresas de IA. Parece que sim. Isto está errado.

Uma ideia simples, mas poderosa, responsabilizaria os desenvolvedores de IA que excedessem um determinado limite pelo uso indevido de seus produtos, assim como faríamos por lesões causadas por defeitos do produto. Estabelecer um porto seguro que permita às empresas registar utilizações ambíguas, sujeitas à supervisão e directrizes governamentais, poderia aliviar este problema. Combinado com uma proibição total de aplicações maliciosas, isto poderia proteger-nos da maioria dos problemas potenciais, transferindo o custo dos danos da IA ​​para as pessoas e empresas que os causam.

Como construtores de sistemas poderosos de IA, rejeitamos o argumento de que as leis que regem a IA nos prejudicarão. É o contrário. Boas regras nivelam o campo de jogo. Estas reduzem a carga que recai sobre os organismos individuais na luta pelo bem público e, em vez disso, proporcionam às pessoas aquilo que consideram valioso nas suas vidas, em termos claros exigidos pelos processos democráticos, para que se possam concentrar na construção.

A razão pela qual perseguimos os sonhos mais loucos da IA ​​é criar um mundo que valha a pena celebrar. Melhores leis ajudarão a garantir que o futuro inclua todos, e não apenas o punhado de bilionários que controlam hoje.

Matt Boulos é chefe de política e segurança em uma empresa de pesquisa de IA Em vistamembros de Consórcio Nacional de Laboratórios de Segurança de Inteligência Artificial do NIST.