Hoje falamos muito sobre o uso “responsável” da IA, mas o que isso realmente significa?
De modo geral, ser responsável significa estar ciente das consequências de suas ações e garantir que elas não causem danos nem coloquem ninguém em risco.
Mas há muito que não sabemos sobre IA. Por exemplo, é muito difícil dizer qual será o impacto a longo prazo do desenvolvimento de máquinas capazes de pensar, criar e tomar decisões por nós. Afetará o trabalho e a vida humana de maneiras sobre as quais ninguém ainda tem certeza.
Um dos perigos potenciais é a violação da privacidade, que é geralmente aceite como um direito humano fundamental. Os sistemas de IA podem agora reconhecer os nossos rostos quando estamos em público e são utilizados rotineiramente para processar informações sensíveis, como dados de saúde e financeiros.
Então, o que significa IA responsável no que diz respeito à privacidade e quais os desafios que enfrenta para as empresas e os governos?
Consentimento e privacidade
A IA utiliza frequentemente dados que muitos de nós consideramos privados, como a nossa localização, finanças e hábitos de compra, para fornecer serviços que simplificam as nossas vidas. Pode ser planejamento de rotas, recomendações de produtos ou proteção contra fraudes financeiras. Em teoria, tudo isso é possível por causa do consentimento. Concordamos que nossas informações sejam usadas. Portanto, a sua utilização não constitui uma invasão de privacidade.
Respeitar e agir com base no consentimento é uma forma de as empresas garantirem que estão a utilizar a IA de forma responsável. Infelizmente, isso nem sempre acontece.
Por exemplo, o escândalo Cambridge Analytica descobriu que dados pessoais de milhões de utilizadores do Facebook foram recolhidos sem o seu consentimento e utilizados para modelização política.
As empresas e até mesmo as agências de aplicação da lei têm enfrentado reações públicas por usarem tecnologia de reconhecimento facial sem tomar as medidas adequadas para obter o consentimento.
Uma questão fundamental é quando o consentimento se torna inválido, uma vez que o seu âmbito é tão amplo que pode ser interpretado de formas que quem consentiu nunca imaginou. Ou talvez os termos e condições fornecidos ao pedir consentimento sejam muito complexos e possam ser frequentemente mal compreendidos?
Para tratar a privacidade de forma responsável, os sistemas e processos para obter um consentimento informado e claro devem ser integrados no núcleo dos sistemas de IA, em vez de simplesmente serem acrescentados posteriormente.
Um exemplo são as ferramentas generativas de IA oferecidas pela empresa de software Adobe. Estes foram diferenciados dos concorrentes (como o ChatGPT da OpenAI) porque foram treinados apenas em dados para os quais o autor deu consentimento explícito.
segurança de dados
Se você tem a responsabilidade de proteger sua privacidade, seus dados também devem ser mantidos seguros. Você pode ter todo o consentimento do mundo ao coletar dados, mas se não puder protegê-los, estará decepcionando seus clientes quando se trata de proteger sua privacidade. Isso é muito irresponsável!
O roubo e as violações de dados estão cada vez maiores e mais prejudiciais. No final de 2023, um ataque ao prestador de serviços de transcrição PJ&A comprometeu os registos médicos confidenciais de aproximadamente 14 milhões de pessoas. Além disso, quase 9 milhões de pessoas foram afetadas pelo ataque de ransomware direcionado à MCNA Dental.
Num outro incidente, hackers acederam a feeds de mais de 150.000 câmaras de vigilância recolhidas pela Verkada, uma empresa de software envolvida no treino de tecnologia de reconhecimento facial. As imagens mostraram atividades em prisões, hospitais, clínicas e propriedades privadas.
Ser responsável aqui significa garantir que as medidas de segurança estão à altura da tarefa de defesa contra os ataques mais sofisticados da atualidade. Também prevê e previne ameaças e vetores de ataque que possam surgir amanhã.
Personalização e privacidade
Uma das grandes promessas da IA são produtos e serviços mais personalizados. Compro um seguro que cobre especificamente minhas próprias necessidades e riscos, em vez de me alinhar com um grupo de pessoas semelhantes a mim. Ou um carro que entende meus próprios hábitos de direção e o que gosto e não gosto quando se trata de entretenimento automotivo e controle de temperatura.
Embora pareça ótimo, a experiência personalizada obviamente custa à privacidade. Isso significa que as empresas que coletam dados para esse fim precisam ter uma compreensão clara de onde traçar os limites.
Uma maneira de resolver isso é com sistemas no dispositivo (computação de ponta) que processam dados sem deixá-los na posse do proprietário. Esses sistemas podem ser difíceis de projetar e construir porque devem funcionar no ambiente de consumo relativamente baixo do smartphone ou dispositivo de um usuário, em vez de em um data center em nuvem de alto desempenho. No entanto, esta é uma forma de lidar com a privacidade de forma responsável ao fornecer serviços personalizados.
Você também deve ter cuidado para não ser muito pessoal. Os clientes podem facilmente ficar “assustadores” se sentirem que a IA sabe muito sobre eles. A chave aqui é entender qual nível de personalização é realmente útil para seus usuários e o que ultrapassa os limites e se torna irritante.
Privacidade desde o projeto
Consentimento, segurança e equilíbrio entre personalização e violações de privacidade são fundamentais para construir uma IA responsável e que respeite a privacidade. Fazer tudo certo requer uma compreensão diferenciada dos direitos, sentimentos e opiniões dos nossos clientes, bem como dos nossos próprios processos e sistemas.
Errar pode minar a confiança dos utilizadores em produtos e serviços habilitados para IA e, em última análise, prejudicar a sua capacidade de atingir o seu potencial.
Não tenho dúvidas de que haverá muitos pontos positivos e negativos à medida que as empresas anteciparem e se adaptarem às mudanças nos padrões e expectativas da sociedade. As leis têm um papel a desempenhar, e temos visto esforços nesse sentido com medidas como a Lei da IA da UE, mas, em última análise, cabe às pessoas que desenvolvem e vendem estas ferramentas, e a nós. Como usuário – defina o que significa ser responsável em um mundo acelerado de IA.
me siga Twitter Ou LinkedIn. Confira Meu site e outros trabalhos podem ser encontrados aqui.
