As opiniões expressas pelos colaboradores são deles e não de The Hill
A Human Rights Watch concluiu uma grande auditoria aos materiais de formação em IA e descobriu que fotos de crianças retiradas da Internet foram utilizadas para treinar modelos sem o consentimento das crianças ou das suas famílias.
Isso já não é tão bom, mas fica ainda pior.
De acordo com a HRW, “os nomes de algumas crianças estão listados nas legendas ou no URL onde a imagem foi salva. , incluindo suas informações, podem ser facilmente rastreadas.”
Eu mencionei que fica pior? Muitas das imagens copiadas não estavam disponíveis publicamente na Internet e estavam escondidas atrás de configurações de privacidade em sites populares de mídia social.
Em outras palavras, alguns pais que pensavam estar fazendo tudo certo ao compartilhar imagens de seus filhos estão começando a perceber o quanto estavam errados.
Eu não sou solidário. Eu sou da Austrália. Moro na América com minha esposa e filhos. Houve um tempo em que as redes sociais pareciam a maneira perfeita de manter amigos e entes queridos atualizados sobre o crescimento da minha família. Eventualmente, percebi que estava violando a privacidade do meu filho. E mais tarde, percebi que meus filhos talvez não quisessem que essas fotos fossem publicadas e usadas online.
A partilha, a prática de publicar informações, fotografias e histórias sobre a vida das crianças online, tem sido alvo de críticas crescentes por muitas boas razões. Crianças de três anos não podem consentir significativamente que seus pais compartilhem com o mundo vídeos de suas falhas no treinamento do penico. Pode parecer uma diversão inocente, mas as crianças de 3 anos não duram 3 anos para sempre, e as crianças de hoje têm muitas informações sobre si mesmas disponíveis on-line muito antes de atingirem a idade de consentimento.
Mas o relatório da HRW deixa claro que, além de as crianças não poderem consentir, os pais adultos não têm forma de saber quais serão os efeitos a longo prazo da partilha. Há dez anos, ninguém imaginaria que um álbum de fotos de férias compartilhadas com a família pudesse ser utilizado no aprendizado de máquina. Consequências reais e não intencionais já estão se desenrolando.
É claro que uma interpretação razoável poderia ser que isso não deveria ser permitido de forma alguma. Por que uma empresa de IA com fins lucrativos teria o direito de treinar os dados de outra pessoa, muito menos os de uma criança? Sem mencionar os dados ocultos nas configurações de privacidade.
Certamente a Comissão Federal de Comércio dirá algo sobre isso. No entanto, a partir do mês passado, quando o Supremo Tribunal decidiu contra os Princípios da Chevron, a FTC e todas as outras agências federais foram amarradas pelas costas, tirando o poder das mãos das agências federais e colocando-o nas mãos dos tribunais.
Numa opinião divergente, a juíza Elena Kagan escreveu: “Hoje, a maioria está preocupada com todas as questões não resolvidas sobre o significado da lei regulatória – não importa quão habilmente baseada ou baseada em políticas”. si mesmos autoridade exclusiva de uma só vez.” “Como se não bastasse, a maioria está se transformando no czar administrativo do país”.
Se as leis federais de privacidade não foram promulgadas antes, certamente o são agora. O resultado esmagador seria devolver as leis de privacidade aos estados. Entretanto, as decisões federais permanecerão paralisadas enquanto os tribunais, com falta de pessoal e sem perspicácia especial em matéria de privacidade, tentam superar uma carga de trabalho para a qual estão despreparados e mal equipados.
Enquanto esperamos, a IA continua coletando dados sobre nossos filhos. E, em última análise, se isso é totalmente legal ou não, depende do estado em que você mora.
Compartilhar fotos do jogo da liga infantil do seu filho pode ser uma maneira divertida de manter contato com familiares distantes, mas até que proteções significativas sejam implementadas, ninguém deve correr o risco. Precisamos de dignidade de dados, tecnologia ética e proteções sólidas e responsáveis para a IA. No momento, não há nada parecido. E a decisão do Supremo Tribunal acrescenta obstáculos significativos à sua consecução.
Entretanto, as grandes empresas tecnológicas estão a ser forçadas a criar as suas próprias regras. Talvez a única maneira de chamar a atenção deles seja excluir o aplicativo, parar de postar e parar de alimentar a fera.
As legislaturas estaduais não conseguem agir com rapidez suficiente.
Jonathan Joseph é membro do Conselho de Administração. projeto de tecnologia ética.
