Mulheres na IA: Brandie Nonnecke, da Universidade da Califórnia, Berkeley, diz que os investidores devem defender práticas responsáveis ​​de IA

Créditos da imagem: crise tecnológica

Para dar às acadêmicas e outras pessoas focadas em IA o merecido e esperado tempo de destaque, o TechCrunch está lançando uma série de entrevistas destacando mulheres notáveis ​​que contribuíram para a revolução da IA. À medida que o boom da IA ​​​​continua, lançaremos vários trabalhos ao longo do ano que se concentram em trabalhos importantes e difíceis de reconhecer. Clique aqui para um perfil detalhado.

conhaque Nonnecke é o diretor fundador do CITRIS Policy Lab, sediado na Universidade da Califórnia, Berkeley, que apoia pesquisas interdisciplinares que abordam questões sobre o papel da regulamentação na promoção da inovação. Nonnecke também co-dirige o Berkeley Law and Technology Center, que lidera projetos sobre IA, plataformas e sociedade, e o UC Berkeley AI Policy Hub, um esforço para treinar pesquisadores para desenvolver estruturas políticas e de governança de IA eficazes.

Nas horas vagas, Nonnecke apresenta a série de vídeos e podcasts TecHype. Esta série analisa políticas, regulamentações e leis de tecnologia emergente, fornece informações sobre os benefícios e riscos e identifica estratégias para alavancar a tecnologia com fins lucrativos.

Perguntas e respostas

Resumindo, como você começou na IA e o que o atraiu nessa área?

Tenho trabalhado na governança responsável da IA ​​há quase uma década. Minha formação em tecnologia, políticas públicas e sua interação com impacto social me atraíram para a área. A IA já está aqui e está tendo um grande impacto em nossas vidas, para melhor ou para pior. O que é importante para mim não é ficar à margem, mas contribuir significativamente para ajudar a sociedade a utilizar esta tecnologia para o bem.

De qual trabalho (na área de IA) você mais se orgulha?

Estou muito orgulhoso de duas coisas que conquistamos. Em primeiro lugar, a Universidade da Califórnia foi a primeira universidade a estabelecer princípios e estruturas de governação responsáveis ​​de IA para melhor garantir o fornecimento e a utilização responsáveis ​​da IA. Levamos a sério o nosso compromisso de servir o público de forma responsável. Tive a honra de co-presidir a Força-Tarefa Presidencial sobre IA da Universidade da Califórnia e, em seguida, o Conselho Permanente de IA. Nessas funções, ganho experiência em primeira mão pensando sobre como melhor operacionalizar os princípios de IA responsável para proteger professores, alunos e as comunidades mais amplas que atendemos. Em segundo lugar, penso que é importante que o público compreenda as tecnologias emergentes e os seus reais benefícios e riscos. Lançamos o TecHype, uma série de vídeos e podcasts que desmistifica as tecnologias emergentes e fornece orientação sobre intervenções técnicas e políticas eficazes.

Como podemos superar os desafios de uma indústria tecnológica dominada pelos homens e, por extensão, de uma indústria de IA dominada pelos homens?

Seja curioso, seja persistente e não deixe a síndrome do impostor atrapalhar. Achamos importante procurar líderes que apoiem a diversidade e a inclusão e forneçam o mesmo apoio a outros que ingressam na área. Construir comunidades inclusivas na indústria tecnológica é uma forma poderosa de partilhar experiências, conselhos e incentivo.

Que conselho você daria às mulheres que desejam ingressar na área de IA?

Meu conselho para as mulheres que entram no campo da IA ​​é triplo. A IA é um campo em rápida evolução, por isso busque conhecimento constantemente. Aproveite o networking, pois as conexões abrem portas para oportunidades e fornecem suporte valioso. E defenda você mesmo e os outros, porque a sua voz é essencial para moldar um futuro inclusivo e equitativo para a IA. Lembre-se de que sua perspectiva e experiência únicas enriquecem o campo e impulsionam a inovação.

Quais são os problemas mais urgentes que a IA enfrenta à medida que ela evolui?

Acredito que um dos desafios mais prementes que enfrentamos à medida que a IA evolui é evitar sermos apanhados pelo mais recente ciclo de hype. Agora estamos testemunhando isso com a IA generativa. Certamente, a IA generativa trará grandes avanços e terá um impacto enorme, tanto bom quanto ruim. Mas outras formas de aprendizagem automática estão a ser utilizadas hoje em dia para tomar decisões secretamente que têm impacto directo na capacidade de todos fazerem valer os seus direitos. Em vez de focar nas últimas maravilhas do aprendizado de máquina, é importante focar onde e como o aprendizado de máquina está sendo aplicado, independentemente de suas capacidades técnicas.

De quais questões os usuários de IA devem estar cientes?

Os utilizadores de IA precisam de estar conscientes das questões de privacidade e segurança dos dados, do potencial de preconceito na tomada de decisões em IA e da importância da transparência na forma como os sistemas de IA funcionam e tomam decisões. A compreensão destas questões permitirá aos utilizadores exigir sistemas de IA mais responsáveis ​​e justos.

Qual é a melhor maneira de construir IA de forma responsável?

Construir a IA de forma responsável requer a integração de considerações éticas em todas as fases de desenvolvimento e implantação. Isto inclui o envolvimento diversificado das partes interessadas, metodologias transparentes, estratégias de gestão de preconceitos e avaliação de impacto contínua. É fundamental dar prioridade ao interesse público e garantir que as tecnologias de IA sejam desenvolvidas tendo como base os direitos humanos, a equidade e a inclusão.

Como podem os investidores promover de forma mais eficaz a IA responsável?

Esta é uma pergunta muito importante! Durante muito tempo, nunca discutimos explicitamente o papel dos investidores. Não consigo expressar o suficiente quanta influência os investidores têm. Acredito que a metáfora de que “a regulamentação sufoca a inovação” é usada em demasia e muitas vezes falsa. Em vez disso, acredito firmemente que as empresas mais pequenas também podem experimentar a vantagem de avançar mais tarde e aprender com as grandes empresas de IA que estão a desenvolver práticas e orientações responsáveis ​​de IA provenientes do meio académico, da sociedade civil e do governo. Os investidores têm o poder de moldar a direção da indústria, tornando as práticas responsáveis ​​de IA um fator chave nas decisões de investimento. Isto inclui o apoio a iniciativas centradas na abordagem dos desafios sociais através da IA, na promoção da diversidade e da inclusão na força de trabalho da IA ​​e no apoio a uma governação forte para garantir que as tecnologias de IA beneficiem a sociedade como um todo, e a defesa da estratégia tecnológica.