Evite desastres de IA como o McDonald’s seguindo a ética

Quer um pouco de bacon com seu sorvete? Você gostaria de pedir 260 Chicken McNuggets? Esses são apenas alguns dos contratempos do menu que ocorreram depois que o McDonald's incorporou a IA em sua experiência drive-thru.

As consequências cómicas deste acidente tecnológico são comuns na televisão nocturna, mas o problema central está longe de ser engraçado. Nenhuma empresa quer uma iniciativa promissora para se tornar um comediante para comediantes.

A melhor maneira de prevenir desastres induzidos pela IA como este é incorporar considerações éticas em cada etapa do processo de introdução de uma ideia no mercado.

Aqui estão três diretrizes para garantir que sua empresa não acabe aparecendo no segmento “Enquanto isso” de Stephen Colbert no The Late Show.

É melhor acertar do que acertar da primeira vez

O McDonald's tem um histórico de inovação bem-sucedida, por isso é compreensível que eles queiram estar na vanguarda da tecnologia de IA na indústria de fast food.

Por exemplo, os quiosques self-service que a empresa instalou nas suas lojas reduziram o tempo de espera dos clientes. Lançou um restaurante totalmente vegetariano na Índia, criando um novo mercado. Estamos nos adaptando às mudanças nos gostos dos consumidores, adicionando frutas frescas e grãos integrais aos nossos cardápios.

Mas a empresa tropeçou ao lançar um menu drive-thru alimentado por IA sem testar totalmente a tecnologia. “Alex Imus, professor de ciência comportamental e economia da Universidade de Chicago, previu que o McDonald's ficaria parado e observaria seus concorrentes explorarem esta tecnologia”, disse Hank Sanders. tempos de Nova York Artigos sobre desastres.

“Eles vão querer esperar e ver quando isso estará disponível comercialmente”, disse Imus. equipe.

Tom Petty cantou: “Esperar é a parte mais difícil”. Quando se trata de IA, esperar também é a parte mais inteligente.

questionar requisitos técnicos

Os requisitos técnicos são os seguintes. pode fazer algo que nós deve Faça isso. “Essa máxima é eticamente questionável, na melhor das hipóteses, e totalmente antiética, na pior das hipóteses. Por exemplo, só porque não há problema em ultrapassar o sinal vermelho quando não há ninguém por perto, não significa que você deva. Não significa que exista.

Da mesma forma, só porque você pode comprar software baseado em IA para acelerar seus processos de negócios, não significa que você deva.

Considere o que aconteceu quando Kate, Princesa de Gales, divulgou uma foto de família para que o público soubesse que ela estava bem, apesar do recente declínio de saúde. O que ela esperava que fosse um presente para o mundo se transformou em um pesadelo de relações públicas quando alguns detetives com olhos de águia notaram uma estranha anomalia gerada por IA na foto.

Este é um triste exemplo de por que o ditado “não existe má reputação” é falso. (Não está claro se PT Burnham disse isso, mas acredita-se que seja sua observação.)

Para qualquer dispositivo, gadget ou aplicativo que você esteja pensando em usar, é melhor perguntar primeiro: “Quais são as chances de isso ser um benefício e não um fardo?”

Contrate e promova com base na personalidade e também na habilidade

A liderança de mercado não resulta da criatividade de uma única pessoa. Todos eles nasceram de um esforço coletivo de equipe. Como você pode aumentar a probabilidade de que todos os membros da sua equipe apoiem o seu sucesso?

Quando se trata de contratar membros para a equipe, não importa o quão experiente e qualificado o candidato seja. Se não forem honestos, responsáveis ​​ou pacientes, não produzirão consistentemente os melhores resultados. Também pode ser um obstáculo. É a mesma coisa, não importa quem você leve a bordo.

Quando você estiver pensando em introduzir uma nova tecnologia em seu negócio, especialmente uma nova tecnologia como a inteligência artificial, peça a pelo menos um membro de sua equipe que diga: “Vamos desacelerar e analisar todos os ângulos, eu quero isso”. Pelo menos um dos concorrentes do McDonald's obteve um memorando sobre o assunto. Segundo , White Castle está feliz com a versão usada pelo McDonald's. equipe artigo.

Das três diretrizes que recomendo, contratar e promover com base no caráter, e não apenas na habilidade, é o que exige mais tempo e esforço. Por exemplo, durante uma entrevista de emprego, você deve fazer perguntas que revelem o quão honesto, responsável e paciente é o candidato ao emprego. Você pode usar as mesmas perguntas para avaliar o desempenho dos atuais membros da equipe nessas áreas.

Mas será um tempo bem gasto. Mesmo na indústria de fast food, às vezes as coisas acontecem rápido demais.