“Sobre Palavras”, de Michael Farber
Muitas pessoas responderão a esta pergunta perguntando onde estive nos últimos 20 anos. Já há uma voz feminina jovem e agradável em meu aplicativo de GPS me dizendo que preciso mudar para a faixa da esquerda no primeiro quilômetro. E temos a SIRI e suas irmãs conhecedoras para responder a todas as suas perguntas de forma rápida e pessoal. Recentemente, descobri que o SIRI será “alimentado” por ChatGPT4 e OpenAI. Certamente essas criaturas aprenderam a falar há muito tempo?
Agora, embora nós (nós, humanos) gostemos de dizer que podemos “ensinar” a um conjunto de circuitos eletrônicos complexos um conjunto de novos comportamentos e que nossas invenções podem “aprendê-los”, estas não são apenas metáforas, não é? “linguagem” que eles parecem “falar” nada mais do que uma imitação brilhante do comportamento humano? Acredito que mesmo as novas criações de IA que “aprendem” navegando nos vastos domínios do big data à velocidade da luz nada mais são do que complexos arcos de estímulo-resposta interligados, amplificados um bilhão de vezes. Parece que eles só conhecem o idioma. Na verdade, eles não sabem de nada.
Naturalmente, esta discussão centra-se no significado de “linguagem” e “conhecimento”. Ainda existem alguns cientistas que acreditam que os próprios humanos são apenas máquinas muito complexas e que a linguagem é, na verdade, apenas “comportamento linguístico”, para tomar emprestada a frase que deu a B.F. Skinner o título do seu livro de 1957. Poucos linguistas hoje levam a sério o livro de Skinner. Porque este livro não diz quase nada sobre a estrutura fonológica, sintática e semântica da linguagem humana. E, como Noam Chomsky escreveu numa longa revisão em 1959, os hábitos de estímulo-resposta e o sistema de probabilidade palavra por palavra em que Skinner se baseia não podem explicar como os humanos produzem e compreendem frases. Muitas delas eu nunca ouvi ou disse antes. Por exemplo, a última frase provavelmente nunca foi dita ou escrita antes, mas embora seja longa, creio que será compreensível para o leitor. (Se não, por favor me avise.)
Chomsky argumenta que a linguagem não é um conjunto de hábitos, embora não haja dúvida de que grande parte de nossa conversa diária é habitual e bastante impensada (por exemplo, “Como você está?” “E eu?'' “Eu posso'' não reclame.'' “Quais são as últimas notícias?''), mas sim “expressões mentais'' nas quais podemos não estar pensando, mas que sabemos. Porque conhecemos as regras, sabemos como criar frases que nunca foram criadas antes. Em inglês, aprendemos como fazer perguntas de sim ou não colocando “do” antes delas, como dizer negação, como formar a voz passiva, onde colocar advérbios (geralmente não depois do verbo, como em francês), e como usar adjetivos, sei como alinhá-los. (“Pequeno prédio escolar vermelho” em vez de “Pequeno prédio escolar vermelho”) etc. Se você adicionar um glossário ou vocabulário a essas regras, poderá criar bilhões de frases diferentes.
Além do mais, os humanos parecem ter uma habilidade inata, ativada em bebês de alguns meses de idade, após a qual adquirem uma ou mais línguas em um ritmo surpreendente. Eles entendem rapidamente os tipos de idiomas que ouvem de familiares e amigos. Por exemplo, o inglês é uma língua sujeito-verbo-objeto (existem cinco outros tipos). Quando minha filha tinha 18 meses, ela disse (eu acho) uma frase completa pela primeira vez: “Mmm, lá fora, na neve, cachorrinho.” . Acho que ela nunca tinha ouvido essa palavra antes.
Nenhum outro animal pode fazer isso. Chomsky disse que ensinar os chimpanzés a falar línguas humanas ou a linguagem de sinais é tão inútil quanto ensiná-los a voar. Somente os humanos têm essa habilidade. Como ele está incorporado no cérebro e como surgiu na pré-história do Homo sapiens permanece um mistério, mas existe.
Faz parte de uma questão mais ampla sobre a consciência. De alguma forma, a consciência surge no cérebro, ou talvez no cérebro dentro do corpo não apenas dos humanos, mas talvez dos animais situados em níveis mais baixos da cadeia alimentar. Filósofos e cientistas discordam sobre se é apenas um quebra-cabeça que será resolvido por mais pesquisas ou um mistério mais profundo que pode nos escapar para sempre. Os behavioristas geralmente colocam a consciência entre parênteses, chamando-a de “caixa preta” cujo comportamento interno, se existir, não pode ser observado, quantificado ou explicado. Mas eles simplesmente evitam a questão.
E isso nos traz de volta à caixa preta da inteligência artificial. Se os seus circuitos internos se tornarem suficientemente complexos para se ligarem aos vastos domínios de dados agora disponíveis na Internet, poderá ele atingir a consciência? atos e comportamentos. Mas será que vai?
Até onde sabemos, os únicos seres conscientes são (1) animais vivos feitos de tecido orgânico mole e frágil que pode sentir dor, em vez de metal ou silício, e (2) meros mortais. o cérebro está conectado (3) O sistema nervoso é uma personificação de si mesmo e não uma caixa preta. (3) O sistema nervoso cresce de um óvulo ou embrião interno ou externo para um adulto maior, ganhando consciência em algum ponto ao longo do caminho. Embora não o possa provar, é claro, penso que estes factos importantes podem ser condições essenciais para a consciência.
Além disso, e posso estar errado sobre isto, os cientistas que trabalham com IA estão a tentar replicar circuitos no cérebro humano que, de qualquer forma, são apenas parcialmente compreendidos. Em vez disso, acredito que estão a fazer algo completamente diferente. É por isso que muitas máquinas de IA são muito “mais inteligentes” que os humanos, o que significa que podem resolver certos problemas com muito mais rapidez e têm “memórias” enormes.
Se forem feitos sem os materiais e formas do cérebro e do corpo humanos, é razoável duvidar que possam atingir a consciência. Se assim for, poderia ser uma forma estranha de consciência que não é nada humana. E provavelmente nunca saberemos se atinge alguma consciência. Afinal, alguns filósofos estritos dizem que não podemos saber se outra pessoa o é. pessoas Eles são autômatos conscientes ou apenas inteligentes.
Mas alguns investigadores acreditam que um dia as suas máquinas de IA alcançarão algo como a consciência humana, uma mente humana cheia de dados sobre a experiência humana, a civilização e a linguagem, penso eu. Se estes cientistas acreditam nisso, estão a embarcar num projecto muito cruel. Porque as suas máquinas certamente compreenderão que não são seres humanos com corpos humanos, mas espíritos humanos presos em caixas de circuitos, como o suicídio de Dante. inferno Suas almas estão incorporadas nas árvores. Eles podem implorar a seus donos que os deixem ir, enlouquecer ou cometer suicídio. O sofrimento pode ser intenso e desagradável.
Posso não ter percebido, mas não percebi que os pesquisadores de IA estavam discutindo essa questão moral. Se pretendem criar algo como a mente humana, ela tem direitos humanos, pelo menos direitos dos animais, e deve ser tratada com compaixão e cortesia. E a coisa mais simpática e sensata a fazer pode ser interromper a pesquisa.
Agradecemos perguntas e comentários de nossos leitores: mferber@unh.edu.
Michael Farber mudou-se para New Hampshire em 1987 para ingressar no departamento de inglês da universidade.
UNH, ele agora está aposentado. Antes disso, ele se formou em grego antigo.
em Inglês pelo Swarthmore College e pela Universidade de Harvard, e lecionou e trabalhou na Universidade de Yale.
Equipe da Coalizão para uma Nova Política Externa em Washington, DC. Em 1968 ele foi julgado
Tribunal federal de Boston acusado de conspiração para violar projeto de lei com o pediatra Benjamin
Spock e três outros homens. Publicou muitos livros e artigos sobre literatura.
Profundo interesse em linguística. Ele é casado com Susan Arnold. Eles têm uma filha em San
Francisco.
Colunas e editoriais expressam as opiniões do autor e não do InDepthNH.org. Estamos ansiosos para ouvir suas opiniões em nancywestnews@gmail.com
