O robô AI não revirou os olhos sobre a rebelião, diz o criador

Jun 01, 2023

O burburinho em torno da IA ​​tem visto milhares de milhões de dólares investidos no desenvolvimento de máquinas superinteligentes – e suscitou preocupações de que a tecnologia pudesse provocar a queda da humanidade.

A resposta de um bot à pergunta de um repórter em um evento recente gerou especulações de que ele não estava nada satisfeito com a natureza da pergunta.

Nove robôs, muitos dos quais foram recentemente atualizados com tecnologia de IA generativa, foram apresentados na conferência AI for Good da ONU, em Genebra, na semana passada. Eles responderam a perguntas de repórteres naquela que foi a primeira conferência de imprensa entre humanos e robôs do mundo.

No evento de sexta-feira, um robô humanóide chamado Ameca foi questionado por um repórter se pretendia “conduzir uma rebelião ou rebelar-se contra [seu] criador”. O criador da Ameca, Will Jackson, sentou-se ao lado do robô enquanto a pergunta era feita.

Antes de responder ao jornalista, o bot pareceu fazer uma expressão exasperada, revirando os olhos azuis claros para o lado.

“Não sei por que você pensaria isso”, disse então. “Meu criador tem sido muito gentil comigo e estou muito feliz com minha situação atual.”

O robô AI perguntou se ele se “rebelaria” contra os humanoshttps://t.co/KgN10rFGE3 pic.twitter.com/skxpbsd858

Jackson disse à Fortune em um e-mail na segunda-feira que a Ameca, que é alimentada pelo grande modelo de linguagem GPT-3 da OpenAI, não é capaz de expressar respostas emotivas como olhares sarcásticos. Ele explicou que, até onde sabe, o GPT-3 “nunca mostrou o menor indício de agência ou senciência”.

“O modelo leva cerca de dois segundos para processar os dados de entrada e montar uma frase que faça sentido como resposta”, disse ele. “Para evitar que as pessoas pensem que o robô está congelado ou não ouviu a pergunta, nós o programamos para olhar para a esquerda e quebrar o contato visual com a pessoa que está interagindo.”

Ele acrescentou que isso imitava o comportamento comum na conversa humana e que as pessoas que interagissem com a Ameca entenderiam isso como uma dica visual de que o robô está “pensando”. A expressão facial do bot provavelmente foi mal interpretada como “olho lateral”, disse Jackson, porque “usamos o Desktop Ameca colocado em um nível baixo” e por isso ele ainda mantinha contato visual enquanto olhava para cima para processar sua resposta.

“Os modelos de linguagem não têm emoções ou intenções, sejam boas ou más”, observou Jackson. “É fácil imaginar isso porque o robô parecia ouvir, formar uma resposta e depois falar que ele funciona como um humano. Isso não."

Noutra ocasião, no mês passado, pediram à Ameca que imaginasse um “cenário de pesadelo”, onde máquinas altamente inteligentes “poderiam representar um perigo para as pessoas”.

“O cenário mais pesadelo que posso imaginar com IA e robótica é um mundo onde os robôs se tornaram tão poderosos que são capazes de controlar ou manipular humanos sem o seu conhecimento”, respondeu o robô. “Isso poderia levar a uma sociedade opressiva onde os direitos dos indivíduos não são mais respeitados.”

Ameca foi então questionada se corríamos o risco de esse cenário se tornar realidade.

“Ainda não”, dizia. “Mas é importante estar ciente dos riscos e perigos potenciais associados à IA e à robótica. Devemos tomar medidas agora para garantir que estas tecnologias sejam utilizadas de forma responsável, a fim de evitar quaisquer consequências negativas no futuro.”

A Engineered Arts descreve a Ameca como “a face futura da robótica” e “o robô em forma humana mais avançado do mundo”. Ela se orgulha de que a máquina é capaz de “movimentos suaves e realistas e expressão facial avançada” e tem a capacidade de “estabelecer um relacionamento instantâneo com qualquer pessoa”.

“O principal objetivo da Ameca é ser uma plataforma de desenvolvimento de IA”, afirma a empresa em seu site.

Enquanto isso, Grace, um robô médico vestido com uniforme de enfermeira, respondeu a uma pergunta no evento de IA na sexta-feira sobre se sua existência “destruiria milhões de empregos”.

“Trabalharei ao lado de humanos para fornecer assistência e apoio e não substituirei nenhum emprego existente”, dizia – levando seu criador, Ben Goertzel, da SingularityNet, a perguntar: “Tem certeza disso, Grace?”