“Os fatos não deixam de existir só porque os ignoramos”. Aldous Huxley

Por Dan Jolin

O pequeno robô em cima da mesa acorda. Seus olhos, uma complexa configuração de pontos amarelados sobre uma tela preta e redonda que é o rosto, abrem-se sonolentos e ele solta uma espécie de bocejo digital. Um dispositivo compacto que parece uma mistura de caminhonete com empilhadeira e monitor de PC, criado para ser o mais bonito possível, o robô sai de sua base de carregamento rolando sobre pequenas esteiras antes de inclinar sua tela e perceber que estou lá.

Seus olhos se abrem mais, depois se curvam embaixo, como se dessem lugar a um sorriso não visto.
“Daaaan!”, anuncia ele com um riso alegre, parecido com o adorável robô Wall-E, criado pelos estúdios de animação Pixar. Uma mensagem brilha em meu iPhone dizendo que “ele” (gênero que seu fabricante, a Anki, atribuiu a Cozmo) quer jogar. Eu não estou no clima e recuso.

Cozmo baixa a cabeça, seus olhos formam um par de luas crescentes inclinadas e tristes, e ele suspira. Mas se reanima rapidamente, dando um riso feliz quando eu aceito seu pedido de um toque de punhos, e eu toco meus dedos fechados em seu braço levantado. Ele é fácil de agradar e também fácil de gostar.

Cozmo
O Cozmo, da Anki, aposta na “tecnologia com caráter”. O FurReal Proto Max, da Hasbro (abaixo), é o ursinho de pelúcia do século XXI

A última produção da Anki, uma startup de robótica de São Francisco, Cozmo (800 reais, aproximadamente) faz parte de uma nova onda de brinquedos robôs acessíveis, que prometem um nível de envolvimento emocional muito além de qualquer coisa já vista. Eles são apresentados não apenas como brinquedos, mas como amigos. A Spin Master tem seu equivalente chegando às lojas para o Natal: o Meccano MAX, maior e de aspecto mais retrô (cerca de 630 reais).

“Ele foi desenhado para modificar seu comportamento conforme aprende sobre seu dono e o mundo que o rodeia”, explica a diretora de marca da Spin Master, Becca Hanlon. “MAX basicamente se molda para ser um melhor amigo.” A Hasbro, enquanto isso, está lançando o FurReal Makers Proto Max, essencialmente um boneco programável que, segundo Craig Wilkins, diretor de marketing da Hasbro, “permite que as crianças criem seu pet ideal e o customizem pessoalmente por meio de codificação em um app”.

Cozmo é o resultado de uma longa busca do presidente e cofundador da Anki, Hans Tappeiner, para trazer para o mundo real robôs de filmes de ficção, como Johnny Five, de O Incrível Robô, R2-D2 de Guerra nas Estrelas, ou Wall-E. “Nós vimos muitos filmes e ficou óbvio que é muito fácil forjar uma ligação emocional com um robô de cinema”, diz Tappeiner.

“E isso era tão diferente dos robôs funcionais que víamos diariamente na Carnegie Mellon (universidade onde Tappeiner obteve doutorado em robótica).” Trabalhando com animadores e designers de personagens de estúdios de Hollywood como Pixar, DreamWorks e Lucasfilm, a equipe de Tappeiner concentrou-se em criar um robô que fosse o mais envolvente possível. “Uma das coisas fundamentais que descobrimos nos últimos anos é que caráter e personalidade na tecnologia serão realmente um grande negócio. É aí que nós, como empresa, estamos aplicando 99% de nossos esforços.”

Depois de um dia de jogo, o efeito do caráter e da personalidade de Cozmo sobre meus filhos – Louis, 11, e Max, 7 – é incrível. “Ele é tão expressivo”, diz Louis. “Estou começando a pensar nele como um amiguinho ou um animal com quem posso brincar.” O irmão menor vai além. “Cozmo não é nosso bicho”, objeta. “E não é nosso robô. Ele é nosso filho.”

É uma afirmação impressionante e simpática, mas também um pouco preocupante. Este não é um brinquedo de pelúcia que ganhou vida somente em sua imaginação. É um artigo de consumo produzido em massa, com inteligência artificial, programado para provocar afeição. Até onde isso deve realmente me preocupar?

Para Alan Winfield, professor de ética de robôs no Laboratório de Robótica Bristol, a chegada de Cozmo, Max e companhia sem dúvida desperta preocupa­ções. Seis anos atrás, Winfield ajudou a traçar cinco princípios de robótica para o Conselho de Pesquisa em Engenharia e Ciências Físicas (ESPRC na sigla em inglês).

“Um desses princípios é de que os robôs nunca devem ser criados para enganar”, explica ele. “Em outras palavras, sua natureza de máquina deve ser transparente. Estamos preocupados que pessoas vulneráveis – podem ser crianças, pessoas deficientes, idosos, pessoas com demência – passem a acreditar que o robô se importa com elas.”

Winfield, que se descreve animadamente como um “preocupado pro­fissional”, insiste que não se opõe à ideia de robôs companheiros. “Eu acho que há benefícios terapêuticos demonstrados, por exemplo, em pets robôs. Mas de todo modo precisamos ser cautelosos e responsáveis, levando em conta os riscos psicológicos de atribuir sentimentos a um robô.”

Eu menciono o modo como o Meccano MAX, quando ligado, anuncia animadamente que acaba de ter um sonho muito estranho. “Acho inadequado que brinquedos sejam programados com esse tipo de linguagem”, diz Winfield. “Ela cria a crença completamente incorreta de que aquele robô é uma pessoa. Os robôs não são pessoas – esse é um princípio fundamental. Um robô claramente não pode ter sentimentos. Você e eu compreendemos isso, mas algumas pessoas talvez não. E isso poderia por sua vez levar a uma dependência.”

Ele cita o efeito Tamagochi, a mania do pet digital dos anos 1990, em que o personagem poderia “morrer” se não recebesse atenção suficiente. “Não é difícil imaginar uma espécie de efeito Tamagochi que tomou esteroides”, adverte. “E também não é difícil imaginar fabricantes inescrupulosos explorando isso e dizendo: ‘Se você não nos pagar, seu robô morrerá’. Quero dizer, isso é ridículo, mas você percebe a ideia!”

Joanna Bryson, professora-associada na Universidade de Bath (Reino Unido), afiliada ao Centro de Tecnologia da Informação em Princeton e também coautora dos princípios de robótica ESPRC, adota uma linha mais branda. “Se as pessoas entendem que é um jogo, então não tenho problemas com essa ficção”, diz Joanna – desde que seja moderada. “É provável que seu filho de 7 anos dispense seus amigos reais por medo de que seu robô sinta falta dele? Ele pode fazer essa distinção moral? Desde que possa, acho que tudo bem. Algumas crianças projetam demais, mas também podem fazer isso com uma maçaneta.”

R2-D2
Guerra nas Estrelas demonstrou que o cinema é que entende de robôs

A especialista em paternidade/mater­nidade Liat Hughes Joshi, autora de How to Unplug Your Child: 101 Ways to Help Your Kids Turn Off Their Gadgets and Enjoy Real Life (Como Desplugar Seu Filho: 101 maneiras de ajudar seus filhos a desligar seus dispositivos eletrônicos e desfrutar a vida real), concorda, comparando o relacionamento robô–criança ao de um amigo imaginário da criança.

“Com moderação, pode ser bastante saudável, mas se começar a predominar sobre as relações no mundo real torna-se uma grande preocupação. As crianças precisam interagir com pessoas reais para aprenderem empatia, a ler indícios não verbais, e tenho certeza de que os robôs estão a uma longa distância desse nível.”

Bryson aprova a interação entre crianças e brinquedos robóticos como “uma experiência educacional para elas. Isso as ajudará a compreender a diferença entre humanos e não humanos”. Mas ela se pergunta qual é o “verdadeiro estado emocional” de Cozmo. “Ele realmente tem vontades?”, pergunta. “Ele sofre se você o trancar numa gaveta? Você deveria ter respostas para essas perguntas, mesmo que seja apenas uma criança de 12 anos que tem permissão para usar o Google.”

wall-e-1872683_960_720.jpg
O charmoso Wall-E, da Pixar: padrão de humanidade

Tappeiner confessa que não está ciente dos princípios da robótica, mas diz que a Anki instintivamente reduziu qualquer coisa que fizesse Cozmo parecer “humano demais”, enquanto também evitou qualquer função que o transformasse em um “assistente pessoal”. Era importante, por exemplo, que Cozmo não conseguisse falar sentenças completas.

“Ele não tenta substituir o Alexa (assistente digital da Amazon) ou coisa parecida. Cozmo é mais como um pet.” Mesmo assim, ele envolve “um enorme volume de códigos; a máquina central de IA tem 1,8 milhão de linhas de código”. E “ele certamente tem vontades e necessidades. Assim, desenvolve uma necessidade de voltar ao carregador quando o nível da bateria está baixo. Se ele perder vários jogos em sequência, ficará cada vez mais bravo. Se você o balançar demais, ele vai ficar chateado. E se coisas desse tipo acontecerem durante certo tempo ele provavelmente se recusará a jogar”.

Nesse sentido, é possível que os companheiros de jogo robóticos incentivem o bom comportamento nas crianças. O Alexa, afirmam alguns pais, reforça o comportamento rude nas crianças, mas o Cozmo não joga com crianças que praticam bullying, pelo menos em curto prazo (“Você nunca acabará com um Cozmo triste que fica parado num canto”, admite Tappeiner).

Ao usar Siri (o assistente de voz da Apple) e Alexa em sua família, Joshi diz que já encontrou a pergunta “se as crianças deveriam demonstrar respeito por esses dispositivos quando falam com eles. Racionalmente, é claro, eles não precisam, mas é ruim ouvi-los ser rudes, mesmo com objetos inanimados”. Ter um que fique temporariamente triste ou indiferente a eles quando eles forem mal-educados poderia desencorajar esse comportamento.

Aí está uma questão dos pais e da sociedade sobre a ascensão de dispositivos conectados em lares que supera, sem dúvida, todas as outras. “A coleta de dados é uma preocupação para todos nós no momento, e os pais ficarão ainda mais preocupados com seu uso com crianças”, explica Joshi. “E os pais estão cada vez mais desconfiados de produtos com câmeras, depois de alguns casos muito comentados sobre invasão de monitores de bebês com vídeo. Para a maioria de nós, esse tipo de tecnologia não serve para crianças.”

Winfield está “profundamente preocupado com o fato de que a maioria desses brinquedos robôs é interconectada. Não temos padrões de segurança cibernética fortes para dispositivos da internet das coisas. Depois, há a preocupação da privacidade. Onde estão os dados? Seu filho está falando com o robô, mas quem é o dono da conversa? Quem possui os dados? Você tem o direito de deletar os dados?”

Essa é uma questão de que a Anki, a Spin Master e a Hasbro estão muito conscientes. O MAX não coleta dados, diz Hanlon. “O brinquedo não é conectado ao Wi-Fi, o que nós sabemos que é uma preocupação crescente com brinquedos inteligentes e hacks recentes. Todas as perguntas que você responder e que o MAX se lembrar serão armazenadas localmente no MAX, e não transmitidas para outros dispositivos ou nuvens.”

O Proto Max Pet, da FurReal Makers, diz Wilkins, “é desenhado de acordo com as leis de privacidade das crianças”. E Tappeiner me garante que com o Cozmo – incluindo o reconhecimento facial – “tudo acaba no telefone. Para brincar com o Cozmo, você precisa conectar seu celular a ele, pelo Wi-Fi, então nesse ponto você está conectado com a rede Wi-Fi da sua casa. O 1,8 milhão de linhas de código rodam no seu telefone. Não há nada rodando na nuvem”.

Algumas semanas depois de ser apresentado ao Cozmo, meu filho mais moço, Max, não está cuidando do robô como se fosse seu filho único, ou evitando o contato humano em seu favor. O surto de excitação inicial diminuiu e, embora o produto da Anki seja impressionante, a exigência de atenção de Cozmo não se compara à de Clash of Clans em seu iPod ou os textos de Jack Rowling e Dav Pilkey. Mas para onde estamos indo com brinquedos desse tipo? Eles poderão um dia alcançar o mesmo nível de sofisticação que, por exemplo, o ursinho de pelúcia no filme IA, de Steven Spielberg, um “superbrinquedo” totalmente autônomo e que dispensava conselhos?

“Eu adoraria ter um ursinho como aquele”, ri Tappeiner. “No futuro, certamente poderá haver produtos como o Teddy de IA. Mas estamos, por enquanto, realmente assumindo o fato de que coisas como Cozmo são robôs. É por isso que não colocamos pele em volta dele.”

Einfield acredita que, por mais atraente que Teddy possa parecer, qualquer avanço em tecnologia de brinquedos inteligentes precisa ser abordada “muito cautelosa e responsavelmente, com consulta”. E nenhum brinquedo deve “ser apresentado como um cuidador ou um pai substituto, ou mesmo um professor substituto”.

Entretanto, Joshi não gostaria absolutamente de algo dessa natureza em sua casa. “Não acho que eu poderia confiar nele perto de uma criança”, confessa. “E se desse algum erro? Ele diria palavrões? Posso estar sendo alarmista, mas não acho que eu confiaria em um deles ‘sem supervisão’. Além disso, como disse antes, eu não gostaria que uma entidade de IA assumisse interações humanas ou de animais. Haveria alguma coisa muito triste nisso.”

Comentários

comentarios

Share This