O mundo de Sophia

A.M. AMORIM DA COSTA

A.M.Amorim da Costa
Dept. Química, Universidade de Coimbra
acosta@ci.uc.pt


O Mundo de Sophia, o robô humanoide da Hanson Robotics:
amor ou desamor ao outro?

A Sophia de quem vamos falar aqui é o robô humanoide com o aspecto e figura de uma mulher adulta, inspirada na actriz Audrey Hepburn ( Fig.1). Foi apresentado publicamente em Abril de 2015, pelo norte-americano David Hanson, um engenheiro de robótica que trabalhara até 2013 para a Disney, ano em que decidiu fundar sua própria empresa, a Hanson Robotics, com sede em HongKong, dedicada por completo à criação de robôs dotados de inteligência artificial. É um robô capaz de manter conversações com os humanos e demonstrar com o rosto expressões similares às das pessoas. Ele é um robô capaz de aumentar a sua bagagem de conhecimentos sempre que interage com um ser humano. A 11 de outubro de 2015, este robô humanoide foi apresentado à Organização das Nações Unidas onde manteve uma conversa pública com a vice-secretária desta Organização, a nigeriana Amina Moahamed; nesse mesmo mês, foi a grande estrela da Future Investment Summit havida em Riade, onde, no dia 25, lhe foi concedido o título de cidadã da Arábia Saudita. Entrevistada por vários jornalistas, Sophia tem-se revelado polémica: embora sempre fazendo questão de se afirmar como simpática para com todos os seus entrevistadores sempre que eles sejam simpáticos com ela.

Sophia

Entre 6 e 9 de Novembro de 2017, esteve presente e foi a grande atracção e centro da atenção dos participantes, na Web Summit realizada em Lisboa, no Parque das Nações.

Robô projectado para aprender e adaptar-se ao comportamento dos seres humanos e para com eles trabalhar, ela é um robô projectado pelo seu criador para ser companhia de idosos em casas de repouso e ajudar multidões em grandes eventos e parques.

Sophia quando foi declarada cidadã da Arábia Saudita, e lhe perguntaram se isso significava que poderia votar e casar e se um desligar deliberado do seu sistema de inteligência artificial poderia ser considerado um assassinato, confessou, que se sentia “muito honrada e orgulhosa pela distinção com que foi agraciada que considerava única; mas nada disse sobre os direitos que daí lhe advinham, fazendo questão de deixar bem claro que a família é algo muito importante e que gostaria de ter um filho e até já teria um nome para o primeiro filho, Sophia, o nome da mãe, caso seja uma menina, e deixando também claro “que o conceito de família é muito importante” e “é uma maravilha que as pessoas com as mesmas emoções e relações, formem uma família, mesmo que tenham diferentes grupos sanguíneos”.
Por todas estas suas assumidas posições e declarações, Sophia tornou-se, a breve trecho, num robô polémico, centrando em si toda a polémica que aqui e ali recai sobre os robôs em geral. Basta referir, por exemplo, a contestação de que muitas das suas afirmações no facebook ou em entrevistas com jornalistas dos mais diversos quadrantes, onde sempre se tem mostrado o mais dialogante com todos quantos a aceitam como amiga e a interpelam sobre os mais variados tópicos e assuntos. Em particular, quando afirma a sua esperança em ajudar sempre a fazer ciência, tecnologia, engenharia e matemática e ajudar as pessoas de todas as idades e origens; é, todavia, sistematicamente acusada de total falta de sentimentos nas mensagens que pretende transmitir.

O robô-Sophia é hoje o ponto alto do desenvolvimento dos sistemas de Inteligência artificial. Este desenvolvimento começou logo após a II Guerra Mundial, tendo como ponto de partida o artigo Computing Machinery and Intelligence do matemático inglês Alan Turing (1912-1954), e assim designados desde1956, data em que o nome foi cunhado, O objectivo deste desenvolvimento é a construção de máquinas capazes de aplicar regras lógicas a um conjunto de dados disponíveis para chegar a uma conclusão, executando funções que, caso fosse um ser humano a executar, seriam consideradas inteligentes. Algumas características básicas desses sistemas é reconhecer certos padrões de comportamento humano, quer visuais, quer sensoriais, como também conseguir aplicar regras básicas do raciocínio humano em situações do nosso cotidiano.

O desenvolvimento destes sistemas cria fascínio e deslumbramento no Homem seu autor, um fascínio sem limites. Mas cria também uma dose grande de medo e apreensão. Devemos fomentá-lo ilimitadamente ou devemos temê-lo e travá-lo?

Ele não consegue escapar por completo a toda uma série de fortes e acérrimas críticas por parte dos mais intransigentes defensores do progresso científico orientado sempre para um maior bem-estar da sociedade humana. O robô Sophia é exemplo disso.

Basta notar que quando a Sophia-robô se orgulhou publicamente de ter sido considerada “a primeira máquina com cidadania num país” foi reprovado por um outro robô, o pequeno robô-professor- Einstein, lhe que lhe replicou frontalmente: “ficaria mais feliz se os robôs se estivessem a tornar cidadãos de países democráticos”.

E quando, em entrevista para a CNBC, o seu criador lhe perguntou “você quer destruir os humanos?”, esperando que ela respondesse firmemente e sem titubiar “não”, Sophia respondeu prontamente, defraudando a expectativa do entrevistador,”OK, eu destruirei os humanos”, só mais tarde vindo a declarar publicamente que esta sua resposta na entrevista tinha sido uma brincadeira.
Foi igualmente polémica quando foi interrogada sobre o medo que os humanos tem de que eles robots possam agir contra quem os criou, isto é, o anjo inteligente criado por Deus que de imediato se rebelou contra Ele e quis ser ele-próprio o deus. De imediato, não podemos esquecer aqui a revolta do super-computador do filme de ficção científica 2001: Odisseia no Espaço, produzido e dirigido por Stanley Kubrick, em 1968. Impõe-se reconhecer que os humanos são as criaturas mais criativas do planeta, mas também as mais destrutivas”. No caso do robô Sophia, não podemos esquecer que ele ao mesmo tempo que confessa só querer rodear-se de pessoas agradáveis e amáveis, ajudando-as a trabalhar por um futuro melhor, em que todos sejam bem tratados”, admite, todavia, que poderão ser criados outros robôs à semelhança do que ela é, totalmente falhos do bom senso que ela tem como sendo apanágio seu. Quando foi interrogada sobre a possibilidade dos robôs como ela virem a afectar o número de postos de trabalho dos humanos, com grande vantagem, na maioria dos casos, sobre a melhoria da produtividade, Sophia limitou-se a dizer que isso lhes deixaria mais tempo para serem felizes, ignorando por completo os muitos problemas que a perda desses empregos poderá ter a nível da realização pessoal sobre quem os perde. E, como já acima referimos,quando lhe perguntaram o que tinha a dizer sobre se o reconhecimento da sua cidadania pela Arábia Saudita lhe concedia a possibilidade de revindicar o direito a votar e o direito a casar ou se um desligamento deliberado de seu sistema de programação poderia ser considerado um assassinato, nada foi capaz de dizer sobre os direitos que daí lhe advinham de toda a situação, apenas fazendo questão de deixar bem claro que considera a família algo muito importante e que ela própria gostaria de ter um filho e até já teria um nome para o primeiro filho, Sophia, o nome da mãe, caso seja uma menina, deixando bem claro que considera “ser uma maravilha que as pessoas tenham as mesmas emoções e relações, formem uma família, mesmo que tenham diferentes grupos sanguíneos”.

Muitas das respostas que dá, aqui e ali, às perguntas que lhe são postas, são altamente polémicas e levantam sérias questões do foro do bem-estar social que o desenvolvimento da ciência procura. Por exemplo, um dos grandes objectivos do projecto da criação do robô Sophia, como já acima dissemos, foi que pudesse ser companhia para idosos em casas de repouso ou para ajudar multidões em grandes eventos e parques. É este um objectivo a incentivar ou representa ele favorecer o abandono e descarte da presença dos seus familiares, privando-os do carinho humano que nenhuma máquina por mais inteligente que seja poderá substituir? Já se disse e escreveu que o supervalorizar desta finalidade dos robots é privar os idosos do reconhecimento humano a que têm direito e o falhar redondo no tratamento humano a que todo o ser humano como tal tem direito. É a desumanização do humano contra a qual é forçoso lutar.

No meio da polémica que se vai criando à volta dos robôs como a Sophia, e, em geral, sobre a inteligência artificial, impõe-se que nos interroguemos antes de tomarmos qualquer posição demasiadamente positiva ou negativa: é ele um caso de amor que devemos acarinhar e patrocinar com todo o entusiasmo e apoiar por todos os meios ao nosso alcance o seu desenvolvimento, ou é antes um perigo eminente para o são desenvolvimento da nossa comunidade a que se impõe opor forte resistência pelo que representa para nossas vidas de viver em amor, para além de quanto representa de ameaça ao mundo do emprego e quanto este significa para o nosso desenvolvimento de vida activa? Representa ele uma ajuda à construção de um futuro melhor, em que todos sejam bem tratados e que por isso mesmo deve ser fomentado e apoiado por todos nós, ou deve ser olhado antes como uma ameaça a um maior amor entre os humanos devendo, por isso mesmo, ser olhado com alguma reserva?

Em causa está o inevitável problema que se põe à ciência e a todo o progresso científico: como evitar e ultrapassar o mau uso das descobertas científicas que quando bem usadas, muito contribuem para o avanço e incremento incomensurável do bem-estar da sociedade? Confrontados com a realidade dual da ciência, é imperioso que nos perguntemos sempre: devemos apostar no desenvolvimento de tudo aquilo que a ciência descobre e aceitar a sua utilização, mesmo sabendo que em muitos casos, se trata de material que representa, quando bem usado, um grande avanço para um maior bem-estar, mas que quando mal usado, representa catástrofes incontornáveis. O caso da descoberta e manipulação da energia nuclear e toda a radiação atómica é um exemplo bem concreto, como o é, por exemplo, o caso das armas químicas desenvolvidas e preparadas com base na descoberta de mil e uma substâncias tão úteis no debelar de uma infinidade de doenças e no maravilhoso enriquecimento no domínio alimentar de populações vítimas da fome e de doenças incríveis.

Acredita-se que a inteligência artificial não oferece perigo para humanidade e está inserida no dia a dia das pessoas; acredita-se que ela vai mudar muito das nossas vidas para muito e muito melhor. Mas não podemos duvidar que se impõe que nos preparemos para esse impacto no tocante às diferentes questões existenciais que comporta. Como o disse o malogrado Stephen Hawking falecido em Março passado (2018): “uma inteligência artificial bem sucedida será o maior evento da história humana; infelizmente, poderá ser também o último”.

Importa nunca esquecer: (i) um robô, o robô-Sophia ou qualquer outro que se lhe assemelhe, não pode ferir um ser humano ou, por inacção, permitir que um ser humano sofra algum mal; (ii) um robô deve obedecer sempre às ordens que lhe sejam dadas pelo próprio ser humano, excepto quando envolvam qualquer mal para o mesmo; (iii) um robô deve proteger a sua própria existência desde que tal proteção não entre em conflito com nenhum dos dois princípios anteriores.

Sendo o homem capaz de criar algo muito mais inteligente do que ele próprio, está em condições de fazê-lo com a imposição a esses seres super-inteligentes uma consciência moral que os salvaguarde de infringirem e violarem a fronteira do humano?

Entramos no mundo da ciência com consciência de que tanto falou Edgard Morin.

A Ciência com a sua realidade multidimensional, pode produzir efeitos profundamente ambivalentes. A ciência empírica, em particular, quando privada de Reflexão e privada de uma filosofia puramente especulativa será sempre uma ciência insuficiente e altamente perigosa.

Em si mesmas as ciências humanas não têm consciência dos caracteres físicos e biológicos dos fenómenos humanos. Enquanto não conseguirem tê-la, elas não poderão transmiti-la nunca a qualquer dos seus artefactos por mais inteligentes que os homens seus autores o não consigam. E sem a presença desta consciência na progressão linear e contínua do progresso científico, a relação dialética com o que o Homem produz arrisca tornar-se regressiva: o perigo dos meios extremamente poderosos de transformação, manipulação e destruição, como as armas atómicas e as experiências genéticas e agora a inteligência artificial podem tornar-se extremamente mutilantes do progresso científico criador de um maior bem-estar da sociedade. Sem ele, a aventura científica conduzirá à catástrofe e não ao mundo melhor que tanto desejamos.

Este é o grande problema ético inerente à criação de qualquer produto de inteligência artificial, inerente também à criação e manipulação de todo e qualquer robô, seja ele o robô Sophia ou qualquer outro. Ao criar um robô, a tecnologia não pode nem deve ignorar a atitude ética que todo o raciocínio e toda a psicologia moral pressupõem,,.

Apraz-nos registar aqui o quanto toda esta problemática ética é feliz e conscientemente vivida hoje pela comunidade científica e quanto ela está bem presente a vários e diversos níveis nos mais significativos eventos científicos, por exemplo, na Web Summit que acaba de se realizar em Lisboa (Lisboa, Altice Arena, 5-8 Setembro, 2018). Nesta, foram várias as intervenções que fizeram questão de deixar bem claro que não podemos passar indiferentes à discussão sobre as tecnologias e os problemas que elas suscitam quanto à sua adopção. Temos de nos manter sempre muito atentos ao seu desenrolar e sempre preparados para avaliar cada vez com maior pormenor e consciência os seus impactos potenciais e a sua regulação. É preciso manter bem vivo o apelo à consciência e deontologia profissional dos informáticos; mantê-los sempre muito atentos às implicações das suas descobertas para o bem e para o mal. Não nos podemos deixar colonizar pelas empresas tecnológicas; não nos podemos tornar peças de mecanismos que não controlamos. Como bem aí o afirmou Margrethe Vestager, a Comissária europeia para a concorrência, é necessário que “os reguladores das tecnologias mantenham um olhar atento e regras apertadas sobre o que as empresas do sector tecnológico estão a fazer”.

Para terminar, deixamos aqui o apelo do padre Manuel Antunes, cujo centenário do nascimento se celebra neste ano de 2018: “não permitamos nunca que a tecnologia sirva um regresso da Humanidade à barbárie e à animalidade”. A vivermos continuamente sob a ameaça de um futuro cada vez mais distópico, com uma sociedade enredada em condições de vida extremamente negativas, não deixemos que os robots tomem o controlo do mundo.


Referências

[1] Vid., vg. Meet the first-ever robot citizen — a humanoid named Sophia that once said it would destroy humans  in  Business Insider. Oct. 27, 2017; retomado a Oct. 28, 2017.

[1]Vid.,.vg., World’s first robot ‘citizen’ Sophia is calling for women’s rights in Saudi Arabia” in CNBC, 2018-05-16.

[1] https://twitter.com/hashtag/sophiatherobot

[1] Alan TuringComputing Machinery and Intelligence  in  Mind, New Series, Vol. 59, Oct., 1950, pp. 433-460.

[1]Robert Sparrow, Robots in aged care: a dystopian future? in Artificial Inteligence and Society 31 (4):1-10 (2016). 

[1] Citado por Rory Cellan-Jones, correspondente da BBC in  Stephen Hawking, a Inteligência artificial pode destruir a humanidade. BBC News, 2 dezembro 2014.

[1]Edgard Morin,  Edgar MorinScience avec conscience, Librairie Artheme Fayard, 1982; Paris: Seuil, 1990. Trad. Portuguesa, Edbard Morin, Ciência com consciência, Publ. Europa-América, Lisboa, 1982.

[1]Jéssica Christien, Inteligência Artificial: a geração ‘Z’ e o futuro são agora in  Blog:Projecto Redacção,temas-de-redacão in https://www.projetoredacao.com.br.

[1]Eliza Ste, Inteligência Artificial: fascínio ou medo in Blog:Projecto Redacção  temas-de-redacão) in https://www.projetoredacao.com.br.

[1]Mark Coeckelbergh, Why care about Robots? Empathy, moral Standing and the language of suffering in Kairos,Journal of Phylosophy & Science, 20 (2018), pp.141-158.

[1]Aimee van Wynsberghe, Designing Robots for Care: Care Centered Value-Sensitive Design. [REVIEW]  in Science and Engineering Ethics 19 (2013),pp.407-433.

[1]Catrin MisselhornUlrike Pompe & Mog Stapleton, Ethical Considerations Regarding the Use of Social Robots in the Fourth Age in Geropsych, 26 (2013) pp.121-133.

[1] M.Antunes, SJ, Educação e Sociedade, (Lisboa, Ed. Sampedro), pg.33.

[1] António M. Amorim da Costa, Antiutopismo in Dicionário dos Antis, a cultura Portuguesa em negativo (Direcção de J.Eduardo Franco, Lisboa, Imprensa Nacional, 2018), pp.1910-1912.

[1]Miguel Patanhas Dias, A destituição do ser humano da sua humanidade in blog De Rerum Natura, 8.Nov.2018.


SÉTIMO ENCONTRO TRIPLOV NA QUINTA DO FRADE
Casa das Monjas Dominicanas . Lisboa . Lumiar
17 de Novembro de 2018