Thursday, 9 December 2021

Nas fronteiras da roboética

 http://www.ihu.unisinos.br/615043-nas-fronteiras-da-roboetica

Nas fronteiras da roboética

09 Dezembro 2021

 

A disseminação dos robôs em contextos industriais, mas também a presença mais invasiva de plataformas e aplicativos que utilizamos todos os dias nos nossos celulares, levanta uma série de problemas que têm relação com a esfera ética. A roboética, portanto, é aquela parte da ética das tecnologias que estuda as implicações advindas da interação homem-robô, que, como explica o Pe. Paolo Benanti, professor de Teologia Moral e Ética das Tecnologias na Pontifícia Universidade Gregoriana, estão ligadas à própria natureza dessa interação.

 

A reportagem é publicada por Italia 4.0, 01-12-2021. A tradução é de Moisés Sbardelotto.

 

“Na interação homem-robô, é preciso fazer uma grande distinção preliminar – explica Benanti –, ou seja, enquanto a máquina funciona, o ser humano vive e tem uma experiência da interação com o robô, que não é apenas de natureza racional, mas também emocional. A experiência da interação com a máquina, portanto, pode ser positiva e também negativa: a user experience intervém aqui para estudar, projetar e minimizar os possíveis efeitos negativos que podem derivar da relação com a máquina.”

 

As implicações éticas, portanto, tornam-se ainda mais importantes quando as máquinas adquirem autonomia própria, e isso graças ao desenvolvimento de algoritmos que lhes permitem elaborar resultados sobre os quais decisões são tomadas, orientando os nossos comportamentos.

 

 

“Nesse sentido, os algoritmos se aproximam muito daquela que é a própria definição de lei, como ‘dispositivo feito por uma instituição para orientar o comportamento das pessoas’”, observa Benanti. “Aqui surge uma tensão entre a sociedade dos algoritmos e o Estado de direito em que gostaríamos de viver, cujos pressupostos são que a lei seja conhecível, universal e geral. Entretanto nenhuma das três condições vale para os algoritmos, pois um algoritmo não é conhecível nas modalidades nas quais ele realmente elabora os dados – e aqui é forte a tendência rumo à explainable AI – nem é universal quando faz perfis, nem é geral, pois só obedece aos padrões dos servidores.”

 

Outro argumento notável está ligado à disseminação das plataformas de software, que hoje adquirem aqueles dados que as pessoas oferecem em troca de serviços pelos quais não pagam. Dados que, tomados individualmente, não têm valor, mas que, agregados a outros, representam uma fonte inconsumível para os algoritmos extraírem valor, levando a uma espécie de capitalismo de dados. Que envolve um problema ético, exigindo uma espécie de “algorética”, além da roboética, quando se torna necessário fazer um equilíbrio entre o respeito aos direitos fundamentais da pessoa e os objetivos de otimização do lucro e da rentabilidade de um processo.

 

Foto: Pexels

 

“Um aspecto ético igualmente relevante é o declínio cognitivo que a adoção cada vez mais difundida de robôs e plataformas pode trazer consigo”, explica Benanti. “Pensemos, por exemplo, na inteligência artificial do módulo GPT-3, que, a partir de uma solicitação em linguagem natural, é capaz de desenvolver o código para gerar a aplicação desejada, por exemplo, um certo tipo de site. Trata-se, naturalmente, de um instrumento muito poderoso, mas também uma skill-killer application, pois quem vai querer lidar com desenvolvimento de software se no futuro houver sistemas desse tipo que podem fazer isso automaticamente?”

 

Para dar um exemplo mais próximo do cotidiano de todos, basta pensar no fato de que, antigamente, a memória das pessoas era treinada para lembrar todos os números de telefone das pessoas mais queridas, enquanto hoje muitas vezes não nos lembramos mais de nenhum deles, já que temos um assistente digital nos nossos telefones que faz isso por nós. E aqui a tecnologia induz a uma espécie de antropomorfismo, um curioso evento em que nós somos a própria causa de uma mutação da espécie.

 

 

Por isso, é importante também antecipar e prever os possíveis desenvolvimentos e efeitos a longo prazo das tecnologias, intervindo também do ponto de vista normativo sobre aqueles aspectos que devem ser governados para proteger os direitos fundamentais das pessoas, e talvez até a sua própria natureza.

 

Intimamente ligado a isso, portanto, está também a questão de como o trabalho está mudando, à luz da entrada dos robôs nas empresas, como explica Marco Bentivogli, coordenador e cofundador da BASE Italia.

 

“Hoje, precisamos de uma nova narrativa dos robôs, que faça com que as pessoas saibam que entramos na segunda era dos robôs”, afirma Bentivogli. “Os robôs de hoje não são mais os velhos robôs industriais, vistos como algo que tirava o trabalho do ser humano e que ainda hoje são os que normalmente estão envolvidos quando se trata de acidentes de trabalho. Um elemento que deve ser narrado, por sua vez, é acima de tudo que as máquinas de hoje podem coexistir com o ser humano, e que, desse modo, o trabalho se hibridiza com a máquina, segundo um perímetro da operação e da atividade que é decidido pelo próprio ser humano e em sua vantagem.”

 

Foto: Pexels

 

Dentro dessa nova narrativa dos robôs atuais, segundo Bentivogli, também devem as formas de pensar os negócios e o trabalho, libertando-se de velhas categorias como as do controle e da exploração. “O relato dessa nova realidade deve ser acompanhado por uma visão positiva – continua Bentivogli –, abandonando ideias como a de que a tecnologia traz catástrofes e anula o trabalho. Por exemplo, um wearable vestido por um funcionário em um depósito, nesse sentido, é um instrumento que o ajuda a completar com segurança o seu trabalho com segurança, sem cometer erros nem ter que repetir operações para remediar. Ele não deve ser visto como algo que torna o trabalhador não mais autônomo, mas heterodirigido. Se, depois, olharmos para as tecnologias digitais hoje na empresa, elas descongelam o espaço e o tempo, tornando muito mais fluida e flexível a disposição dos horários de trabalho e dos dedicados ao tempo livre para as pessoas. Quanto mais cresce a presença de robôs e o IoT na empresa, mais a proximidade física se torna um requisito cada vez menos indispensável, também no smart working industrial.”

 

Um fato evidente e muito importante de como os conceitos de trabalho e empresa estão mudando nesta segunda era dos robôs é, portanto, o fato de que, para os empresários, o esforço hoje é percebido como um desperdício, enquanto o que se busca é um maior engajamento cognitivo por parte das pessoas, no momento em que os robôs assumem as tarefas mais desgastantes e repetitivas.

 

“O trabalho deve ser cada vez mais centrado como uma experiência que qualifica e faz as pessoas se realizarem”, conclui Bentivogli. “É claro também que a adoção de robôs e tecnologias digitais envolve um deslocamento, que deixa um vazio que deve ser preenchido desenvolvendo novas competências e capacidades cognitivas.”

 

 

Nesse sentido, é fundamental que, no desenvolvimento de robôs cada vez mais inteligentes, se pense também em preservar o trabalho, levando-o a um nível superior que valorize a pessoa, assim como paralelamente, em um nível social mais amplo, aquilo que deve ser protegido é a relação entre as pessoas. Pois a interação com o robô pode trazer enormes vantagens, em termos de segurança, de maior eficiência, mas não poderá e nunca deverá ser substitutiva da dimensão relacional entre as pessoas. Um valor fundamental que coloca o princípio do antropocentrismo no coração do desenvolvimento de robôs avançados e de plataformas inteligentes, para que a tecnologia esteja sempre a serviço do ser humano, e nunca o contrário.

 

Leia mais

 

By - No comments:
Labels:

Humanismo digital: o oxímoro de hoje. Artigo de Derrick de Kerckhove

 http://www.ihu.unisinos.br/615039-humanismo-digital-o-oximoro-de-hoje-artigo-de-derrick-de-kerckhove


Humanismo digital: o oxímoro de hoje. Artigo de Derrick de Kerckhove

09 Dezembro 2021

“A inteligência artificial é compatível com o humanismo? Tenho motivos para duvidar disso, pelo menos na sua versão ocidental, mas não necessariamente na chinesa. Tudo depende se estamos falando de seres humanos como indivíduos ou como coletividade.”

 

A opinião é de Derrick de Kerckhove, ex-diretor por mais de 20 anos do Programa McLuhan em Cultura e Tecnologia da Universidade de Toronto, consultor científico da Tutti-Media e professor no Politécnico de Milão, na Itália.

 

O artigo foi publicado em NewsMedia4Good, 02-09-2021. A tradução é de Moisés Sbardelotto.

 

Eis o texto.

 

“No princípio era a palavra, e a palavra se fez carne.” As palavras foram os primeiros algoritmos humanos. Na sua “Scienza Nuova”, Giambattista Vico fornece a explicação mais confiável e simples ainda de como as palavras nasceram a partir de enunciados, gritos e grunhidos que acompanhavam e estendiam gestos e movimentos.

 

Antes do aparecimento e do desenvolvimento das palavras, os sentidos eram os principais algoritmos que guiavam a ação e o comportamento, não somente do ser humano, mas também de todos os animais. Para os animais, em geral, os sentidos eram suficientes; eles guiavam e produziam a ordem social. Com os sentidos, há pouca ou nenhuma separação entre experiência e interpretação. Sentir algo já é uma interpretação desse algo.

 

Foram as palavras que introduziram uma separação entre experiência e interpretação (de significante a significado), mas as palavras permaneceram subordinadas aos sentidos até serem escritas, como também observou Vico. Ao formalizar e estabilizar as relações entre palavras e significado, a escrita estreitou a gama dos significados possíveis. E as palavras, assim, assumiram a função algorítmica dos sentidos.

 

Mas as palavras ainda são algoritmos muito soltos, tão soltos que, da exegese bíblica e da hermenêutica a Wittgenstein, a filosofia – e depois a semiótica – fez esforços desesperados para torná-las mais circunscritas. Agora, a digitalização poderia conseguir eliminar totalmente a interpretação, concentrando-se não no significado, mas nas próprias palavras.

 

É por isso que a transformação digital e a inteligência artificial que a está guiando estão destronando o significado, tornando-o mais ou menos inútil para fazer o mundo funcionar.

 

O que eu entendo por algoritmo é qualquer coisa que induza um comportamento – técnico, social ou pessoal – em uma ordem coerente. Ele não é infalível – nem a inteligência artificial o é – mas, em geral, parece funcionar melhor do que o caótico mundo das palavras.

 

A batalha de palavras está perdida? Com as fake news e a negação das ciências, a objetividade e o bom senso foram afugentados, as opiniões disseminadas como manchas de óleo no mar do significado criam redemoinhos envolventes. Chama-se isso de “pós-verdade”, como se a verdade sempre tivesse estado disponível antes.

 

“Finnegan’s Wake”, de Joyce, soou o grito de guerra, o primeiro festival de superposições quânticas de significados. A física quântica e as figuras tecnológicas que ela já está produzindo se tornarão o próximo campo da cultura. A pergunta é: ele incluirá o humanismo?

 

Para responder a essa pergunta, é importante conhecer a base, o campo que temos debaixo dos nossos pés: the ground, como dizem os ingleses. Assim como a terra faz flores, o nosso modo de vida produz comportamentos. A humanidade já experimentou dois grandes sistemas e se prepara para explorar um terceiro.

 

O primeira está ligado à linguagem, cujo propósito e princípio era – e ainda é – produzir significado. A partir desse princípio, surgiram inúmeras figuras que dão ou buscam um significado. O logocentrismo, outra palavra para estabelecer a linguagem como fundamento, é a base de algumas das maiores narrativas do mundo. A busca de sentido, desde o início, leva à divindade, primeiro da natureza, depois da cultura, depois do “povo”, depois das pessoas.

 

O cristianismo era a religião das pessoas nascidas da alfabetização, que colocava a própria linguagem – não só as ideias e a imaginação – sob o controle pessoal. Eis quando e por que o humanismo ocidental começou (Deus dá o input à própria produção de sentido, mas depois o seu mundo se seculariza rapidamente...).

 

Com as religiões, os seres humanos se submeteram de bom grado às ficções que criaram para consolidar um significado global, o arquialgoritmo, se poderia dizer. O campo da linguagem produziu diversos corolários, ou subcampos, dependendo de como condicionou e modelou os sistemas de escrita; por exemplo, as línguas polissilábicas, como o indo-europeu, eram todas orientadas para representações fonológicas, enquanto as monossilábicas, como o chinês mandarim, eram obrigadas a recorrer à pictografia para eliminar a ambiguidade entre miríades de homônimos.

 

O fato interessante que pode estar relacionado à sua relação diferente com o significado é que os chineses, embora não totalmente desprovidos de religiões (taoísmo, confucionismo e as religiões estrangeiras, como o cristianismo, o budismo e o Islã, que eles toleram com relutância), na realidade não têm deuses. Ao longo dos milênios, eles respeitaram profundamente a sabedoria, mas não cederam à necessidade de divinizar os seus sábios, como fizeram os cristãos ou budistas com Cristo e Buda. Assim, pode-se argumentar que uma forma genuína de humanismo começou na China muito antes do Ocidente.

 

Haveria muito mais a dizer no campo da língua e sobre as suas consequências, incluindo o humanismo e, de fato, até mesmo a própria ideia de distinguir e privilegiar radicalmente os “humanos” sobre os outros animais, mas sigamos em frente.

 

O novo não é a palavra, mas a cifra e, entre os seus princípios está o de traduzir todas as línguas, todos os sentidos, toda a matéria no menor denominador comum possível, o código binário de 0 e 1. E mesmo essa condição binária pode ser parcialmente reduzida a um, simplesmente ligando e desligando um. Isso coloca um pouco todos os significados no mesmo nível, todos engolidos pelo ambiente digital único: ligados e desligados, dependendo da demanda.

 

Para as operações digitais, o significado é apenas um acessório, ocasionalmente útil, mas geralmente não necessário. Um dos efeitos mais irônicos da digitalização é que ela pode traduzir todas as línguas do mundo sem conhecer sequer uma delas. Outro princípio é combinar o hardware com o software, ou seja, tornar inteligentes tanto os objetos inanimados quanto os animados.

 

E é aí que entra em jogo a inteligência artificial. Por uma questão de ordem, tudo deve se tornar ciente e responder a tudo, inclusive humanos e instrumentos. Se há uma possibilidade para a humanidade de regular as mudanças climáticas e sobreviver, é aí que ela se encontra. Mas, por enquanto, não estamos nem um pouco próximos disso. Provavelmente será preciso esperar pelo próximo campo.

 

Dito isso, a inteligência artificial é compatível com o humanismo? Tenho motivos para duvidar disso, pelo menos na sua versão ocidental, mas não necessariamente na chinesa. Tudo depende se estamos falando de seres humanos como indivíduos ou como coletividade. Ao priorizar o bem-estar social sobre o bem-estar individual, os chineses se sentem perfeitamente à vontade sendo dirigidos por algoritmos e “créditos sociais”.

 

O humanismo ocidental está comprometido com o individualismo, com o direito à liberdade de consciência e à privacidade da sua mente, condições de que a democracia não pode prescindir. Embora os ocidentais em geral ainda acreditem que têm liberdade de consciência, ignorando não sinceramente que as suas escolhas são feitas para eles pelos algoritmos, a sua privacidade está “over”, como Mark Zuckerberg observou alegremente alguns anos atrás.

 

No Ocidente – assim como no Oriente, mas por razões diferentes e de modos diferentes – os movimentos e as ações de todos, dentro e fora, on e offline, são rastreados, registrados e catalogados. Tais movimentos e ações ainda são a base para fazer inferências sobre o que e como essas mentes “privadas” pensam, mas é apenas uma breve questão de tempo antes que se invente alguma engenhoca inteligente para entrar nessas mentes para prever e controlar melhor o comportamento.

 

O humanismo ocidental requer uma separação nítida entre as pessoas, permitindo-lhes não apenas criar e desenvolver opiniões individuais, teorias, produtos e formas de arte, mas também respeitar o campo comum dos significados como “objetivos”, o que significa “independentes das suas opiniões”, e o reconhecimento de que tais opiniões subjetivas são permitidas desde que sejam apenas propostas, não impostas aos outros.

 

Não é o que ocorre hoje. A opinião de todos é imposta a todos os outros nas mídias sociais, sem a menor consideração por quaisquer referências consensuais.

 

É hora de enfrentar esta questão: a transformação digital não está mais – nem menos – interessada nos humanos do que no significado. Os humanos são um acessório ainda útil, porque, como McLuhan sugeria espirituosamente, “o ser humano se torna, por assim dizer, o órgão sexual do mundo das máquinas, como a abelha do mundo vegetal, permitindo-lhe fecundar e evoluir para formas sempre novas”.

 

Sabemos o que está acontecendo com as abelhas, e isso serve de alerta. A tecnologia precisa da biologia para seguir em frente e precisa de ideias, invenções e desenvolvimento, mas não se preocupa muito com os valores. O humanismo, por outro lado, é fundamentalmente um sistema de valores. Ele ainda pode ser proposto como um baluarte contra a racionalidade enlouquecida da inteligência artificial? Pode ser. Ele ainda está funcionando razoavelmente bem como dispositivo de frenagem, inspirando os programadores de inteligência artificial a analisarem os preconceitos automáticos.

 

Assim como os ocidentais devem continuar alimentando a ilusão cristã de serem “autodirigidos”, eles também devem manter em suspenso os valores humanistas, pelo menos até que estejamos bem dentro do terceiro campo, o da “ecologia quântica”, que tem o poder global de tornar tudo consciente de tudo ao mesmo tempo.

 

Leia mais

 

By - No comments:
Labels:
Subscribe to: Posts (Atom)