Máquinas autônomas, como os carros auto-conduzidos, podem estar muito próximas da viabilidade técnica, mas ainda estão longe de garantir “comportamentos” moralmente aceitáveis para os humanos. O Media Lab do Massachusetts Institute of Technology (MIT) desenvolveu, há algum tempo, um projeto chamado “moral machine” (máquina moral) que recolhe contribuições sobre como diferentes indivíduos, com diversas bagagens culturais, definiriam escolhas moralmente aceitáveis. Algumas são fáceis de prever, outras nos colocam em xeque.
Vejamos: parece razoável que, num inevitável acidente, opte-se pela solução que gere menos vítimas fatais. Um operador de desvio ferroviário pode se ver numa situação em que deve escolher para qual de dois ramais desviará um trem. Num ramal há cinco pessoas sobre os trilhos, e no outro apenas uma. Mesmo com pesar, parece certo desviar o trem para o trilho em que há apenas uma pessoa, poupando cinco. Modifiquemos o cenário, eliminando a bifurcação. De novo há os cinco humanos expostos ao trem, e agora há uma ponte sob a qual o trem passará. Nesta ponte está um homem avantajado e pesado que, se for arremessado sobre os trilhos, fará o trem parar poupando os cinco. Poucos optam, neste caso, por empurrar a vítima ponte abaixo, mesmo que isso represente salvar cinco. São complexas as regras morais que usamos para decidir algo, e que eventualmente gostaríamos de ver refletidas nos autômatos. Vale a pena uma visita em “moralmachine.mit.edu”
A coisa se complica ainda mais quando considerarmos a criação de personalidades artificiais. Dia desses recebi um vídeo em que um Salvador Dalí, redivivo, falava e gesticulava de forma muito convincente e natural. Mais que isso, ele respondia a perguntas dos admiradores e até tirava fotografias com eles.
Bem... Isso não nos causa mais tanto espanto: a partir de uma simples fotografia sabemos que já se pode criar uma animação curta e, se tivermos dados sobre a voz da pessoa e alguma documentação de seus tiques gestuais, a animação ficará quase indistinguível de uma cena real. Algo falso, profundamente falso e, ao mesmo tempo, profundamente realista.
Além de se poder falsificar a realidade em formas bastante críveis, pode-se “criá-la” do nada. Já há como gerar imagens de pseudo indivíduos que nunca existiram, mas que nos parecem naturais e perfeitamente e possíveis. Bem distante de caricaturas graficamente rudimentares e facilmente reconhecíveis. À medida em que a distinção tornar-se menos e menos perceptível, não estaremos longe de duvidar até de realidades de nosso passado. Aquele filme em que estou dançando, aparentemente bêbado, será meu mesmo? Afinal não sou nada hábil em meneios corporais, mas... afinal, pode ser que estivesse tão alterado que perdi a memória clara do evento. E neste, onde eu, normalmente contido, estou agressivamente ofendendo um amigo de longa data? Por que raios eu estaria fazendo isso? Seria eu mesmo?
Fernando Pessoa, que tinha isso sob estrito controle, escreveu: “... Eu sou muitos. Mas, com o ser muitos, sou muitos em fluidez e imprecisão. Muitos creem coisas falsas ou incompletas de mim; e eu, falando com eles, faço tudo por deixá-los continuar nessa crença. Perante um que me julgue um mero crítico, eu só falo crítica. A princípio fazia isto espontaneamente. Depois decidi que isto era porque, no meu perpétuo anseio de não levantar atritos...”
===
MIT, Media Lab:
http://moralmachine.mit.edu
Salvador Dalí:
https://www.youtube.com/watch?v=MZ2X-fSIPSU
o trecho do Fernando Pessoa:
http://arquivopessoa.net/textos/2676
===
Vejamos: parece razoável que, num inevitável acidente, opte-se pela solução que gere menos vítimas fatais. Um operador de desvio ferroviário pode se ver numa situação em que deve escolher para qual de dois ramais desviará um trem. Num ramal há cinco pessoas sobre os trilhos, e no outro apenas uma. Mesmo com pesar, parece certo desviar o trem para o trilho em que há apenas uma pessoa, poupando cinco. Modifiquemos o cenário, eliminando a bifurcação. De novo há os cinco humanos expostos ao trem, e agora há uma ponte sob a qual o trem passará. Nesta ponte está um homem avantajado e pesado que, se for arremessado sobre os trilhos, fará o trem parar poupando os cinco. Poucos optam, neste caso, por empurrar a vítima ponte abaixo, mesmo que isso represente salvar cinco. São complexas as regras morais que usamos para decidir algo, e que eventualmente gostaríamos de ver refletidas nos autômatos. Vale a pena uma visita em “moralmachine.mit.edu”
A coisa se complica ainda mais quando considerarmos a criação de personalidades artificiais. Dia desses recebi um vídeo em que um Salvador Dalí, redivivo, falava e gesticulava de forma muito convincente e natural. Mais que isso, ele respondia a perguntas dos admiradores e até tirava fotografias com eles.
Bem... Isso não nos causa mais tanto espanto: a partir de uma simples fotografia sabemos que já se pode criar uma animação curta e, se tivermos dados sobre a voz da pessoa e alguma documentação de seus tiques gestuais, a animação ficará quase indistinguível de uma cena real. Algo falso, profundamente falso e, ao mesmo tempo, profundamente realista.
Além de se poder falsificar a realidade em formas bastante críveis, pode-se “criá-la” do nada. Já há como gerar imagens de pseudo indivíduos que nunca existiram, mas que nos parecem naturais e perfeitamente e possíveis. Bem distante de caricaturas graficamente rudimentares e facilmente reconhecíveis. À medida em que a distinção tornar-se menos e menos perceptível, não estaremos longe de duvidar até de realidades de nosso passado. Aquele filme em que estou dançando, aparentemente bêbado, será meu mesmo? Afinal não sou nada hábil em meneios corporais, mas... afinal, pode ser que estivesse tão alterado que perdi a memória clara do evento. E neste, onde eu, normalmente contido, estou agressivamente ofendendo um amigo de longa data? Por que raios eu estaria fazendo isso? Seria eu mesmo?
Fernando Pessoa, que tinha isso sob estrito controle, escreveu: “... Eu sou muitos. Mas, com o ser muitos, sou muitos em fluidez e imprecisão. Muitos creem coisas falsas ou incompletas de mim; e eu, falando com eles, faço tudo por deixá-los continuar nessa crença. Perante um que me julgue um mero crítico, eu só falo crítica. A princípio fazia isto espontaneamente. Depois decidi que isto era porque, no meu perpétuo anseio de não levantar atritos...”
===
MIT, Media Lab:
http://moralmachine.mit.edu
Salvador Dalí:
https://www.youtube.com/watch?v=MZ2X-fSIPSU
o trecho do Fernando Pessoa:
http://arquivopessoa.net/textos/2676
===
Nenhum comentário:
Postar um comentário