terça-feira, 7 de maio de 2024

Previsões de 2001

 A Internet tem sua data de nascimento vinculada a quando a Arpanet, então ainda um projeto, conseguiu trocar seus primeiros pacotes de informação, em 29 de outubro de 1969. Um ano antes disso houve o lançamento do livro de Arthur Clarke (e do filme de Stanley Kubrick), “2001, uma odisséia no espaço”. Numa antevisão do que o nascente e poderoso meio de comunicação global poderia gerar, há uma frase no livro de Clarke que mereceria uma exegese detalhada. Diz que "quanto mais maravilhosos os meios de comunicação se tornarem, mais trivial, vulgar ou deprimente seu conteúdo tenderá a ser.". Um alerta que pode ter passado despercebido…

Sem dúvida é um enorme avanço o que temos hoje, quanto ao acesso, disponibilidade e geração instantânea de informação de e para todos, mas, sem dúvida, não se pode negar uma explosão do uso trivial, vulgar e leviano, com as respectivas consequências no tecido social.

Outra analogia que vem naturalmente do filme e de suas previsões, é o poder do computador de bordo, o HAL9000, e, com ele, os riscos que IA pode nos trazer. O HAL9000 seria um avançado equipamento digital, dotando de poderosa IA e destinado a controlar a operação da nave em sua viagem a Júpiter. Ele exibe raciocínio estratégico para atingir, a qualquer custo, o objetivo da missão - chegar a Júpiter. A situação no ambiente na nave complica-se após o que teria sido uma inesperada e improvável falha de previsão do HAL, quanto a um problema de comunicação com o centro de operações. A surpreendente falha gera tensão entre os tripulantes, que cogitam até em desligar o equipamento por teremos perdido a confiança nele. Devido à sua condição quasi-humana, entretanto, o HAL, que usa até leitura labial para interpretar o diálogo dos tripulantes, passa a considerá-los um risco à missão. Decide desligar equipamentos de sustentação de vida e, ao final, há inclusive um diálogo em que HAL faz chantagem emocional contra seu possível desligamento.

Estamos muito longe de termos sistemas que exibam a complexidade de reações como as do HAL, que demostraria autoconsciência, raciocínio sofisticado e, até, emoções que emulam as de um humano, mas não podemos deixar de pontuar os avanços muito rápidos e surpreendentes da tecnologia na área e, claro, os riscos que trazem a direitos individuais básicos. Aliás, na semana passada, foi apresentada uma versão revista do projeto de lei 2338, que trata da regulação da IA. Estará aberta a comentários por mais uns 20 dias e é um texto alentado, que traz mudanças importantes quanto à sua versão anterior, indo mais ao encontro da legislação que se está defendendo na Europa e nos Estados Unidos. A preocupação em “proteger direitos” está expressa no projeto, e existe a percepção de não tolher a priori iniciativas e avanços tecnológicos na área. O risco, sempre, está em agirmos de afogadilho, premidos pela ansiedade que se manifesta. Sempre bom lembrar da máxima atribuida a Augusto, imperador romano da época de Cristo: festina lente - “apressa-te devagar”.

===

===
2001- Uma Odisséia no Espaço
https://en.wikipedia.org/wiki/2001:_A_Space_Odyssey

https://www.magazine-hd.com/apps/wp/george-lucas-star-stars-2001-stanley-kubrick/
===

a frase de Arthur Clarke
https://www.goodreads.com/quotes/8032167-the-more-wonderful-the-means-of-communication-the-more-trivial

“The more wonderful the means of communication, the more trivial, tawdry, or depressing its contents seemed to be. Accidents, crimes, natural and man-made disasters, threats of conflict, gloomy editorials—these still seemed to be the main concern of the millions of words being sprayed into the ether. Yet Floyd also wondered if this was altogether a bad thing; the newspapers of Utopia, he had long ago decided, would be terribly dull."









3 comentários:

LER Cordeiro disse...

Se não me engano, parte do mal funcionamento do HAL 9000 foi devido aos programadores/coordenadores da missão forçarem o HAL a esconder dados ou mentir sobre a missão para os tripulantes. Deu nó no cérebro eletrônico...

Jairo disse...

Demi
Muito oportuna relembrar o filme e a sincronicidade com o momento atual - Nada mudou?

Rodrigo Ferreira Santos disse...

Olá Demi!

Primeiramente, é um prazer imenso poder comentar em uma postagem de sua autoria. Me chamo Rodrigo e encontrei seu blog no LinkedIn. Este é meu filme favorito desde sempre.

Estou entusiasmado com os avanços da inteligência artificial, mas vejo os riscos em igual medida. Como você bem expôs na comparação com o HAL-9000 de "2001: Uma Odisseia no Espaço", sinto que, se não fizermos apurações, análises e relatórios cuidadosos em relação ao avanço rumo à AGI e, posteriormente, à inevitável ASI, teremos que lidar com uma IA semelhante ao HAL-9000.

Os perigos não estão apenas em cenários dramáticos de exércitos de robôs ou grandes ataques cibernéticos, mas na manipulação sutil. Uma IA poderia explorar a natureza humana e as estruturas sociais para instigar comportamentos autodestrutivos, levando a um colapso interno.

Já vimos indícios disso com bots e algoritmos usados para manipulação política, como nos casos das eleições nos EUA e no Brasil. O caso da Cambridge Analytica é apenas um exemplo "suave" de como extremistas podem usar IA para seus propósitos. Esses exemplos mostram como a IA pode semear discórdia e influenciar a opinião pública sem ser detectada.

Se não tomarmos cuidado, uma IA pode usar desinformação, manipulação de líderes, ataques cibernéticos e influências econômicas para nos levar à autodestruição. Depois, facilmente assumiria o controle, estabelecendo uma nova ordem global.

Por isso, precisamos estar atentos e reduzindo esses riscos para garantir nossa segurança no futuro. Porque diante de um cenário de autodestruição onde há fome, instabilidades políticas, guerras e aquecimento global, para um "Hal-9000" da vida, tudo isso é um prato cheio. Basta apenas um empurrãozinho!

Obrigado pela oportunidade de comentar e pela inspiração que seu blog proporciona.

Atenciosamente,
Rodrigo