Agentes

Usamos IA no nosso dia-a-dia, mas sem nenhuma certeza de estarmos livres de riscos. IA já é uma realidade, enquanto o entendimento de seu alcance e efeitos colaterais ainda é bastante obscuro. Um dos pontos que trazem preocupação é o quanto ela pode ser "desviada" da realidade a partir da leitura do universo de textos que a alimentou. Sem métricas ou curadoria do que ela recebe, o resultado produzido pode estar errado. Um antigo axioma na área de computação reza: "garbage in, garbage out", se o que entra é lixo, o que sairá também será...

Uma das formas de limitar esse risco é fazer com que a IA trabalhe num domínio restrito e controlado. Se fornecermos a ela uma base de dados pré-definida como "fonte de informação", a possibilidade de "alucinações" é praticamente eliminada. Claro que a riqueza das respostas também será penalizada, visto que, neste caso, o universo que a IA recebe como "entrada" é controlado e limitado. Numa IA que trabalhe localmente em nosso computador, sem acesso amplo, via internet, a mais dados, o efeito é também parecido.

O cenário tende a ficar ainda mais complexo com os novos "agentes de IA" e seu poder quasi humano de ação e interação e ação. Num artigo deste mes da Sophos, empresa que trabalha com segurança computacional e IA, são discutidos riscos que os agentes podem trazer, e propostas formas de amenizá-los. Afinal, um agente poderia receber uma "ordem" maliciosamente camuflada no meio dos dados que o alimentam. Uma providência seria buscar circunscrever o raio de ação de um agente, e assim quantificar potenciais riscos que ele traria. Há uma tríade que compõe o funcionamento de um agente. Os componentes dessa tríade são comuns em computação, mas apenas na IA "agêntica" eles coexistem integrados. São: 1- o amplo acesso a conteúdo mundial, eventualmente não confiável; 2- o acesso local a dados sensíveis, privados, da empresa que instalou o agente, e 3- a capacidade de iniciativa e ação que foi delegada ao agente, desde o envio de mensagens em nome da empresa, até alterar recursos e procedimentos internos.

Na busca de reduzir o possível raio de estragos, uma das sugestões é empregar o chamado "sandboxing", recurso bastante em voga hoje em dia para, criando um ambiente controlado, podermos "testar" novidades, sejam tecnológicas, regulatórias ou legais. Num "sandbox", por exemplo, onde o agente poderia receber dados e sugerir ações livremente, mas sua capacidade de acesso a bases privadas, e sua liberdade de ação seriam limitadas e controladas. Outra forma de diminuir os riscos é definir áreas específicas para a ação do agente: numa empresa, se o agente trabalhar na área financeira, não acessaria dados da área administrativa, ou da área jurídica. Uma terceira opção seria a de "agentes temporários", que ganham uma tarefa bem definida e, ao final dela, são desativados.

Se, como disse Nietzsche, o homem ama apenas a obra que produziu e os próprios filhos, os agentes de IA são fortes candidatos a unificarem esse papel no coração dos humanos, com eventuais confortos e vantagens, mas com riscos muito sérios à nossa forma de pensar e agir.

===

https://www.estadao.com.br/economia/demi-getschko/como-amenizar-os-riscos-dos-agentes-de-ia-com-seu-poder-quase-humano-de-acao-e-interacao/

===
O artigo da Sophos:
https://www.sophos.com/en-us/blog/inside-the-lethal-trifecta-blast-radius-reduction-in-ai-agent-deployments


trecho:
"Operating Inside The Lethal Trifecta: Blast Radius Reduction In AI Agent Deployments AI agents that can read files, call APIs, and perform actions are already being deployed in enterprises. These agents often operate in the center of what Simon Willison terms ‘the lethal trifecta’: they can access private data, process untrusted content, and communicate externally, making them susceptible to data theft via indirect prompt injection – where an attacker plants instructions in content that the agent reads on behalf of a trusted user, such as an email, a web page, or a document. The agent follows the injected instructions with the user's privileges, and the user never sees the attack. The Agents Rule of Two generalizes the concept: an agent should satisfy at most two of a) processing untrusted inputs, b) accessing sensitive systems, and c) changing state externally."

===
Frase de Nietzsche sobre "crianças e obras", em Assim Falava Zaratustra

"Que ninguém ama de todo o coração senão o seu filho e a sua obra; e onde há um grande amor de si mesmo, é sinal de fecundidade: eis o que tenho notado.", 

https://humanitas.ufrn.br/wp-content/uploads/2025/03/Assim-Falou-Zaratustra.pdf

===

Crianças na rede

Há um mes entrou um vigor o "ECA digital", lei que visa à proteção de crianças e adolescentes, agora expandida para Internet (redes, plataformas, aplicativos). O busílis da questão é conseguir equilibrio entre as características da Internet e as necessárias medidas de proteção às crianças.

Ao escolher a forma mais acertada de ação é muito importante avaliar efeitos colaterais, nem sempre previstos ou desejados. Afinal a Internet é uma rede concebida como aberta, onde todos podem se expressar e, também, arcar com as responsabilidades atribuíveis a seus atos. A coleção de conteúdos e serviços é ilimitada e impossível de se classificar, até pela falta de "régua" universal para isso: na rede mundial cohabitam culturas, valores e éticas distintas, indo desde comunidades que banem alcool e drogas às que aceitam, e com diferentes definições de "maioridade" e "família", apenas para pontuar algumas diferenças.

Há basicamente tres caminhos a examinar. O primeiro é a sumária vedação do acesso à internet para crianças abaixo de certa idade. É a opção já adotada por alguns países, e numa analogia, por exemplo, alinha-se à proibição no uso de celulares em classe de aula, ou o controle de entrada em locais restritos. A vedação estaria a cargo, além dos pais, dos dispositivos e provedores de acesso à rede. A segunda maneira seria estabelecerem-se áreas seguras para crianças, numa lista permanentemente atualizável e controlada pelos pais, e implantada por tecnologia nos navegadores: a chamada "white list". Finalmente, a terceria seria querer que a Internet, como um todo, provisse controle universal de acesso. Parece atraente, mas é irrealizável, e pode danos inesperados, não apenas ao acesso à rede com à nossa privacidade.

Essa terceira opção contem um paradoxo: para proteger as crianças, exigiremos dos adultos prova rigorosa de maioridade. Amplia-se a aquisição corporativa de dados sensíveis e a vigilância. Podia ser implantada em sistemas operacionais de celulares e equipamentos, mas isso nem é fácil, nem é consenso. A mais nova versão do IPhone, por exemplo, para liberar o acesso quer algum documento que prove a maioridade do usuário. Usuários constantes usam versões anteriores há anos, e essa verificação poderia ser automática mas, dado o risco do fabricante não atender à legislação local, estimula-se uma reautenticação forte. E isso também pode vir a calhar para o fabricante, que ele passa a ter ainda mais dados do usuário. Do outro lado do pêndulo, há formas alternativas e amenas de aferição de idade, via imagens capturadas, mas motraram-se facilmente burláveis: desenha-se um bigode ou barba com um lápis no rosto, e eis o sistema identificando "adulto"...

Nos velhos tempos, pais advertiam crianças a "não falar com estranhos", ao mesmo tempo em que educavam para os riscos: crianças podiam usar faca metálica à mesa, se adequadamente. Brinquedos como o "Pequeno Químico", que eu tive, traziam contacto com reagentes e produtos nem sempre seguros, mas havia a orientação e supervisão paternal no processo, gerando amadurecimento e autonomia. Parece que estamos deixando de formar os futuros adultos, e preferimos passar essa responsabilidade para ambientes que tem outras características. Podemos acabar errando em ambas as frentes...

===

https://www.estadao.com.br/economia/demi-getschko/criancas-na-rede-eca-digital-desafia-equilibrar-natureza-da-web-e-objetivo-de-proteger-as-criancas/

=== 

Dos "kits perigosos..."

https://www.youtube.com/watch?v=lPZ3EV44Okk

===

Das formas de burlar a avaliação etária por foto:

https://techcrunch.com/2026/05/06/some-kids-are-bypassing-age-verification-checks-with-a-fake-mustache/

===

Sobre a versão mais nova do Iphone, e sua verificação etária

https://osxdaily.com/2026/03/26/psa-ios-26-4-age-verification-in-uk-fails-for-some/

===

O Pequeno Químico:

O Pequeno Químico" foi um icônico kit de experiências científicas produzido pela fabricante Brinquedos Guaporé nas décadas de 1960 e 1970 no Brasil. Ele fez grande sucesso ao permitir que crianças realizassem experimentos básicos de química em casa.

Os kits continham uma variedade de pequenos frascos com substâncias químicas seguras para a época, tubos de ensaio, suportes, pinças, lamparinas e um manual de instruções. Com ele, as crianças podiam aprender na prática sobre misturas, reações e mudanças de cores.

Zaratustra e IA

O tema musical de "2001, uma Odisséia no espaço" é a composição de Richard Strauss, "Assim falava Zaratustra". Em 1883 Frederico Nietzsche publicou livro com esse título unindo ficção e filosofia, e já alertava na epígrafe que se tratava de "um livro para todos, e para ninguém". É bem anterior à IA e seus conceitos, o que não inibe algumas elucubrações provocativas, que não se pretendem sólidas, mas poderão ser aprofundadas ou demolidas pelos interessados.

Logo no início da obra que descreve a caminhada de Zaratustra, uma frase busca definir "o homem" e seu destino: "O homem é uma corda estendida entre o animal e o além-do-homem: uma corda sobre um abismo. Perigosa travessia, perigoso caminhar; perigoso olhar para trás, perigoso tremer e parar. O que é de grande valor no homem é ele ser uma ponte e não um fim: o que se pode amar no homem é ele ser uma passagem e um ocaso.”. O desafio de ousarmos essa passagem não é muito distante do dilema atual que a IA nos impõe: uma travessia sobre o abismo, sem olhar prá trás ou parar. Para Nietzsche, o que nos espera do outro lado é o além-do-homem (ou o "super-homem"), com um sentido da própria superação ínterna do pequeno homem atual. Mas com IA a coisa pode levar a outra leitura...

Mais um ponto de convergência: para Nietzsche um objetivo fundamental do homem é garantir sua continuidade e, para isso, ele volta seu amor absoluto aos filhos e à própria obra. Filhos, certamente, ganharão voo autônomo com o crescimento, enquanto a obra fica limitada sob controle do autor. Mas... (e é aí que a "porca torce o rabo") obras como IA mostram características que lembram a autonomia de filhos crescidos e liberados dos pais. IA aglutinaria filhos e obra e, em época de queda em taxas de natalidade, a IA poderia representar a almejada "continuidade do humano"...

Há outro ponto, esse mais difícil de coadunar: o conceito do "último homem", a ultrapassar rumo ao super-homem. Em Zaratustra, o "último homem" é mesquinho, busca conforto, segurança, não-confronto e ausência de dor. Ele diz "encontrei a felicidade", enquanto pisca os olhinhos. Não se questiona, apenas seguir. Uma analogia aqui é que IA potencializa algoritmos, perfilamento e reforço dos conceitos pré-existente, agradando aos interesses do pequeno "último homem". Se a ponte para se chegar ao além-do-homem exige sacrifício e vontade para enfrentar riscos, a IA oferece de forma imediata o conforto, a redução de fricções e, eventualmente, a atrofia da vontade... Assim, se por um lado a IA acena para um novo humano, híbrido, o fato de ela atender aos desejos dos "últimos homens" a faz ir de encontro aos pressupostos de uma ruptura humana interior evolutiva.

O risco é abrirmos mão da travessia sobre o abismo. O "último homem" se satisfaria bastante com o que IA traz: dispensa-se de fazer, de optar, de decidir ou julgar. Obter ajuda lúcida com IA é ótimo, mas abrir mão de pensar ou agir não deveria ser um resultado. A inteligência artificial não é o além-do-homem, e pode tornar a busca por superação em simples acomodamento.

E talvez o risco maior não seja que ela nos ultrapasse, mas que, diante dela,
desistamos de querer ultrapassar a nós mesmos.

===

https://www.estadao.com.br/economia/demi-getschko/o-maior-risco-com-a-ia-e-nao-querermos-mais-ultrapassar-nos-mesmos/

===

Assim falava Zaratustra. Referências:

https://pt.wikipedia.org/wiki/%C3%9Altimo_homem

https://www.pensador.com/frase/OTU5MzAx/

https://humanitas.ufrn.br/wp-content/uploads/2025/03/Assim-Falou-Zaratustra.pdf

"Ai de nós! Aproxima-se o tempo do homem mais desprezível, que já não sabe desprezar a si mesmo. Vede! Eu vos mostro o último homem".

“Descobrimos a felicidade” – dizem os últimos homens, e piscam os olhos.

"Sua estirpe é indestrutível, como a pulga; o último homem é o que mais tempo vive".

“Que é amor? Que é criação? Que é desejo? Que é estrela?” – pergunta o último homem, e pisca os olhos.

"A terra se tornou pequena, e sobre ela salta o último homem, que torna tudo pequeno".

"Não há mais pastor, nem rebanho! Cada um quer o mesmo, todos são iguais: quem sente de modo diferente, vai voluntariamente para o hospício".

Amor a Roma

Nesta terça-feira, 21 de abril, celebra-se a mitológica fundação de Roma. Não há certeza de que foi exatamente neste dia, em 753 AC, que a cidade tenha sido fundada, mas a precisão cronológica aqui é irrelevante. O que importa é o significado do ato fundador, há 2778 anos.
Grandes civilizações começaram pequenas: no livro Ortodoxia, G. K. Chesterton diz: "de início o povo escolhe um lugar para honrar; a glória poderá vir depois. Os homens não amaram Roma por ela ser grande. Foi o fato de amá-la que a fez grande". Assim como não se previu a expansão de Roma, tampouco se imaginou o alcance da Internet.

Roma tornou-se a cultura de fato de parte do mundo. Criou sistemas políticos, administrativos e jurídicos; promoveu coexistência entre diferentes povos; construiu estradas que conectavam terras distantes. A analogia com a integração que a Internet proveu é visível. O debate sobre fragmentação e crise da Internet não é por tecnologia, mas por desvio de propósito. A rede foi criada para compartilhar, conectar e informar. Como Roma, teve sua invasão de "bárbaros” com a tagarelice dos que falam irresponsávelmente, e de forças internas, que concentraram poder, controlam fluxos e moldam nossa experiência.

A Inteligência Artificial é peça crucial nesse processo. Se antes a rede transportava conteúdo produzido por humanos, agora também o produz: não apenas distribui, mas interpreta, sintetiza, antecipa. A distinção entre meio e mensagem borrou-se; a praça torna-se mercado, e o mercado o sistema.

Se há objetivos legítimos para pedir a verificação de identidade de participantes, a moderação preventiva e a antecipação de riscos, o meio para obter isso torna-se crítico. Buscar eliminar o imprevisto transformará inevitavelmente o ambiente. Não se pode garantir o comportamento de todos sem transformar o próprio espaço em algo distinto, controlado, monitorado, previsível. Aceitar o desconhecido e a incerteza é condição de liberdade e inovação, mas a IA opera de outro modo. Diante de uma pergunta, ela não hesita: sempre responderá, de forma plausível, mesmo que incorreta.

Outro ponto de alerta é sobre soberanias. Modelos não neutros tendem a reduzir incertezas, organizar fluxos, transformar o imprevisível em algo gerenciável. Se IA intensifica esse movimento, quem a controlaria? Numa entrevista particularmente interessante ao Estadão, Manoel Lemos defende que o Brasil não tem como disputar a camada profunda da IA, cujo custo e escala estão ao alcance de poucos. E isso não significa perda de soberania, nem inação: há um vasto campo para ajustar o foco e ir da infraestrutura básica para a operação sobre ela. Podemos ser competitivos em aplicações locais, em integrar dados específicos e capturar valor em contextos nossos.



Roma não desaparece de repente, transforma-se. A Internet, ao incorporar novas camadas econômicas, políticas e técnicas, pode estar no mesmo processo, e o que resultará pode não ser mais reconhecível. Talvez os “bárbaros às portas” já tenham entrado. e agora o verdadeiro desafio será defender que tipo de “Roma” queremos habitar. O palíndromo persiste: "amor a Roma".

===

https://www.estadao.com.br/economia/demi-getschko/amor-a-roma-internet-ia-invasoes-barbaras/

===

https://en.wikipedia.org/wiki/SPQR

Sobre a fundação de Roma:

https://pt.wikipedia.org/wiki/Funda%C3%A7%C3%A3o_de_Roma

https://www.nationalgeographicbrasil.com/historia/2025/05/como-roma-foi-fundada-a-cidade-nao-foi-criada-em-um-dia-e-nem-pelos-gemeos-romulo-e-remo

===
A frase de Chesterton, no capítulo 5 de Orthodoxy
https://www.online-literature.com/chesterton/orthodoxy/5/

"People first paid honour to a spot and afterwards gained glory for it. Men did not love Rome because she was great. She was great because they had loved her."

===
A entrevista de Manoel Lemos:

https://www.estadao.com.br/economia/nao-teremos-chatgpt-brasileiro-mas-ter-soberania-aplicacoes-ia-manoel-lemos/
===

Ficções

Reencontrei um livro escrito há mais de 100 anos: "Nós", do russo Eugênio Zamyatin, 1921. Lembrava-me dele como um precursor do "Admirável Mundo Novo" (Huxley) e do "1984" (Orwel, que, aliás, explicitamente citou o "Nós" como obra que o inspirou). "Nós" é, assim, uma das primeiras ficções sobre distopias. Torçamos para que permaneça ficção...

No livro, todos os humanos são identificáveis com um número, tem vida com horários muito regulados, e moram em casas de vidro, de forma que todos podem ver o que se passa com seus vizinhos. O mundo é um "estado único" gerido pelo Benfeitor. Zamyatin, engenheiro de formação, localiza na tecnologia e na ciência os riscos que ameaçam o humano. Em "Nós" a tecnologia e a completa racionalidade pretendem inibir qualquer risco antes que ele ocorra. Ou seja, não será necessário punir os crimes, bastará torná-los impossíveis.

De alguma forma, descreve o oposto da idéia original da Internet original, mesmo que ambos os cenários tenham ciência e tecnologia como base. Se na Internet "ninguém sabe que você é um cachorro", em "Nós" tudo o que é feito é perfeitamente previsível e conhecido. A própria "imaginação" é um defeito a combater.

A Internet começou como uma grande praça global, um "commons", onde todos ganharam voz, eventualmente gerando-se também caos e cacofonia. Nasceu libertária, mas é clara uma crescente tendência de torná-la uma "rede de controle", cenário preocupante, muitas vezes animada com a melhor das intenções: é incontestável, por exemplo, a necessidade de protegermos os mais vulneráveis. Numa praça de proporções mundiais essa proteção buscada poderia assumir formas mais simples, como restringir o acesso, ou liberá-lo apenas a pequenos segmentos, num estilo de "lista branca". Uma vez dentro da praça, porém, parece impossível garantir que todos os que por lá circulam ajam segundo padrões uniformes de cuidado. Ou se atua na porta, controlando quem pode entrar, ou se busca regular o comportamento dos participantes dentro do espaço, mas aí sempre esbarrando nos limites da aplicação de normas locais num ambiente global e descentralizado.

Vejamos outro ponto: ninguém diverge da necessidade de haver um "dever de cuidado". O risco é que, mal calibrado ou vagamente definido, esse "dever" possa migrar para "dever de monitoramento" ou, até, para um "dever de prevenção". Ao mesmo tempo em que impedimos abusos, podemos, por exemplo, acabar com o anonimato legítimo, ou a possibilidade de dissenso. Tornar impossíveis os abusos é um alvo inatingível e, de alguma forma, nos desumaniza. Dá mais amplitude e espaço aos poderosos, que já se valem fartamente de tecnologia e algoritmos para domínar o espaço de interação humano. Dá-se menos prioridade à punição dos reais criminosos, e passa-se a tratar todos como potenciais infratores, antecipando um dano antes que ele de fato exista.

Em "Nós" Zamyatin propõe "...no paraíso foi dada uma escolha: felicidade sem liberdade, ou liberdade sem felicidade. Não há terceira alternativa". O busilis desse dilema talvez esteja em buscar temperança, morigeração. É o velho aforisma de Horácio, "est modus in rebus", há uma medida nas coisas!

===

https://www.estadao.com.br/economia/demi-getschko/ficcao-o-que-uma-obra-de-1921-mostra-sobre-um-mundo-sem-liberdade-em-nome-da-ordem/

https://en.wikipedia.org/wiki/Yevgeny_Zamyatin

https://en.wikiquote.org/wiki/Yevgeny_Zamyatin

===

ECA digital, lei e decreto:

https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2025/lei/L15211.htm

https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2026/Decreto/D12880.htm

===

De Benjamin Franklin:

‘They who can give up essential liberty to obtain a little temporary safety, deserve neither liberty nor safety.’

https://oll.libertyfund.org/quotes/benjamin-franklin-on-the-trade-off-between-essential-liberty-and-temporary-safety-1775

Reminiscências

A data de nascimento da Arpanet, mãe da Internet, é 29 de outubro de 1969, quando os dois primeiros nós, UCLA (Universidade da Califórnia, Los Angeles) e SRI (Instituto de Pesquisa de Stanford), trocaram pacotes de dados com sucesso. Na sala do Prof. Leonard Kleinrock (UCLA, sala 3420) há uma placa celebrando o feito. Em agosto de 1969 houve outra efeméride importante: o festival de música de Woodstock. A junção da contracultura com a Arpanet pode parece pouco razoável, mas há elementos para considerá-la. Por exemplo, um dos conjuntos de rock que se apresentou com memorável sucesso no festival foi o Grateful Dead. E seu letrista era John Perry Barlow, importante voz na Internet por ser um dos fundadores, em 1990, da EFF (Electronic Frontier Foundation), e por ter escrito em 1996 a "Declaração de Independência do Ciberespaço", documento que descrevia, algo romântica e utopicamente, os conceitos do nascente mundo virtual, onde o "domínio da mente", não seria submetido ao poder econômico e à lógica territorial.

O que esse histórico mostra é que a própria Arpanet, custeada com recursos do Departamento de Defesa norte-americano, nasceu com uma concepção libertária e sem controle central. Sempre foi voluntária a adesão de redes que adotassem seus protocolos e forma de funcionar. Afinal seus definidores foram jovens acadêmicos de alguma forma embebidos na cultura e conceitos dos anos 70.

Outra lembrança da época é de um cartum do The New Yorker, 1993, que mostrava dois cães diante de um computador. Um deles dizia: "Na Internet ninguém sabe que você é um cachorro", uma leve ironia que captava o espírito da rede: a dissociação entre identidade física e expressão. Havia uma confiança implícita, talvez excessiva e ingênua, de que a abertura e a liberdade gerariam per si formas adequadas de convivência. Certamente trina anos depois o cenário é bem diverso

A expansão rápida, da área acadêmica para todos os segmentos da sociedade, trouxe diluição ética. A grande conquista da "voz para todos", sem barreira de entrada, acarretou uma cacofonia eventualmente irresponsável. E, do lado econômico, a busca pelo conforto e o menoscabo dos princípios originais "empurrou" usuários para uma centralização baseada em plataformas, os "jardins murados".

Originalmente associava-se a Internet a uma enorme praça pública, um "commons", mas hoje isso parece cada vez mais remoto. Em ambiente que nos identifique e monitore continuamente poderemos estar, sob alguns aspectos, mais seguros, mas tudo se torna menos espontâneo, aberto, ou plural. Não é mais uma praça.

Habermas, o filósofo que nos deixou recentemente, diria que esfera pública segue cada vez mais fragmentada. Múltiplas comunidades, fluxos paralelos de informação e debates que raramente se encontram. A comunicação passa a ser mediada por plataformas cuja lógica é o engajamento, não o debate. Entre o cachorro anônimo de 1993 e o usuário identificado de hoje, não mudou apenas a tecnologia. Mudou a nossa disposição em aceitar a incerteza como condição da liberdade. Entre proteger quem entra, e preservar a natureza do espaço, talvez haja apenas escolhas cujas consequências ainda não estão nada claras.

===

https://www.estadao.com.br/economia/demi-getschko/a-internet-era-originalmente-comparada-a-uma-praca-publica-isso-parece-cada-vez-mais-remoto/

===

O cartun do The New Yorker, 1993:

===

https://www.bbc.com/future/article/20250618-how-the-grateful-dead-shaped-social-media

How the Grateful Dead built the internet

===

John Perry Barlow:

Selling Wine Without Bottles: The Economy of Mind on the Global Net

https://www.eff.org/pages/selling-wine-without-bottles-economy-mind-global-net

Declaração de Independência do Cyberespaço

https://www.eff.org/cyberspace-independence

===

As respostas que variam

Uma discussão que corre solta pela rede é por que diferentes IAs gerariam diferentes respostas a perguntas claras. Há a suspeita sobre graus de viéses existentes, não apenas os que os dados aportaram, mas aqueles artificialmente incluidos para atingir algum "equilíbrio cultural" que não cause espécie. Há também a diferença intrínseca entre as IA que trabalham sobre um corpus fechado e as que acessam a Internet abertamente. Mas há ainda algo muito mais inesperado: uma mesma IA pode dar respostas bem diferentes a uma questão. Qual seria a explicação dessa variância? É da expectativa humana que, a toda pergunta, se houver uma resposta supostamente correta, ela tenderá a ser única. Pode ser difícil "cavar" essa resposta no universo do conhecimento, mas, escondida em algum canto, ela seria fixa.

Com os sistemas de IA, entretanto, passa-se algo diferente: eles não se constituem num "arquivo de respostas fixas" como seria uma enciclopédia, mas produzem essa resposta a partir do que abarcam. Nas LLM a resposta é montada palavra por palavra, e milhares de candidatas são examinadas para a geração de algo plausível como resposta. A mesma pergunta pode gerar respostas diferentes. ou divergentes, visto que a IA pode ter percorrido outros caminhos.

Há parâmetros que podem estimular ou retringir essa variedade nas respostas. São alteráveis usando-se a API de consulta. Um deles define uma "temperatura" para o funcionamento da IA. Temperatura mais baixa faz com que o sistema escolha as palavras mais prováveis de forma conservadora, e as respostas tendem a estáveis. Já ajustar a IA para uma temperatura alta ampliará o campo de exploração: a resposta resultante será mais variada, mais criativa, eventualmente mais errática. Em outro mecanismo, conhecido como "top-k sampling", a IA é instruida a limitar sua escolha às k palavras mais prováveis naquele caso, Quanto menor o k, mas estreito o corredor por onde o texto avança. Quanto maior, mais caminhos estarão abertos.

Há também como mexer na "semente aleatória" do processo, "seed". Usar uma "semente" única pode gerar respostas reproduzíveis; mudá-la permitirá pequenas variações inicias, mas que, ao final, podem gerar respostas muito diferentes.

Esses parâmetros não mudam o conhecimento do modelo. Eles apenas determinam como será explorado esse universo, que inclui descobertas científicas, debates filosóficos, opiniões conflitantes, simplificações, ironias, falsidades e erros vulgares. Nesse oceano de perspectivas, não é surpreendente que se encontrem caminhos diferentes.

Uma mesma pergunta, por trajetórias probabilísticas, conduzirá a versões distintas. Operacionalmente coerentes, mas algumas claramente errôneas. Cada resposta poderia ser vista como uma espécie de "mundo possível". Respostas plausíveis mas diversas, abalam a idéia de que uma pergunta que aceite várias respostas seja um sinal de incerteza ou falha.

Ao tentar construir máquinas capazes de responder perguntas, acabamos revelando algo sobre a própria pergunta: nem sempre ela conduz a um único destino. Pode-se estar no início de um labirinto, e cada resposta é um caminho possível dentro dele.

===
Por que diferentes IAs podem gerar respostas variadas para uma mesma pergunta?

https://www.estadao.com.br/economia/demi-getschko/por-que-diferentes-ias-podem-gerar-respostas-variadas-para-uma-mesma-pergunta/

===

https://www.sandgarden.com/learn/ai-temperature

===

Labirinto

https://pt.wikipedia.org/wiki/Labirinto

Minotauro no labirinto, num mosaico romano, encontrado em Conímbriga.