Está em cartaz uma bela montagem da mais extensa ópera de Verdi, Don Carlo. Ambientada cerca de 1500 na Espanha, trata das desventuras do primeiro filho de Filipe II, Carlos, que morreu desgostoso aos 23 anos. Sumariamente a trama se desenvolve sobre o frustrado amor com sua prometida, Isabel de Valois, filha do rei de França, que acabou destinada a casar-se com Filipe II, forma de consolidar a paz entre os dois países. O que teria a ver Don Carlo com os tempos da IA? Bem, sempre podemos dar asas livres à imaginação, e tentar comparar com o que vemos hoje...
O primeiro grande contraste é a precedência de valores que havia à época, retratada uns séculos depois. A hierarquia era: honra > amor > vida, e isso é claramente declarado pela personagem Rodrigo, amigo figadal de Carlos. Ou seja, para preservar a hora, abre-se mão do amor, que segue mais importante que a própria vida. Rodrigo se sacrifica por seu amigo Carlos, e Carlos preserva a honra de Isabel e a própria, acima de seu amor.Como isso nos remeteria à IA? Uma observação é que o conceito de "honra", como era sentido antes, talvez tenha migrado para outras áreas. Hoje fazemos coisas que nos são legalmente permitidas, mas aquilo que, eventualmente, não seria "honroso fazer" nem sempre vem à mente. Os agentes de IA, então, não possuem "honra", mas objetivos a serem alcançados. A noção de que "há coisas que simplesmente não faço" pertence à ética humana, e é estranha ao agente de IA. É subconsciente clássico de "honra", que ainda mora em nós. Um agente de IA, certamente, teria menos pruridos.
Pergunta-se: na hipótese de repassar as decisões das personagens a agentes de IA, as ações tomadas seriam as mesmas? Entre buscar retomar para si Isabel, ou preservar o casamento do pai, o que "IA Carlos" teria decidido? Entre dar sua vida para preservar a de Carlos, ou seguir bem na corte de Filipe II, o que "IA Rodrigo" teria valorizado?
Nosso julgamento de méritos e deméritos associados a decisões e ações da IA ainda segue bastante balizados pelos conceitos que herdamos. Ainda bem!. Lembrando de outro tema operístico, a madame Butterfly usa a mesma adaga com que seu pai deu cabo à vida, e na qual se lê "morra com honra quem com honra não consegue viver". De novo, na hierarquia de valores, honra se sobrepõe ao amor, e à própria vida.
Talvez a mudança mais profunda por que estamos passando seja uma revisão da ordem de valores e, até, do conceito associado. Hoje, "perder a honra" lê-se como ser "cancelado nas redes". Glória seria ter uma considerável ressonância: ser um "influenciador". É importante a discussão sobre a ética no uso do ferramental de IA porque, de alguma forma, há valores que podem estar sendo fragilizados modernamente. O risco de aumentar ainda mais nossa insensibilidade É ética humana antigos é passarmos a aceitar que a IA escolha baseada nas metas que recebe. Carlos podia, para atender a sua paixão, matar o pai e retomar a madrasta para si. As peças clássicas vão no sentido de exprobrar isso. Um embate entre valores humanos arraigados, e a tentação de apelar ao que passamos a chamar de "lei de Gerson", a busca de "levar vantagem em qualquer situação".
Évariste Galois







