A enxurrada de informações a que estamos submetidos, muitas vezes nos rouba a clareza necessária para avaliar não apenas a importância de determinada medida, mas também seus possíveis efeitos colaterais. Aliás, até parece proposital que temas importantes de debate sejam enfraquecidos através do desvio de foco para assuntos subsidiários.
Veja-se como exemplo a discussão sobre existência ou não de “viés” no uso de inteligência artificial em dispositivos equipados para reconhecimento de imagens. É muito razoável assumir que nos conjuntos de dados usados para a montagem de um sistema de reconhecimento automático de indivíduos existam significativos desequilíbrios quanto à homogênea e equitativa participação de amostras das diferentes etnias a culturas. Mas seria esse o ponto principal de discussão? Se faltam amostras de determinada etnia, o sistema deveria captar imagens adicionais para resolver essa carẽncia? Ou, e até com a nova LGPD, luta-se exatamente no sentido de diminuir a sanha de captura de dados e imagens nossas na rede? A ordem de discussão que parece prioritária seria, antes, debater a validade das intromissões que existem ao se procurar identificar automaticamente cada pessoa com base em sua imagem previamente armazenada. Se a conclusão for de que, sim, é útil e traz benefícios que sejamos identificados em cada ambiente em que nos encotramos pelas onipresentes câmaras, daí deveríamos buscar que essa aplicação tenha alcance global e atinja a todos igualmente. Se a decisão for, porém, em sentido contrário quanto ao uso da identificação de imagem automática obrigatória, parece contrasenso buscar expandir a todos algo que foi considerado não benéfico, ou abusivo. Ou seja não haveria porque corrigir qualquer viés aqui...Ainda no mesmo tema, a decisão recente da Apple de, sob o argumento eventualmente honesto de combate à pornigrafia infantil, passar a examinar todas as fotos que usuários guardam na nuvem, deve ser examinada de forma muito cuidadosa. Argumenta-se que um dos problemas técnicos que poderiam ocorrer são os “falsos positivos”, dado que a base de fotos que seria usada como parâmetro já possui cerca de 20% de incorreções. Mas, valeria a pena lutar para limpar essas imperfeições da base (viés) de forma a eliminar os “falsos positivos”, ou o sistema em si, seja ele falho ou perfeito, já representa uma intromissão indevida em nossa privacidade? Isso não cai muito longe de implantarem-se câmaras em todas as casas com a finalidade de monitorar comportamentos adequados ou não de seus moradores! Os detalhes técnicos sobre possíveis ou prováveis viéses e erros de detecção não podem obliterar o que deveria ser o fulcro de discussão sobre a principal característica do sistema, que é buscar acesso direto ao conteúdo do que enviamos, colocando-nos, a todos, como suspeitos em potencial. Mesmo com todas as promessas de uso adequado e não vazamentos de dados, parece um abuso que, unilateralmente, alguém se meta a espionar o que enviamos.
Essa possível intromissão remete ao sempre citado “1984”, onde está postulado que “se alguém quer manter um segredo, deve escondê-lo até a si mesmo”. Afinal, a “polícia do pensamento” estará sempre atenta para detectar os que praticam “crimes de pensamento” e puní-los adequadamente...
Antes de se discutirem os detalhes técnicos de “como” algo deveria ser feito, parece muito importante que se avalie com antecedência se aquilo deveria mesmo ser feito, ou se os riscos e abusos que poderia acarretar a direitos fundamentais bastariam para que a proposta seja banida.
===
Nenhum comentário:
Postar um comentário