Vieses Artificiais

Última atualização: 21 de dezembro de 2022
Tempo de leitura: 6 min

Somos tendenciosos de forma sistemática. Nossas decisões são irracionais. Muito se discute sobre como podemos classificar e explicar nossos vieses. Alguns deles são consequências de usos no processamento das informações que recebemos e que o cérebro opera para julgamentos ou decisões. São o que chamamos de tendências cognitivas. No convívio social, quando conhecemos alguém, normalmente fazemos perguntas importantes para favorecer e confirmar nossas suposições sobre a pessoa. A forma como construímos nossas questões são mais reveladoras que as respostas que ouvimos.

Desde 1972, quando Daniel Kahneman e Amos Tversky ficaram famosos, a economia comportamental ganhou espaço. Eles foram figuras chave na descoberta do enviesamento humano sistemático. A partir daí, diferentes vieses cognitivos foram identificados. No total, existem mais de 180 deles que interferem na forma como interagimos com os dados, pensamos e percebemos a realidade.

Exemplos não faltam. Procuramos informações de forma que estas confirmem nossas crenças (viés de confirmação), confiamos demais em referências do passado ou em uma parte das informações (viés de ancoragem), fazemos várias coisas porque muitas outras pessoas fazem (viés de adesão), lembramos que decisões antigas foram melhores do que elas realmente foram (viés de pré-escolha), exageramos no quanto outras pessoas concordam conosco (efeito do falso consenso), gastamos mais dinheiro quando a conta será dividida (efeito de denominação) entre tantas outras.

Com a crescente onda de desinformação, alguns desses vieses ficaram ainda mais expostos. Não foi à toa que Merriam-Webster,  editora de dicionários mais antiga dos Estados Unidos, escolheu “gaslighting” como a palavra do ano. O dramaturgo britânico Patrick Hamilton mal sabia quantas vezes o título de sua obra “Gas Light” (luz a gás, em tradução literal) escrita em 1938, seria empregado atualmente. O termo “gaslighting” é definido como o ato ou prática de manipular psicologicamente alguém, em que informações são distorcidas ou falsificadas em benefício de quem influencia a outra pessoa.

Com a rápida evolução a inteligência artificial generativa (IAG) várias questões éticas no Processamento de Linguagem Natural (PNL) entraram em evidência. Os algoritmos são desprovidos de sentimentos e empatia, fazendo leituras e interpretações do mundo tal qual nós humanos. Criticamos e julgamos que eles estão errados, pois reforçam determinados comportamentos, mas esquecemos que eles são alimentados com os nossos dados. Não podemos culpar os sistemas, mas temos que trabalhar para reduzir esses vieses. 

Imaginar decisões relacionadas a criação de um modelo que seja completamente livre desses preconceitos é algo muito complexo, pois grande parte são dados históricos. Quanto mais dados fornecermos, melhor para o aprendizado dessa máquina, para que ela possa entregar o resultado que queremos de obter. Só que no ato de inserir essas informações carregamos todos os nossos vieses.

As técnicas de processamento das máquinas evoluem para serem próximas ao modelo utilizado naturalmente pelo cérebro humano. Queremos que o produto final seja algo parecido com a nossa linguagem. Embora ainda haja muito o que avançar no PLN, já dispomos de muitas aplicações uteis. O Gartner, uma das principais empresas de pesquisa e consultoria do mundo, define que a IAG vai além da geração de dados sintéticos, pois mudará a forma como toda a sociedade irá se relacionar.

A aproximação das áreas de tecnologia e negócios aumenta a cada dia. Os profissionais de comunicação, criação e geradores de conteúdos precisam estar vigilantes e atentos nesta revolução, para que a tecnologia não seja percebida como uma perigosa ferramenta de manipulação. Enquanto os jornalistas investigativos humanos continuarão a perseguir histórias, a produção de artigos comuns será cada vez mais entregue a modelos generativos de IA. Em pouco tempo, a maior parte do conteúdo online que consumimos em nossas vidas diárias será redigida por esses novos modelos. Isto acontecendo, em breve seremos sugestionados por novas forças, os vieses artificiais.

O atributo alt desta imagem está vazio. O nome do arquivo é box360-logo.webp

Conheça o BOX360º – Uma nova experiência em análise de dados

Leia mais:

Inteligência Artificial Generativa ou criativa?

Compartilhe:

Marcelo Molnar

Sobre o autor

Marcelo Molnar é sócio-diretor da Boxnet. Trabalhou mais de 18 anos no mercado da TI, atuando nas áreas comercial e marketing. Diretor de conteúdo em diversos projetos de transferência de conhecimento na área da publicidade. Consultor Estratégico de Marketing e Comunicação. Coautor do livro "O Segredo de Ebbinghaus". Criador do conceito ICHM (Índice de Conexão Humana das Marcas) para mensuração do valor das marcas a partir de relações emocionais. Sócio Fundador da Todo Ouvidos, empresa especializada em monitoramento e análises nas redes sociais.

Posts relacionados
Inteligência Artificial,...

Ao longo da história da humanidade, o trabalho tem sido um elemento central...

Leia mais >
A Luz e a Sombra da...

A possibilidade de nos comunicarmos com entes queridos perdidos através da...

Leia mais >

Entre em contato

Descubra como a sua empresa pode ser mais analítica.