Uma discussão que corre solta pela rede é por que diferentes IAs gerariam diferentes respostas a perguntas claras. Há a suspeita sobre graus de vieses existentes, não apenas os que os dados aportaram, mas aqueles artificialmente incluídos para atingir algum equilíbrio cultural que não cause espécie.
Há também a diferença intrínseca entre as IA que trabalham sobre um corpus fechado e as que acessam a internet abertamente. Mas há ainda algo muito mais inesperado: uma mesma IA pode dar respostas bem diferentes a uma questão. Qual seria a explicação dessa variância?
É da expectativa humana que, a toda pergunta, se houver uma resposta supostamente correta, ela tenderá a ser única. Pode ser difícil cavar essa resposta no universo do conhecimento, mas, escondida em algum canto, ela seria fixa.
Google inaugura Centro de IA em Berlim (Alemanha) na quinta-feira, 5 Foto: Tobias Schwarz/AFP
Com os sistemas de IA, entretanto, passa-se algo diferente: eles não se constituem num arquivo de respostas fixas como seria uma enciclopédia, mas produzem essa resposta a partir do que abarcam.
Nas LLM a resposta é montada palavra por palavra, e milhares de candidatas são examinadas para a geração de algo plausível como resposta. A mesma pergunta pode gerar respostas diferentes ou divergentes, visto que a IA pode ter percorrido outros caminhos.
Há parâmetros que podem estimular ou restringir essa variedade nas respostas. São alteráveis usando-se a API de consulta. Um deles define uma temperatura para o funcionamento da IA.
Temperatura mais baixa faz com que o sistema escolha as palavras mais prováveis de forma conservadora, e as respostas tendem a estáveis. Já ajustar a IA para uma temperatura alta ampliará o campo de exploração: a resposta resultante será mais variada, mais criativa, eventualmente mais errática.
Em outro mecanismo, conhecido como top-k sampling, a IA é instruída a limitar sua escolha às k palavras mais prováveis naquele caso, Quanto menor o k, mas estreito o corredor por onde o texto avança. Quanto maior, mais caminhos estarão abertos.
Há também como mexer na semente aleatória do processo, seed. Usar uma semente única pode gerar respostas reproduzíveis; mudá-la permitirá pequenas variações iniciais, mas que, ao final, podem gerar respostas muito diferentes.
Esses parâmetros não mudam o conhecimento do modelo. Eles apenas determinam como será explorado esse universo, que inclui descobertas científicas, debates filosóficos, opiniões conflitantes, simplificações, ironias, falsidades e erros vulgares. Nesse oceano de perspectivas, não é surpreendente que se encontrem caminhos diferentes.
Uma mesma pergunta, por trajetórias probabilísticas, conduzirá a versões distintas.
Operacionalmente coerentes, mas algumas claramente errôneas. Cada resposta poderia ser vista como uma espécie de mundo possível. Respostas plausíveis mas diversas abalam a ideia de que uma pergunta que aceite várias respostas seja um sinal de incerteza ou falha.
Ao tentar construir máquinas capazes de responder a perguntas, acabamos revelando algo sobre a própria pergunta: nem sempre ela conduz a um único destino. Pode-se estar no início de um labirinto, e cada resposta é um caminho possível dentro dele.
Fonte: Estadão | As Últimas Notícias do Brasil e do Mundo
