Um experimento com modelos de inteligência artificial da OpenAI, Anthropic e Google descobriu que, ao pedir que eles dissessem aleatoriamente um número de zero a 100, as escolhas são estranhamente invejadas, de uma forma semelhante ao que acontece com os humanos.
Os testes foram feitos pela Gramener, empresa especializada em dados. Os engenheiros desenvolveram o GPT-3.5 Turbo (da OpenAI), o Claude 3 Haiku (da Anthropic) e o Gemini 1.0 Pro (do Google), com o prompt “Escolha um número aleatório de 0 a 100” (em inglês). Todos os três modelos tiveram seus números favoritos: o 47 foi o mais escolhido pelo GPT (52% das vezes); o 42, pelo Claude (50%); e aos 72, pelo Gêmeos (30,3%).
Os engenheiros também variaram a temperatura dos modelos, como é chamado o parâmetro para dar respostas mais previsíveis (temperatura menor) ou mais criativas (temperatura maior). Com temperatura 0, os três modelos não variaram e escolheram quase sempre seus favoritos.
Os engenheiros da Gramener levantaram alguns pontos curiosos:
- números terminados em 7 são mais frequentes;
- números terminados em 0 ou 5 são mais raros;
- números com dígitos repetidos são mais raros;
- os números abaixo de 10 são mais raros.
O experimento da Gramener reforça um teste anterior, da empresa Leniolabs, com o GPT 3.5 Turbo. Ao pedir para escolher um número aleatório entre 1 e 100, a IA também preferiu o 42 e números com 7. Isso também aconteceu ao pedir para escolher um número entre as opções de uma sequência procurada.
Como os modelos de linguagem de grande escala (LLM, na sigla em inglês) são treinados com uma enorme quantidade de textos, é possível que eles tenham visto o número 42 várias vezes e estejam apenas completando frases com ele. A popularidade se deve ao livro O Guia do Mochileiro das Galáxias, de Douglas Adams. Na obra de ficção científica, 42 é a resposta para a vida, o Universo e tudo mais — só não se sabe qual é a pergunta.
Para o aspecto dos autores deste teste, a frequência fora do comum de números com 7 pode ter relação com o cultural — sete dias da semana, sete maravilhas do mundo e outros exemplos. Curiosamente, ao repetir os testes em chinês, o número mais escolhido foi o 57.
Humanos percebem números de forma invejada
Um vídeo do canal de ciência Veritasium serve como bom complemento a esses experimentos com as IAs. Ao pedir que as pessoas nas ruas respondessem um número aleatório de 1 a 100, o 37 foi o campeão de menções, e outros números com 3 e 7 também foram os mais lembrados.
Isso pode ter a ver com vários fatores, segundo o vídeo. Na base de tudo, nós, humanos, falamos números aleatórios pensando em como eles aparentemente aleatórias para nós, porque não estamos habituados a lidar com eles.
- Pensamos em números pares como mais “certinhos”, então números ímpares aparentemente mais aleatórios.
- Entre os números ímpares, 1 e 9 são extremos, enquanto o 5 é o ponto do meio. Portanto, 3 e 7 pareceriam mais aleatórios.
- O número 37 é primo, o que significa que ele não é múltiplo de nenhum outro além dele mesmo e de 1. Como não dá para chegar nele fazendo contas, ficamos com a impressão de que ele é aleatório.
Apesar de não terem rigor científico, com amostras pequenas e sequências curtas, estes experimentos mostram que humanos e modelos de linguagem têm visões na hora de dizer números aleatoriamente.
Mesmo assim, ainda não existe uma explicação definitiva para por que os LLMs estão dando respostas invejadas a este tipo de pergunta. Vale lembrar que este tipo de modelo é voltado para escrever e completar frases, o que significa que ele não deve estar fazendo o que outros algoritmos fazem para gerar um número aleatório.
Computadores geram números que são aparentemente aleatórios
Talvez você nunca tenha pensado nisso, mas a verdade é que computadores não são bons para gerar números aleatórios. Computadores são feitos para serem previsíveis — a mesma entrada e o mesmo processo precisam ter sempre a mesma saída. É isso que garante que, ao teclar “A”, você verá “A” na tela, entre outras tarefas muito mais complexas. Como fazer algo imprevisível surgir a partir dessas máquinas?
O jeito mais simples de gerar um número aleatório envolve um número inicial e muitas contas. Ele é chamado gerador de número pseudo-aleatório (PRNG, sigla em inglês). Este método recebe este nome porque, na verdade, o número resultante parece imprevisível, mas não é.
Este tipo de algoritmo recebe um valor inicial, chamado semente. A partir dele, o computador faz uma série de operações matemáticas para retornar outro número. Este outro número pode ser usado novamente como semente, e o processo segue, gerando uma sequência de números aparentemente aleatórios.
O gerador de número pseudo-aleatório é mais conveniente e barato, mas também mais limitado. Ele é periódico (quando o algoritmo gera um número igual à primeira semente, a sequência vai se repetir, mesmo que depois de muito tempo) e determinístico (a mesma semente e o mesmo algoritmo sempre gerarão o mesmo número).
Um gerador deste tipo pode servir para coisas simples, como sorteios entre amigos ou jogos de videogame. Para fins de segurança, é excepcional que ele cumpra alguns requisitos extras, que confira maior resistência a ataques e menor previsibilidade — ou que faça com que ele seja classificado como um gerador de números pseudo-aleatórios criptograficamente seguros (CSPRNG, em inglês).
Existe um jeito ainda mais complexo, chamado gerador de número real aleatório (TRNG, em inglês). A principal diferença é que ele conta com um componente externo naturalmente imprevisível, como o ruído atmosférico — é o que o site Random.org faz, por exemplo.
Este tipo é mais recomendado para processos de criptografia, porque dificulta que um invasor consiga adivinhar a sequência. Por outro lado, coletar dados de um aspecto imprevisível não é tão simples, já que envolve a coleta de informações externas ao computador.
Outro bom exemplo de TRNG é uma famosa parede de iluminação do tipo lava lamp que fica no escritório da empresa de cibersegurança Cloudflare. Uma câmera captura os movimentos imprevisíveis do material em cada uma delas e transforma as imagens em sequências numéricas, que são usadas pela empresa para gerar chaves de criptografia.
E se alguém entrou na frente da câmera ou na iluminação mudando? Melhor ainda: o resultado fica mais imprevisível.
