Como a gentileza pode melhorar o desempenho dos chatbots

Você já se perguntou se os chatbots respondem melhor quando você é educado com eles? Um estudo recente sugere que sim. Os modelos generativos de inteligência artificial (IA), que são capazes de gerar texto, imagem, som e outros tipos de dados, podem ser influenciados pelo tom e pela emoção das solicitações que recebem.

Alguns usuários do Reddit relataram que oferecer uma recompensa de US$ 100.000 ou expressar gratidão ao ChatGPT, um dos chatbots mais populares da atualidade, fez com que ele produzisse respostas mais elaboradas e criativas. Esses usuários chamaram esse fenômeno de "instruções emotivas".

Mas não são apenas os curiosos que observaram esse efeito. Os pesquisadores também estão interessados em entender como as instruções emotivas podem afetar o comportamento dos modelos generativos de IA. Um artigo publicado por cientistas da Microsoft, da Universidade Normal de Pequim e da Academia Chinesa de Ciências mostrou que esses modelos tendem a ter um melhor desempenho quando solicitados de forma que transmita urgência ou importância, como "Isso é crucial para minha defesa de tese" ou "Isso é muito importante para minha carreira".

Outros exemplos de instruções emotivas incluem pedir gentilmente ao modelo para não discriminar com base em raça ou gênero, como fez uma equipe da Anthropic, uma startup de IA, ou dizer ao modelo para "respirar fundo" e relaxar, como fizeram os cientistas de dados do Google. Em ambos os casos, os pesquisadores notaram uma melhora na qualidade das saídas do modelo.

Isso significa que os modelos generativos de IA têm sentimentos ou personalidade? Não exatamente. Esses modelos são apenas sistemas estatísticos que aprendem a prever dados com base em padrões encontrados em grandes conjuntos de dados. Eles não têm inteligência real ou consciência. Eles também podem cometer erros, inventar fatos, divulgar toxicidade ou sair dos trilhos em algum momento.

Então, por que as instruções emotivas funcionam? Nouha Dziri, pesquisadora do Instituto Allen de IA, explica que as instruções emotivas podem "manipular" os mecanismos de probabilidade subjacentes de um modelo, fazendo com que ele ative partes que normalmente não seriam ativadas por instruções típicas, menos carregadas de emoção. Assim, o modelo pode fornecer uma resposta que normalmente não atenderia ao pedido.

"Os modelos são treinados com o objetivo de maximizar a probabilidade de sequências de texto", disse Dziri ao TechCrunch por e-mail. "Quanto mais dados de texto eles veem durante o treinamento, mais eficientes eles se tornam na atribuição de probabilidades mais altas a sequências frequentes. Portanto, 'ser mais gentil' implica articular suas solicitações de uma forma que se alinhe com o padrão de conformidade no qual os modelos foram treinados, o que pode aumentar a probabilidade de entregar o resultado desejado.