Nvidia lança ferramenta gratuita para criar chatbots personalizados no seu PC

A Nvidia, uma das maiores empresas de tecnologia do mundo, lançou uma ferramenta gratuita que permite criar um chatbot personalizado que busca rapidamente no seu computador as respostas para as suas perguntas - tudo isso garantindo a privacidade dos seus dados.

A ferramenta, chamada Chat with RTX, permite personalizar um modelo de linguagem grande (MLG), como o Llama da Meta, com arquivos de texto e vídeos. Você pode dar ao seu chatbot acesso personalizado a uma pasta de PDFs no seu computador, por exemplo, e depois fazer perguntas relacionadas ao seu conteúdo. Se você fornecer um link para uma playlist do YouTube, ele poderá vasculhar as transcrições dos vídeos em busca de respostas para suas perguntas sobre os clipes.

O Chat with RTX é diferente de outros chatbots baseados em nuvem, como o ChatGPT da OpenAI, que fazem todo o processamento online, o que significa que você estaria arriscando que alguém tivesse acesso às suas informações. Além disso, os chatbots baseados em nuvem geralmente têm limites rígidos sobre a quantidade de dados que você pode fornecer a eles a qualquer momento, então até mesmo um arquivo PDF longo pode ser muito para eles lerem.

O Chat com RTX é gratuito, então você não precisa de uma assinatura, e ele roda diretamente no seu PC com Windows. Isso não só protege sua privacidade, mas também pode levar a respostas mais rápidas, pois você não depende de servidores sobrecarregados.

No entanto, o Chat with RTX não pode rodar em qualquer PC. Seu sistema precisa atender aos requisitos de hardware da Nvidia: "Além de uma GPU GeForce RTX série 30 ou superior com no mínimo 8GB de VRAM, o Chat com RTX requer Windows 10 ou 11, e os drivers mais recentes da NVIDIA".

As primeiras sugestões sugerem que a ferramenta ainda é um pouco assustadora. Quando um revisor apareceu em seu chatbot personalizado com um link de vídeo, ele baixou uma transcrição de um vídeo diferente, e em outra revisão, ele respondeu a uma pergunta corretamente, mas citou a fonte errada para sua resposta.

Imperfeições são esperadas com uma demonstração gratuita, no entanto. O Chat with RTX é um passo promissor para aproveitar o potencial dos MLGs, que são capazes de entender e gerar texto em linguagem natural, para ajudar os humanos com tarefas que envolvem geração ou melhoria de texto.

Fonte: Nvidia