A IA no seu app

A tabela abaixo é o plano deste guia. Leia-a primeiro: ela evita três quartos das escolhas erradas.

Uma frase para segurar a distinção: o chatbot RAG sabe o que você publicou, a extensão ChatGPT sabe o que o modelo aprendeu. O primeiro não consegue responder sobre um assunto que você nunca tratou. O segundo vai responder assim mesmo, e às vezes é exatamente o que você não quer.

Os dois podem coexistir no mesmo app. Um assistente de conversa geral na tela inicial e um chatbot documental na seção de arquivo não competem entre si.

RAG quer dizer retrieval-augmented generation. O princípio cabe em uma frase: antes de responder, o assistente vai buscar as passagens relevantes no seu conteúdo, e escreve a resposta a partir dessas passagens.

É essa a diferença entre um assistente que conhece seu assunto e um assistente que conhece o dele. Para um arquivo de dez anos de artigos, um guia de viagem, um manual interno ou uma base de perguntas frequentes, é a única forma que se sustenta: as respostas ficam dentro dos limites do que você escreveu, e envelhecem no mesmo ritmo.

O chatbot é uma extensão antes de ser uma seção, e a ordem importa. Tudo parte da entrada RAG Chatbot do menu principal, no primeiro nível entre Notification e Statistics: é ali que você adiciona a extensão, e só depois que ela é adicionada é que a seção fica disponível no seu app. Procurá-la na lista de seções antes de passar por ali é não encontrá-la.

Uma vez no lugar, ela se comporta como qualquer outra seção: ocupa seu lugar no menu, conta nas suas 120 seções, e assume as cores e a tipografia do seu app.

Suas configurações se abrem pela mesma entrada de menu, em uma tela com quatro abas: configurações, design, seções fonte e denúncias.

Esta é a configuração que decide a qualidade do seu chatbot, e é também a que as pessoas fazem com pressa.

A aba Sections lista as suas, organizadas por tipo de conteúdo: seus artigos, seus eventos, seus locais. Você marca as que devem alimentar a base de conhecimento, e pode descer ao nível de categoria: a seção de artigos inteira, ou apenas a categoria Prático.

Tudo o que você publicar nessas seções depois entra nela automaticamente. Não há botão de atualização para lembrar, nem exportação para refazer: sua base de conhecimento acompanha o que você publica.

Uma última configuração completa o quadro: um limite de quantos itens são guardados de cada fonte selecionada, do mais recente para trás. Aumentá-lo dá mais material ao assistente e consome mais créditos. Um veículo que publica todo dia e um guia de viagem estável não precisam do mesmo valor.

Dois modelos são configurados separadamente, e eles não fazem o mesmo trabalho.

O modelo de geração é o que escreve a resposta. A lista vai dos modelos mais recentes até suas variantes Mini e Nano, mais rápidas e mais econômicas. Ela inclui modelos da OpenAI e modelos Mistral, o que permite ficar em infraestrutura europeia quando isso importa para você.

O modelo de indexação é o que transforma seu conteúdo em algo com que a busca consegue trabalhar. Sua versão grande lida melhor com textos longos e cheios de nuances; sua versão econômica é mais rápida e consome menos.

A regra prática: comece por uma variante econômica, meça a qualidade das respostas nas suas perguntas reais, e depois suba se não estiver satisfeito. Fazer o contrário custa dinheiro à toa.

Um campo de tom de escrita permite descrever como o assistente se dirige aos seus leitores: o nível de formalidade, o estilo. Esse campo não existe para acrescentar conhecimento, existe para definir a voz.

Ele carrega, no entanto, a instrução mais útil da tela inteira: a que diz o que responder quando a resposta não está no seu conteúdo. Sem ela, um assistente muitas vezes prefere improvisar a admitir. Escreva-a explicitamente: diga a ele para dizer que não sabe e para indicar sua página de contato. Uma frase, e seu chatbot para de inventar.

Dois botões decidem o que aparece abaixo das respostas. Os cartões de fonte interativos mostram o artigo, o evento ou o local a partir do qual a resposta foi construída, e o leitor o abre em um movimento. Um segundo botão acrescenta um botão de cópia em cada mensagem da conversa.

Olhe essa resposta: ela não é apenas correta, ela diz de onde vem. Cada receita citada traz seu link para o artigo, e a fileira de cartões abaixo da conversa leva o leitor de volta ao conteúdo. É essa a diferença visível entre um assistente que se apoia em você e um assistente que fala de memória.

Ative os cartões de fonte. Eles fazem três coisas ao mesmo tempo: provam que a resposta vem mesmo de você, trazem o leitor de volta ao seu conteúdo em vez de deixá-lo na conversa, e dão a você uma forma de conferir seu chatbot num relance.

Uma opção de restrição de acesso fecha o chatbot aos visitantes de passagem e o reserva a quem está logado ou é assinante. Ela se apoia em uma das duas famílias de acesso da plataforma, a extensão de assinatura integrada ou a extensão Authentication, então uma das duas precisa estar ativa no seu app.

Essas duas famílias não se somam: é a bifurcação descrita em "Animar uma comunidade com seu app", e ela se decide antes, não depois. Se seu app vive de uma assinatura integrada, é por ela que a restrição passa.

É um bom candidato a conteúdo reservado. Um assistente que conhece dez anos do seu arquivo tem um valor que o leitor entende na hora, o que raramente é verdade de mais um artigo.

O chatbot RAG é uma extensão, e sua página mostra o preço que se aplica ao seu app. Ela inclui um volume de créditos, renovado a cada mês, e um contador no alto da tela mostra o saldo restante junto com a data da próxima renovação. O volume incluído está nessa mesma página.

Duas coisas consomem esses créditos, e não nas mesmas proporções. Indexar seu conteúdo custa pouco e acontece uma vez, e depois a cada publicação. As perguntas dos seus usuários custam o resto, e o consumo delas depende do modelo escolhido e da complexidade da pergunta. Em outras palavras, sua conta acompanha sua audiência: é uma boa notícia, desde que você tenha previsto isso.

O outro tipo de assistente não lê seu conteúdo. Ele conecta uma instância do ChatGPT ao seu app, e você lhe dá um papel.

Como toda extensão, sua página mostra o preço que se aplica ao seu app, e ela funciona nas duas linhas de produto, tanto apps de conteúdo quanto apps de e-commerce.

Como o chatbot RAG, ela é uma extensão antes de ser uma seção, e a mesma ordem se aplica: você a ativa primeiro em Extensions Store › All extensions, e a seção só aparece na lista de tipos depois disso. Você encontra então o status de todas as suas extensões em Extensions Store › Management.

Suas configurações se abrem pelo menu da seção, na entrada que configura o assistente. A tela dela tem apenas duas abas, configurações e design, enquanto o chatbot RAG tem quatro. É a diferença de natureza, visível a olho nu.

A primeira diferença está bem ali, e não é banal. Um bloco de acesso à OpenAI pede uma chave de API secreta, que você cria na sua conta OpenAI. A relação comercial fica entre você e a OpenAI: a GoodBarber não cobra nada pelas conversas e não fica com nada no caminho.

O que isso significa na prática: você abre uma conta na OpenAI, coloca uma forma de pagamento nela, e acompanha o consumo pelo painel deles, não pelo seu back office. Alguns modelos recentes exigem também que sua organização seja verificada na OpenAI, o que a tela sinaliza.

Apenas três campos, e o terceiro carrega todo o resto. Você informa o nome do assistente, escolhe um modelo de geração em uma lista que vai do mais recente ao mais econômico, e depois escreve a mensagem de sistema.

Esse texto é a única coisa que separa seu assistente de um ChatGPT comum. Ele descreve seu papel, seu tom, e sobretudo a gama de assuntos que ele aceita tratar. Um assistente a quem não se disse sobre o que ele fala vai falar de tudo, inclusive de coisas que você não quer no seu app.

Escreva-o em duas partes. Primeiro o papel, dito de forma simples: quem ele é, com quem fala, sobre qual assunto. Depois o fechamento, igualmente importante: o que ele deve responder quando a pergunta sai do assunto. É essa segunda metade que as pessoas esquecem, e é ela que mantém o assistente na sua raia.

Como o chatbot RAG, a extensão ChatGPT pode ser reservada aos seus usuários logados, pela mesma opção de restrição, e sua aparência é configurada na aba de design.

Isso decorre diretamente do seu funcionamento: esse assistente não conhece seu conteúdo. Ele não sabe o que você publicou ontem, nem seus horários de funcionamento, nem seus preços, nem o nome da sua nova coleção. Se um usuário perguntar, ele vai responder assim mesmo, com aquilo que o modelo acredita saber.

A mensagem de sistema reduz esse risco, não o elimina. Reserve então esta extensão a usos em que a resposta não precisa ser a sua: um assistente que aconselha, que reformula, que acompanha alguém nos primeiros passos. Assim que a resposta precisar ser exata e verificável, o chatbot RAG é o que você precisa.

A questão se resolve em uma única linha: a resposta precisa vir de você?

Três exemplos para fixar a regra.

Uma escola. A Paraigua publica seus calendários, seus regulamentos e seus comunicados. As mesmas perguntas voltam todo ano, nas mesmas datas, e cada uma já tem sua resposta escrita em algum lugar. É o caso de manual do RAG: o material existe, só está mal acessível.

Um guia de viagem. Portland descreve lugares, eventos, roteiros. Um visitante que pergunta "o que abre no domingo de manhã perto do porto" está pedindo algo que o conteúdo responde, mas que nenhum menu permite formular. RAG de novo.

Um salão de beleza. O Freyja Spa não tem um conjunto de documentos, mas tem clientes hesitando entre dois tratamentos. Um assistente enquadrado por uma mensagem de sistema, que faz duas ou três perguntas e encaminha para o serviço certo, é útil sem precisar saber o catálogo de cor. A extensão ChatGPT basta, e não custa nada a mais.

O chatbot RAG só existe nos apps de conteúdo. Um app de e-commerce não consegue ativá-lo hoje. Nessa linha, a extensão ChatGPT continua disponível.

Um chatbot só responde bem se seu conteúdo responder. É o limite descoberto tarde demais com mais frequência. Um assistente ligado a trinta artigos vagos produz trinta respostas vagas, e torna visível um problema de conteúdo que passava despercebido enquanto ninguém fazia a pergunta diretamente. Antes de ativá-lo, releia o que você publica e pergunte-se se um leitor encontraria ali a resposta dele. Se não, é o conteúdo que precisa de trabalho, não o modelo.

Você continua responsável pelo que seu app diz. Um assistente fala em seu nome, no seu app, nas suas cores. Teste-o com suas perguntas reais antes de publicar, inclusive as incômodas, e mantenha a instrução que manda admitir o que ele não sabe. Um assistente que responde "não sei, escreva para nós" não custa nada a você. Um assistente que inventa seus horários custa um cliente.