Segundo a OpenAI, os plugins podem ser “olhos e ouvidos” para os modelos de linguagem. A empresa explica que este tipo de tecnologia só “sabe” o que foi treinada — por isso, as informações podem ser limitadas ou desatualizadas.
Texto em desenvolvimento
Ao fazer parcerias com outras empresas, o ChatGPT pode “saber” mais, já que ele passa a acessar dados mais específicos, recentes ou pessoais.
Dependendo do pedido do usuário, o chatbot pode executar uma tarefa mais segura e restrita, executando a tarefa com mais precisão.
Plugins trazem oportunidades e riscos
A OpenAI também diz que, com mais dados, o número de “alucinações” — nome do jargão do setor para quando a IA traz informações incorretas ou puramente inventadas por ela mesma — tende a diminuir.
As informações também podem ser pessoais de um usuário, desde que ele autorize aquele acesso. Pense assim: o ChatGPT pode pedir acesso à sua conta em um site de viagens para saber quais você já fez e saber sugerir hotéis alinhados com seu orçamento.
Por outro lado, a OpenAI reconhece que os plugins trazem novos riscos. Segundo a empresa, eles podem tomar ações perigosas ou não intencionais. Isso pode permitir que pessoas mal-intencionadas cometam fraudes, enganos ou abusos.
Em exercícios de teste, foi descoberto que, sem proteções, seria possível usar os plugins para fazer injeções de instruções, para forçar o ChatGPT a realizar tarefas proibidas, enviar e-mails fraudulentos ou de spam, contornar restrições de segurança ou usar inadequadamente informações obtidas usando a ferramenta.
A companhia diz ter implementado proteções desde o início do desenvolvimento do recurso, para evitar este tipo de problema.
ChatGPT vai buscar informações na web
Um dos grandes problemas do ChatGPT é que ele não foi treinado com informações atualizadas — os textos usados no treinamento foram publicados até 2021. Por isso, não dá para pedir que o chatbot dê respostas sobre eventos recentes: ou ele não responde, ou ele “alucina”.
Para contornar isso, a OpenAI criou um plugin próprio para navegar na web. Agora, ao fazer uma pergunta que demanda uma resposta atualizada, o robô faz uma busca na web e resume as informações encontradas nos sites visitados.
No exemplo fornecido pela empresa, o usuário pergunta como os vencedores do Oscar deste ano se comparam com outros filmes recentes em números de bilheteria.
O ChatGPT, então, busca a frase toda, entra em uma página com os filmes premiados e colhe as informações. Depois, busca apenas uma parte da frase, entra em um site com números de bilheteria e obtém os valores.
No fim, ele dá uma resposta em linguagem natural, comparando a bilheteria do filme Tudo em Todo Lugar Ao Mesmo Tempo com a de Pânico VI. Ela inclui até mesmo um comentário sobre o primeiro título ter ficado um longo período em cartaz, enquanto o segundo é um lançamento recente.
Por enquanto, os plugins ainda estão em fase alpha. Por isso, a disponibilidade está limitada a alguns assinantes do ChatGPT Plus (que custa US$ 20 mensais) e a alguns desenvolvedores.
Com informações: OpenAI
ChatGPT terá plugins para tentar dar respostas mais precisas
You must be logged in to post a comment.