Informações imprecisas: ChatGPT e Bing Chat não se recomendam para produzir textos jurídicos

 Freepik

Inteligência artificial não gera textos confiáveis, dizem especialistas

O prestígio dos chatbots continua em baixa na comunidade jurídica dos EUA. Publicações que se dirigem aos operadores do Direito “imploram” para não usá-los – ou fazê-lo com precaução – para produzir textos jurídicos. Use-os a seu próprio risco, sabendo que são perigosos, diz, por exemplo, o Search Engine Journal.

Embora seja uma ferramenta útil, especialmente para quem adere à lei do menor esforço, um chatbot frequentemente produz informações imprecisas… com confiança, diz o jornal. Mas não há maneira fácil de verificar se as informações são corretas.

O algoritmo de chatbots, como o ChatGPT ou Bing Chat, se baseia em padrões de seus dados de treinamento existentes, que podem estar desatualizados ou coletadas de informações incorretas. Quem os usa, deve se dar ao trabalho de checar todas as informações.

Imprecisões à parte, falta aos chatbots profundidade, insights e criatividade, ao produzir conteúdo jurídico. Tais dificuldades se devem, em parte, à incapacidade dos chatbots de produzir ideias e textos originais. Só trabalham em cima de dados aos quais já tem acesso, que se baseiam em conteúdo já existente.

Dificilmente vão produzir um conteúdo único, consistente e envolvente, com uma dose certa de emoção, que serve, por exemplo, para um website ajudar a atrair clientes para o escritório de advocacia – uma coisa que só se encontra na experiência humana. Mas produzem textos “robóticos”, para quem quiser.

Textos gerados por chatbots podem trazer questionamentos. Como os dados da ferramenta se baseiam em conteúdo já existente, o texto pode já existir em algum lugar da web. Se dois ou mais escritórios publicam o mesmo texto, a quem ele pertence? Pode resultar em acusações de plágio – ou de violação de direitos autorais?

E outros problemas. Por exemplo, como o chatbot obtém seus dados em publicações já existentes, sem capacidade de avaliá-las, pode reproduzir textos com conteúdo preconceituoso – ou, pelo menos, politicamente incorretos.

Ele também não consegue rastrear a web para validar informações. Ou seja, não consegue se atualizar sobre novas leis, estudos, pesquisas e processos legais. Assim, não pode responder corretamente uma pergunta sobre uma questão jurídica complexa. Ou pode gerar um texto com informações incorretas.

Outro lado

Recomenda a boa prática do jornalismo que se deve sempre ouvir o outro lado. Nesse caso, pode-se “entrevistar” o ChatGPT e o Big Chat, que se supõe são máquinas inteligentes, para perguntar o que “pensam” dessas críticas.

Algumas respostas são francas: não se recomendam para produzir textos jurídicos. Outras evasivas. Em outras, os chatbots procuram mostrar que, apesar dos pesares, ainda são úteis:

Pergunta ao ChatGPT: Por que não devo usar o ChatGPT para criar conteúdo jurídico (feita em inglês: Why shouldn’t I use ChatGPT to create legal content?)

Resposta: Embora o ChatGPT possa ser uma ferramenta útil para gerar conteúdo, há várias razões para se recomendar cuidado ao usá-lo para criar conteúdo jurídico:

• Precisão e confiabilidade:

1. • As respostas do ChatGPT são geradas com base em padrões aprendidos a partir de diversas fontes de dados e nem sempre fornecem informações jurídicas corretas ou atualizadas.
   • Questões jurídicas exigem, muitas vezes, informações precisas e específicas e confiar apenas num modelo linguístico pode levar a imprecisões.

• Não há substituto para aconselhamento jurídico:

1. • O ChatGPT não substitui o aconselhamento jurídico profissional. Questões jurídicas são complexas e as decisões devem se basear em informações de profissionais jurídicos qualificados que compreendam as nuanças da lei.

• Falta de compreensão do contexto:

1. • O ChatGPT processa informações frase por frase e pode não compreender totalmente o contexto mais amplo das questões jurídicas. Isso pode resultar em respostas que carecem da profundidade necessária para uma análise jurídica.

• Possibilidade de má interpretação:

1. • A linguagem jurídica pode ser complexa e cheia de nuances. Assim, interpretações erradas podem ter consequências significativas. Confiar em um modelo de linguagem de uso geral pode levar a interpretações errôneas ou simplificações excessivas de conceitos jurídicos.

• Considerações éticas:

1. • Conteúdo jurídico envolve frequentemente informações sensíveis e confidenciais. A utilização de um modelo de IA para gerar conteúdo jurídico levanta preocupações éticas sobre privacidade, confidencialidade e o tratamento adequado de dados sensíveis.

• Respostas imprevisíveis:

1. • As respostas do ChatGPT podem ser imprevisíveis e o modelo pode gerar conteúdo inconsistente ou contraditório. Isso pode ser problemático quando se trata de questões jurídicas que exigem uma análise clara e coerente.

• Não adaptado às diferenças jurisdicionais*:

1. • Os sistemas jurídicos variam entre jurisdições e o que é aplicável em uma região pode não ser relevante em outra. O ChatGPT pode não ter a capacidade de adaptar respostas a estruturas jurídicas específicas.

(*Isso é mais relevante para os EUA, uma federação em que os estados têm um nível de autonomia muito alto, com seus próprios sistemas jurídicos e um judiciário com uma estrutura completa.)

• Responsabilidade limitada:

1. • ChatGPT é um modelo de aprendizado de máquina e carece de responsabilidade pelos conselhos ou informações que fornece. Não existe nenhuma entidade responsável pela veracidade ou consequências dos conteúdos gerados.

Em resumo, embora o ChatGPT possa ser uma ferramenta útil para gerar informações e ideias gerais, não substitui o aconselhamento jurídico profissional. É essencial consultar profissionais jurídicos qualificados ao lidar com questões jurídicas, para garantir precisão, confiabilidade e conformidade com as leis e regulamentos aplicáveis.

Pergunta ao Bing Chat: Por que não devo usar o Bing Chat para criar conteúdo jurídico (feita em inglês: Why shouldn’t I use Bing Chat to create legal content?)

Resposta: Criar conteúdo jurídico é uma tarefa que exige precisão, exatidão e informações confiáveis. Embora o Bing possa ser uma ferramenta útil para pesquisa e coleta de informações, há vários motivos pelos quais ele pode não ser a melhor escolha para a criação de conteúdo jurídico:

• Profundidade do conhecimento jurídico: O Bing fornece resultados de pesquisa com base em informações disponíveis publicamente, mas não conta com a experiência de um profissional jurídico. As questões jurídicas muitas vezes envolvem leis e jurisprudência complexas e interpretações cheias de nuanças. Para obter conteúdo jurídico preciso, é essencial consultar especialistas jurídicos ou bancos de dados jurídicos confiáveis.
• Jurisdições específicas: As regras e regulamentos legais variam significativamente entre diferentes países, estados e municípios. Os resultados da pesquisa do Bing nem sempre levam em conta essas diferenças jurisdicionais. Ao criar conteúdo jurídico, é crucial considerar o contexto jurídico específico relevante para cada situação.
• Atualidade: Informações jurídicas podem mudar rapidamente devido a nova legislação, decisões judiciais ou atualizações regulatórias. Os resultados da pesquisa do Bing nem sempre refletem os desenvolvimentos jurídicos mais atualizados. Os profissionais jurídicos contam com bancos de dados jurídicos especializados e fontes governamentais oficiais para se manterem atualizados.
• Citações e referências: O conteúdo jurídico muitas vezes exige citações precisas de leis, regulamentos, jurisprudência e comentários jurídicos. Os resultados da pesquisa do Bing podem não fornecer o formato de citação necessário ou referências confiáveis. Profissionais jurídicos usam ferramentas de pesquisa jurídica que geram citações precisas.
• Controle de qualidade: A criação de conteúdo jurídico envolve um rigoroso controle de qualidade para garantir precisão, consistência e adesão aos padrões legais. Os resultados da pesquisa do Bing podem variar em qualidade e é essencial verificar as informações de forma independente.
• Considerações éticas: Profissionais jurídicos aderem às diretrizes éticas, incluindo confidencialidade do cliente, conflito de interesses e responsabilidade profissional. O Bing não possui a estrutura ética necessária para a prática jurídica.

Em resumo, embora o Bing possa ser um ponto de partida útil para pesquisa jurídica, não deve substituir o aconselhamento jurídico profissional ou recursos jurídicos autorizados. Para conteúdo jurídico, consulte especialistas jurídicos, bancos de dados jurídicos oficiais e publicações jurídicas confiáveis.

Pergunta ao ChatGPT: Posso confiar no ChatGPT para gerar conteúdo jurídico para o website de meu escritório de advocacia (feita em inglês: Can I trust ChatGPT to generate legal content for my law firm website?)

Resposta: Embora o ChatGPT possa ajudar na geração de conteúdo, é crucial usá-lo com cautela para produzir conteúdo jurídico para o site de seu escritório de advocacia. Aqui estão algumas considerações:

• Verificação com profissionais jurídicos:

1. • Sempre verifique as informações geradas pelo ChatGPT com profissionais jurídicos qualificados. O conteúdo jurídico exige exatidão e precisão e é essencial garantir que as informações estejam alinhadas com as leis e regulamentos atuais.

• Risco de imprecisões:

1. • O ChatGPT gera respostas baseadas em padrões aprendidos de diversas fontes de dados. Embora possa fornecer informações gerais, nem sempre produz conteúdo preciso ou atualizado, especialmente para questões jurídicas complexas.

• Revisão e edição:

1. • Use o conteúdo gerado como ponto de partida e esteja preparado para revisá-lo e editá-lo minuciosamente. O conteúdo jurídico geralmente requer linguagem e formatação específicas. É importante adaptar as informações às necessidades do escritório de advocacia e da jurisdição.

• Privacidade e confidencialidade:

1. • Seja cauteloso ao usar IA para conteúdo legal, especialmente se envolve informações sensíveis ou confidenciais. Certifique-se de ter medidas apropriadas para proteger a confidencialidade do cliente e aderir aos padrões éticos.

• Compreensão limitada do contexto:

1. • O ChatGPT processa informações frase por frase e pode não ter uma compreensão completa do contexto jurídico mais amplo. Portanto, pode não fornecer análises aprofundadas ou perspectivas diferenciadas sobre questões jurídicas complexas.

• Diferenças entre jurisdições:

1. • Os sistemas jurídicos variam entre as jurisdições e o ChatGPT pode não estar ciente das nuanças jurídicas regionais específicas. Adapte o conteúdo à estrutura jurídica de sua jurisdição e procure aconselhamento jurídico para confirmar sua exatidão.

• Expectativas do usuário:

1. • Comunique claramente aos visitantes do site que qualquer conteúdo gerado pelo ChatGPT só serve para fins informativos e não deve ser considerado aconselhamento jurídico. Incentive os usuários a consultar profissionais jurídicos qualificados para questões jurídicas específicas.

• Atualizações regulares:

1. • Mantenha o conteúdo do site atualizado regularmente. As informações jurídicas podem mudar e é importante garantir que as informações apresentadas sejam atuais e precisas.

Em resumo, embora o ChatGPT possa ser uma ferramenta útil para gerar rascunhos ou ideias iniciais, ele não deve ser considerado a única fonte de conteúdo jurídico no site de um escritório de advocacia. Sempre verifique e revise o conteúdo gerado com profissionais jurídicos para garantir a precisão e deixe claro aos usuários que as informações não substituem um aconselhamento jurídico personalizado.

Pergunta ao Bing Chat: Posso confiar no Bing Chat para gerar conteúdo jurídico para o website de meu escritório de advocacia (feita em inglês: Can I trust Bing Chat to generate legal content for my law firm website?)

Resposta: Certamente! Vamos nos aprofundar nas nuanças do uso do Bing Chat para conteúdo jurídico no site do seu escritório de advocacia.

• Compreendendo o Bing Chat:
  • O Bing Chat é um chatbot com tecnologia de IA projetado para responder às perguntas dos usuários em um estilo conversacional.
  • Ele se foca na intenção e no significado, fornecendo respostas detalhadas com base no contexto, fraseado e consultas anteriores.
  • O Bing Chat pode gerar vários tipos de conteúdo, incluindo postagens em mídias sociais, artigos de blog, conteúdo de sites e e-mails.
• Tecnologia por trás do Bing Chat:
  • O Bing Chat se vale da OpenAI, uma empresa de IA sem fins lucrativos. Foi treinado em grandes quantidades de dados da Internet, incluindo 175 bilhões de parâmetros e 570 gigabytes de texto.
  • Cada interação com o Bing Chat contribui para a sua aprendizagem, melhorando suas capacidades ao longo do tempo.
• Prós e contras em conteúdo jurídico:
  • Vantagens:
    • Econômico: o Bing Chat pode criar conteúdo de forma eficiente, potencialmente economizando custos.
    • Versatilidade: Pode gerar diversos tipos de conteúdo jurídico.
  • Desvantagens:
    • Precisão: o Bing Chat nem sempre é preciso. Pode produzir respostas que parecem plausíveis, mas incorretas.
    • Confiabilidade: para aconselhamento jurídico crítico, não é mais confiável do que um resultado de pesquisa do Google.
• Casos de uso:
  • Blogs: o Bing Chat pode ajudar a redigir artigos informativos sobre tópicos jurídicos para blogs.
  • Mídia social: pode criar conteúdo envolvente para a mídia social.
  • Informações gerais: Use-o para informações jurídicas não críticas.
• Advertências:
  • Não substitui aconselhamento jurídico. Consulte sempre um advogado humano para obter aconselhamento jurídico personalizado.
  • Revisão e edição: qualquer conteúdo gerado pelo Bing Chat deve ser revisado e editado por profissionais jurídicos.

Em resumo, embora o Bing Chat tenha potencial para marketing jurídico, tenha cautela e considere suas limitações. É uma ferramenta valiosa, mas não substitui a experiência humana.

Fonte: CONJUR/ 01/01/2024 - 09H:55min.