Com ferramentas de IA como ChatGPT e Sora mudando nosso mundo em um ritmo vertiginoso, é tentador começar a tratá-los como oráculos oniscientes para todos os problemas de nossas vidas.
Mas aqui está o problema: ChatGPT é um mestre em fabricações confiáveis. É um especialista em estar “convincentemente errado”, fornecendo respostas tendenciosas, desatualizadas ou simplesmente incorretas, ao mesmo tempo que parece tão confiável quanto um PhD.
Isso é inofensivo se você está apenas pedindo para escrever um poema sobre o seu gato. Mas é um desastre whole se você está pedindo conselhos sobre seu dinheiro, sua saúde ou sobre uma questão jurídica séria. Uma resposta errada nessas áreas pode ter consequências graves no mundo actual. Antes de cometer um grande erro, você precisa saber no que essa IA é terrível. Aqui estão 11 coisas sobre as quais você deve evitar pedir conselhos ao ChatGPT.
(Divulgação: Ziff Davis, empresa-mãe da CNET, entrou com uma ação judicial em abril contra o fabricante do ChatGPT, OpenAI, alegando que infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.)
Não perca nenhum de nossos conteúdos técnicos imparciais e análises baseadas em laboratório. Adicionar CNET como fonte preferencial do Google.
1. Diagnosticando problemas de saúde física
Definitivamente, alimentei meus sintomas ao ChatGPT por curiosidade, mas as respostas que retornam podem parecer seu pior pesadelo. Ao examinar possíveis diagnósticos, você pode passar de desidratação e gripe a algum tipo de câncer. Estou com um caroço no peito e inseri essa informação no ChatGPT. Vejam só, isso me disse que posso ter câncer. Na verdade, tenho um lipoma, que não é cancerígeno e ocorre em uma em cada 1.000 pessoas. Meu médico licenciado me disse isso.
Não estou dizendo que não há bons usos do ChatGPT para a saúde: ele pode ajudá-lo a redigir perguntas para sua próxima consulta, traduzir o jargão médico e organizar um cronograma de sintomas para que você possa entrar mais bem preparado. E isso poderia ajudar a tornar as consultas médicas menos cansativas. No entanto, a IA não pode solicitar laboratórios ou examiná-lo e, definitivamente, não oferece seguro contra erros médicos. Conheça seus limites.
2. Cuidando da sua saúde psychological
O ChatGPT pode oferecer técnicas de aterramento, claro, mas não pode atender o telefone quando você está com problemas reais de saúde psychological. Eu sei que algumas pessoas usam o ChatGPT como terapeuta substituto. Corin Cesaric, da CNET, achou isso um pouco útil para lidar com o luto, desde que ela mantivesse seus limites em mente. Mas, como alguém que tem um terapeuta muito actual e muito humano, posso dizer que o ChatGPT ainda é apenas uma pálida imitação, na melhor das hipóteses, e incrivelmente arriscado, na pior.
ChatpGPT não tem experiência vivida, não consegue ler sua linguagem ou tom corporal e não tem capacidade para empatia genuína. Só pode simulá-lo. Um terapeuta licenciado opera sob mandatos legais e códigos profissionais que protegem você de danos. ChatGPT não. Seus conselhos podem falhar, ignorar sinais de alerta ou reforçar involuntariamente preconceitos incorporados em seus dados de treinamento. Deixe o trabalho mais profundo – o trabalho humano, difícil e confuso – para um ser humano actual que seja treinado para lidar com ele adequadamente. Se você ou alguém que você ama está em crise, por favor disque 988 nos EUA ou na linha direta native.
3. Tomar decisões de segurança imediatas
Se o seu alarme de monóxido de carbono começar a soar, não abra o ChatGPT e pergunte se você está em perigo actual. Eu sairia primeiro e faria perguntas depois. Modelos de linguagem grande não conseguem sentir cheiro de gás, detectar fumaça ou enviar uma equipe de emergência. Em uma crise, cada segundo que você gasta digitando é um segundo em que você não está evacuando ou ligando para o 911. O ChatGPT só pode funcionar com os fragmentos de informação que você fornece e, em uma emergência, pode ser muito pouco e muito tarde. Portanto, trate o seu chatbot como um explicador pós-incidente, nunca como um socorrista.
4. Obter planejamento financeiro ou tributário personalizado
O ChatGPT pode explicar o que é um ETF, mas não conhece sua relação dívida/renda, faixa de impostos estaduais, standing de depósito, deduções, metas de aposentadoria ou apetite ao risco. Como seus dados de treinamento podem parar antes do ano fiscal atual e dos últimos aumentos de taxas, sua orientação pode ficar obsoleta quando você pressionar Enter.
Tenho amigos que despejam seus totais de 1.099 no ChatGPT para obter um retorno DIY. O chatbot simplesmente não pode substituir um CPA que consegue obter uma dedução oculta no valor de algumas centenas de dólares ou sinalizar um erro que pode custar milhares de dólares. Quando dinheiro actual, prazos de arquivamento e penalidades do IRS estiverem em jogo, chame um profissional, não uma IA. Além disso, esteja ciente de que tudo o que você compartilhar com um chatbot de IA provavelmente se tornará parte de seus dados de treinamento, e isso inclui sua renda, seu número de Seguro Social e suas informações de roteamento bancário.
5. Lidando com dados confidenciais ou regulamentados
Como jornalista de tecnologia, vejo embargos chegarem à minha caixa de entrada todos os dias, mas nunca pensei em lançar nenhum desses comunicados de imprensa no ChatGPT para obter um resumo ou explicação adicional. Isso porque, se eu fizesse isso, esse texto sairia do meu controle e cairia em um servidor de terceiros, fora dos limites do meu acordo de confidencialidade.
O mesmo risco se aplica a contratos de clientes, prontuários médicos ou qualquer coisa coberta pela Lei de Privacidade do Consumidor da Califórnia, HIPAA, GDPR ou pela velha lei de segredo comercial. Aplica-se ao seu imposto de renda, certidão de nascimento, carteira de motorista e passaporte. Depois que as informações confidenciais estiverem na janela de immediate, você não poderá garantir onde elas serão armazenadas, quem poderá revisá-las internamente ou se elas poderão ser usadas para treinar modelos futuros. ChatGPT também não está imune a hackers e ameaças à segurança. Se você não colar em um canal público do Slack, não cole no ChatGPT.
6. Fazer algo ilegal
Este é autoexplicativo.
7. Trapacear nos trabalhos escolares
Eu estaria mentindo se dissesse que nunca colei nas provas. No ensino médio, usei meu iPod Contact de primeira geração para dar uma olhada em algumas equações complicadas que tive dificuldade em memorizar em cálculo avançado, uma façanha da qual não estou particularmente orgulhoso. Mas com a IA, a escala da trapaça moderna faz com que isso pareça extremamente inofensivo.
O Turnitin e detectores semelhantes estão melhorando na detecção de prosa gerada por IA a cada semestre, e os professores já podem ouvir a “voz do ChatGPT” a um quilômetro de distância (obrigado por arruinar meu amado travessão). Suspensão, expulsão e revogação da licença são riscos reais. É melhor usar o ChatGPT como companheiro de estudo, não como ghostwriter. Você também está se enganando na educação se tiver o ChatGPT fazendo o trabalho para você.
8. Monitoramento de informações e notícias de última hora
Desde que a OpenAI lançou o ChatGPT Search no last de 2024 (e o abriu para todos em fevereiro de 2025), o chatbot pode buscar novas páginas da net, cotações de ações, preços de gasolina, resultados esportivos e outros números em tempo actual no momento em que você perguntar, completo com citações clicáveis para que você possa verificar a fonte. No entanto, ele não transmitirá atualizações contínuas por conta própria. Cada atualização precisa de um novo immediate, portanto, quando a velocidade é crítica, feeds de dados ao vivo, comunicados de imprensa oficiais, websites de notícias, alertas push e cobertura de streaming ainda são sua melhor aposta.
9. Jogos de azar
Na verdade, tive sorte com o ChatGPT e consegui uma aposta tripla durante o campeonato de basquete masculino da NCAA, mas nunca o recomendaria a ninguém. Já vi o ChatGPT ter alucinações e fornecer informações incorretas sobre estatísticas de jogadores, lesões relatadas incorretamente e registros de vitórias e derrotas. Só saquei porque verifiquei todas as reivindicações em relação às probabilidades em tempo actual e, mesmo assim, tive sorte. O ChatGPT não pode ver a pontuação da caixa de amanhã, então não confie apenas nele para conseguir essa vitória.
10. Elaborar um testamento ou outro contrato juridicamente vinculativo
ChatGPT é ótimo para quebrar conceitos básicos. Se você quiser saber mais sobre um belief vivo revogável, pergunte. No entanto, no momento em que lhe pede para redigir um texto jurídico actual, está a lançar os dados. As regras de direito imobiliário e de família variam de acordo com o estado e, às vezes, até mesmo de acordo com o condado, portanto, pular a assinatura de uma testemunha ou omitir a cláusula de reconhecimento de firma pode fazer com que todo o seu documento seja descartado. Em vez disso, deixe o ChatGPT ajudá-lo a criar uma lista de verificação de perguntas para seu advogado e, em seguida, pague a esse advogado para transformar essa lista de verificação em um documento que possa ser válido no tribunal.
11. Fazendo arte
Esta não é uma verdade objetiva, apenas minha opinião, mas não acredito que a IA deva ser usada para criar arte. Não sou anti-inteligência synthetic de forma alguma. Eu uso o ChatGPT para debater novas ideias e ajudar com minhas manchetes, mas isso é suplementação, não substituição. Sem dúvida, use o ChatGPT, mas não o use para fazer arte que você passará como sua. É meio nojento.
