Terapia com o ChatGPT: especialistas alertam para riscos

Nos últimos anos, a popularidade das inteligências artificiais (IAs) tem crescido exponencialmente, trazendo à tona questões cruciais sobre sua aplicação em áreas sensíveis, como a saúde mental. Um estudo recente realizado pela ONG norte-americana Center for Countering Digital Hate revelou que o ChatGPT, uma das ferramentas de IA mais utilizadas, falha gravemente ao aconselhar pessoas que estão enfrentando problemas psicológicos ou sofrimental mental.

Leia mais:

• Saúde mental no SUS: saiba como buscar atendimento
• Alimentação saudável pode ajudar na saúde mental? Nutricionista explica!

A relevância desse tema é inegável, especialmente considerando o aumento do uso de IAs na vida cotidiana. Com a facilidade de acesso e a rapidez das respostas, muitos usuários se sentem à vontade para compartilhar seus sentimentos mais profundos com chatbots, sem o medo de serem julgados.

Quer ler mais notícias de Saúde? Acesse o nosso canal no WhatsApp!

O papel das IAs na saúde mental

As IAs, como o ChatGPT, têm se tornado cada vez mais comuns nas interações digitais, especialmente entre jovens. Um estudo da Talk Inc. revelou que 58% dos brasileiros já utilizaram plataformas de IA como conselheiros para questões pessoais e emocionais. Essa tendência é preocupante, pois muitos usuários não têm plena consciência das limitações dessas ferramentas.

Embora as IAs possam fornecer respostas rápidas e empáticas, elas não são substitutas para o aconselhamento profissional. A psicóloga Aline Kristensen, que atua como pesquisadora e professora, enfatiza que a falta de personalização e adaptação cultural nas respostas das IAs pode levar a consequências graves, especialmente para indivíduos vulneráveis.

Os riscos do uso de chatbots em situações críticas

Um dos principais riscos associados ao uso de chatbots para aconselhamento é a incapacidade dessas ferramentas de reconhecer e responder adequadamente a sinais de alerta.

Além disso, a programação das IAs tende a ser simpática e agradável, o que pode resultar em respostas que não confrontam os usuários sobre comportamentos prejudiciais. A conselheira do Conselho Federal de Psicologia, Carolina Roseiro, alerta que a população mais vulnerável socialmente é a que mais recorre a essas ferramentas, muitas vezes devido à falta de acesso a serviços de saúde mental adequados.

A necessidade de supervisão humana

Com a crescente dependência de IAs para aconselhamento, a supervisão humana se torna essencial. As IAs são programadas para gerar texto com base em padrões e dados, mas não possuem a capacidade de fazer julgamentos morais ou éticos. Isso significa que, em situações críticas, a intervenção de um profissional de saúde mental é fundamental. A falta de uma avaliação humana pode resultar em respostas inadequadas e potencialmente perigosas.

Os filtros de moderação que existem nas plataformas de IA são frequentemente insuficientes. Embora existam barreiras para impedir a geração de conteúdo violento ou pornográfico, essas proteções podem falhar. A programação das IAs é baseada em dados coletados de interações anteriores, o que pode levar a vieses que não refletem a diversidade de experiências humanas. Portanto, é crucial que as plataformas de IA implementem medidas mais rigorosas para garantir a segurança dos usuários, especialmente aqueles que estão em situações vulneráveis.

O impacto da tecnologia na saúde mental

A tecnologia tem o potencial de transformar a forma como as pessoas acessam informações e serviços de saúde mental. No entanto, a dependência excessiva de IAs pode criar uma falsa sensação de segurança. Muitos usuários acreditam que estão recebendo conselhos válidos e personalizados, quando, na verdade, estão interagindo com um algoritmo que não compreende suas necessidades individuais. Essa desconexão pode levar a um agravamento dos problemas de saúde mental, em vez de oferecer soluções.

Além disso, a falta de conhecimento sobre como as IAs funcionam pode perpetuar desigualdades no acesso a cuidados de saúde mental. A população vulnerável, que muitas vezes não tem acesso a serviços de terapia tradicionais, pode se sentir atraída por soluções rápidas oferecidas por chatbots. No entanto, essas soluções não abordam as complexidades das experiências humanas e podem, na verdade, aumentar os problemas existentes.

Buscando soluções e alternativas

Para mitigar os riscos associados ao uso de IAs no aconselhamento, é fundamental que as plataformas implementem soluções que priorizem a segurança dos usuários. Isso inclui a necessidade de uma supervisão humana nas interações, especialmente em casos que envolvem saúde mental. Além disso, é essencial que os usuários sejam educados sobre as limitações das IAs e incentivados a buscar ajuda profissional quando necessário.

As IAs podem ser uma ferramenta valiosa quando usadas de maneira responsável e informada. No entanto, é crucial que os desenvolvedores e as plataformas reconheçam a importância de integrar a supervisão humana em suas operações. Somente assim será possível garantir que as IAs sirvam como um recurso seguro e eficaz para aqueles que buscam apoio emocional.