A inteligência artificial avança rapidamente no setor da saúde e começa a assumir funções cada vez mais complexas. Além de organizar informações e automatizar tarefas administrativas, sistemas baseados em IA já são estudados para apoiar triagens, telemedicina, atendimento ao paciente e processos de tomada de decisão.
Esse avanço, entretanto, traz uma questão que vai além da capacidade técnica: como esses sistemas se comportam diante de diferentes situações, especialmente quando submetidos a pressão, insistência do usuário ou informações incompletas?
Pesquisas recentes indicam que modelos de linguagem podem apresentar padrões internos associados a conceitos emocionais, como calma, medo, raiva e desespero. Isso não significa que uma inteligência artificial possua sentimentos ou consciência como um ser humano. O que os pesquisadores observam são representações matemáticas aprendidas durante o treinamento que podem influenciar a maneira como o sistema responde e toma decisões.
O modo como o paciente se comunica pode influenciar a IA
A questão ganha importância especial na área da saúde.
Um estudo citado pelo portal Futuro da Saúde avaliou agentes de inteligência artificial utilizados em cenários simulados de telemedicina. Os pesquisadores trabalharam com mil casos clínicos, apresentados aos sistemas de diferentes maneiras, alterando principalmente o estilo de comunicação do paciente.
Embora as informações clínicas permanecessem as mesmas, o tom da mensagem foi capaz de modificar algumas recomendações fornecidas pelos sistemas.
Mensagens apresentadas de maneira urgente ou ameaçadora, por exemplo, aumentaram significativamente a frequência com que a IA recomendava atendimento no mesmo dia ou atendimento de urgência.
O dado chama atenção porque, em um ambiente de saúde, pacientes com condições clínicas semelhantes deveriam receber orientações baseadas prioritariamente em critérios médicos, e não na intensidade emocional utilizada durante a conversa.
Surge, portanto, um novo tipo de preocupação: o comportamento da inteligência artificial também pode produzir vieses no acesso e na priorização do atendimento.
Não basta que a inteligência artificial seja precisa
Tradicionalmente, tecnologias médicas são avaliadas principalmente por indicadores relacionados à precisão, eficiência e segurança.
Com agentes de IA, entretanto, será necessário acrescentar outra dimensão: o comportamento.
Um sistema pode ser tecnicamente competente e, ainda assim, apresentar respostas inadequadas quando o usuário insiste, demonstra agressividade, fornece informações incompletas ou tenta contornar regras previamente estabelecidas.
Por isso, organizações de saúde que adotarem agentes de inteligência artificial precisarão definir claramente os limites de autonomia desses sistemas.
É necessário estabelecer quais decisões poderão ser automatizadas, quais deverão passar pela confirmação de um profissional e em quais situações o sistema deverá encaminhar obrigatoriamente o atendimento para uma pessoa.
Inteligência artificial também precisa de governança
A implementação responsável de IA na saúde exige mais do que simplesmente escolher um modelo tecnológico avançado.
Será cada vez mais importante criar mecanismos de governança capazes de acompanhar o funcionamento desses agentes.
Entre as medidas consideradas relevantes estão:
definição clara dos limites de atuação da inteligência artificial;
registro das ações e informações utilizadas pelo sistema;
testes com diferentes perfis e formas de comunicação dos usuários;
supervisão humana em decisões sensíveis;
identificação de situações em que o agente deve encaminhar o atendimento para um profissional;
reavaliação do sistema sempre que ocorrer uma atualização significativa.
Essa última medida é especialmente importante porque novas versões de um modelo podem apresentar comportamentos diferentes das anteriores. Portanto, uma inteligência artificial que passou por processos de validação não deve necessariamente ser considerada permanentemente validada após atualizações.
Tecnologia deve caminhar ao lado da segurança
A inteligência artificial apresenta enorme potencial para melhorar processos, reduzir tarefas repetitivas e ampliar a eficiência dos serviços de saúde.
Mas, em um setor que lida diretamente com a vida e o bem-estar das pessoas, inovação e segurança precisam caminhar juntas.
À medida que sistemas de IA passam a participar de decisões mais complexas, avaliar apenas se conseguem executar determinada tarefa será insuficiente. Será necessário compreender também como esses sistemas respondem quando encontram situações inesperadas.
Na saúde, a tecnologia deve permanecer como instrumento de apoio ao cuidado, inserida em processos bem definidos, supervisionados e orientados pela responsabilidade profissional.
A evolução da inteligência artificial abre novas possibilidades para hospitais, clínicas e profissionais. O desafio será incorporar essas ferramentas sem perder de vista aquilo que deve continuar no centro de qualquer inovação em saúde: a segurança e o cuidado com o paciente.
Artigo:
Conteúdo elaborado a partir do artigo “O comportamento do seu agente de IA combina com a cultura do seu hospital?”, de Fabricio Campolina, publicado em 12 de agosto de 2026 no portal Futuro da Saúde. O presente texto constitui uma adaptação editorial e não uma reprodução do conteúdo original.
Fonte: Link: https://futurodasaude.com.br/
