A inteligência artificial entrou rapidamente na rotina das empresas. Funcionários usam chatbots para escrever e-mails, analisar documentos, resumir reuniões, gerar código, pesquisar informações e automatizar tarefas que antes exigiam mais tempo.

Para muitas organizações, esse movimento é positivo. O problema começa quando a tecnologia chega antes das regras que deveriam acompanhá-la.

Um funcionário pode abrir uma conta pessoal no ChatGPT, Claude ou outra ferramenta, copiar um documento interno e pedir ajuda para resumir seu conteúdo. Um desenvolvedor pode enviar um trecho de código proprietário para uma ferramenta de programação. Um profissional de vendas pode inserir informações de clientes para preparar uma apresentação.

Nada disso, necessariamente, parece um incidente de segurança no momento em que acontece. Ainda assim, a empresa pode ter perdido o controle sobre os dados utilizados naquela interação. Esse fenômeno é chamado de Shadow AI.

O que é Shadow AI?

O termo descreve o uso de ferramentas de inteligência artificial nas sombras, sem conhecimento, aprovação ou governança da organização. O conceito é parecido com o antigo Shadow IT, mas vai além da instalação de um software; o funcionário pode enviar informações da empresa para um sistema externo, receber respostas geradas por IA e usá-las para orientar decisões e tarefas dentro da organização.

A situação é mais comum do que pode parecer. Uma pesquisa da Microsoft revelou que 71% dos funcionários entrevistados no Reino Unido já haviam utilizado ferramentas de IA não autorizadas pelo menos uma vez, e mais da metade fazia isso semanalmente.

Isso pode acontecer porque a ferramenta autorizada pela empresa não atende uma determinada necessidade, possui limitações de acesso ou simplesmente não está disponível. O funcionário, então, recorre à alternativa que já conhece, muitas vezes sem considerar quais informações estão sendo compartilhadas com o serviço ou como essas informações serão utilizadas.

Onde está o risco do Shadow AI?

É muito prático tratar Shadow AI como uma lista de ferramentas proibidas. Bloquear ChatGPT, Claude ou qualquer outro serviço pode até reduzir parte da exposição, mas não resolve o problema sozinho. O risco está no comportamento durante a utilização.

Entre os dados que podem aparecer nesse tipo de interação estão:

• informações pessoais de clientes;

• contratos e documentos internos;

• código-fonte proprietário;

• dados financeiros;

• estratégias comerciais;

• informações sobre produtos ainda não lançados;

• credenciais e configurações técnicas;

• informações protegidas por contratos de confidencialidade.

A própria Microsoft define Shadow AI como o uso de ferramentas de IA sem conhecimento, aprovação ou governança das equipes de TI e segurança, destacando riscos de vazamento de dados, problemas de conformidade e danos reputacionais.

Mesmo quando nenhum dado sensível é enviado, existe outro risco: perder visibilidade sobre como a IA está influenciando decisões e conteúdo.

Se um relatório foi escrito com auxílio de uma ferramenta não autorizada, quem consegue verificar quais informações foram fornecidas ao modelo? Se uma recomendação foi gerada por IA e estava errada, existe registro daquela interação? Se um código produzido pelo modelo introduziu uma vulnerabilidade, é possível reconstruir como ele foi criado?

O efeito cascata de uma resposta errada

O Shadow AI também se conecta a outro problema conhecido da inteligência artificial generativa: as alucinações.

Um modelo de linguagem pode produzir uma resposta incorreta com aparência de informação confiável. O texto pode estar bem escrito, apresentar argumentos coerentes e até utilizar números específicos. Nada disso garante que a informação esteja correta.

O risco aumenta quando a resposta entra em um processo maior. Um funcionário pergunta algo à IA. A resposta incorreta vira um relatório. O relatório é utilizado por outro profissional. A informação chega a uma apresentação. Depois, passa a fazer parte de uma decisão. O erro inicial era pequeno. O problema cresceu porque ninguém percebeu onde ele começou.

Esse tipo de efeito é especialmente preocupante em ambientes corporativos porque a IA participa de fluxos de atendimento, desenvolvimento, análise financeira, suporte, pesquisa e produção de documentos. Quanto mais etapas dependem de uma resposta gerada automaticamente, maior pode ser o impacto de uma informação incorreta.

Uma estratégia mais consistente é fornecer ao sistema fontes confiáveis e contexto específico para produzir a resposta. É nesse ponto que entra o RAG.

Como o RAG conecta a IA ao conhecimento da empresa?

RAG, ou Retrieval-Augmented Generation, é uma abordagem que combina modelos de linguagem com mecanismos de recuperação de informações.

Em vez de depender exclusivamente do conhecimento adquirido durante o treinamento do modelo, o sistema busca informações relevantes em uma base definida pela organização antes de elaborar a resposta.

Em uma empresa com milhares de contratos, manuais, políticas internas e documentos técnicos, um funcionário pode perguntar à IA qual é o procedimento correto para determinada situação. Em um sistema sem acesso ao conhecimento interno, o modelo precisa responder com base no que já aprendeu e nas informações presentes na conversa. Em um sistema com RAG, a aplicação pode primeiro consultar a documentação corporativa relevante e, então, fornecer esse contexto ao modelo.

O processo pode ser resumido assim:

Pergunta → busca na base de conhecimento → recuperação dos documentos relevantes → contexto enviado ao modelo → resposta fundamentada nas fontes encontradas.

Isso não elimina alucinações. Um RAG mal configurado também pode recuperar documentos inadequados ou fornecer contexto insuficiente.

A diferença é que a aplicação pode fornecer ao modelo informações selecionadas pela própria organização como contexto para a resposta.

Essa abordagem já é adotada em projetos corporativos de IA. A CodeBit, por exemplo, utiliza RAG em soluções desenvolvidas para conectar modelos de linguagem a bases documentais específicas. Em um projeto de assistente virtual para segurança patrimonial, a abordagem foi utilizada para combinar busca contextual em documentos com geração de respostas em linguagem natural.

Para ambientes corporativos, essa arquitetura também permite estabelecer limites. O sistema pode trabalhar com documentos autorizados, apresentar as fontes utilizadas e restringir respostas que estejam fora do escopo definido.

A governança precisa acompanhar o uso da IA

Se a empresa simplesmente proibir ferramentas de IA, existe uma boa chance de parte dos funcionários continuar utilizando-as escondido. O desafio passa a ser criar uma estrutura em que o caminho autorizado também seja o mais conveniente para o usuário.

Isso envolve estabelecer regras claras sobre:

• quais ferramentas podem ser utilizadas;

• quais informações podem ser enviadas aos modelos;

• quais dados são proibidos;

• quais modelos estão disponíveis para cada área;

• como as interações são registradas;

• quem pode acessar cada recurso;

• quando uma resposta precisa ser revisada por uma pessoa;

• como incidentes relacionados à IA devem ser tratados.

A governança também precisa acompanhar a evolução das ferramentas.

Isso é particularmente importante com o uso de agentes. Um sistema que apenas responde a uma pergunta apresenta um tipo de risco. Um agente com acesso a e-mail, código, documentos ou sistemas internos apresenta outro.

Como reduzir o Shadow AI sem bloquear a inovação?

Uma política de IA eficiente precisa partir da realidade de que os funcionários já têm acesso fácil a essas ferramentas. A empresa pode tentar impedir esse uso ou criar condições para que ele aconteça de maneira controlada. A segunda opção tende a ser mais sustentável.

O primeiro passo é entender o cenário atual. Quais ferramentas estão sendo utilizadas? Quais departamentos usam IA? Para quais atividades? Que tipos de dados são enviados?

Depois, a organização pode estabelecer uma camada de ferramentas aprovadas que ofereça recursos próximos daqueles que os funcionários procuram nas alternativas externas. Também é importante criar diferentes níveis de acesso. Nem todo funcionário precisa ter acesso aos mesmos modelos, documentos ou agentes.

Uma política interna pode, por exemplo, permitir o uso de IA para tarefas de baixo risco, enquanto exige ferramentas corporativas e revisão humana para informações financeiras, dados pessoais, código proprietário ou decisões que afetem clientes.

O CodeAdvisor foi desenvolvido justamente para centralizar o uso corporativo de IA em um ambiente controlado, com governança, auditoria e modelos administrados pela organização. A plataforma permite acompanhar histórico de interações, consumo e uso por colaborador, além de oferecer integração com IDEs e ambientes seguros em AWS.

Quando os profissionais encontram, dentro da organização, as ferramentas e informações necessárias para trabalhar, a dependência de soluções externas tende a diminuir.

Para organizações que precisam conectar a IA ao próprio conhecimento, existe ainda uma arquitetura complementar. O CodeRag cria assistentes baseados em documentos, vídeos, áudios e imagens da empresa e apresenta as referências utilizadas nas respostas.

São problemas relacionados, mas diferentes. O CodeAdvisor trata principalmente da governança e centralização do uso de IA. Uma arquitetura RAG ajuda a conectar o modelo ao conhecimento específico da organização.

A IA precisa estar dentro da empresa

O desafio do Shadow AI é incorporar a inteligência artificial ao trabalho sem perder controle sobre dados, processos e decisões. Uma organização pode ter políticas excelentes no papel e ainda assim não saber quantos funcionários utilizam ferramentas externas, quais informações estão sendo compartilhadas ou quais decisões recebem influência de sistemas não monitorados.

A inteligência artificial tornou esse problema mais urgente, porque a barreira para começar a usar uma nova ferramenta é muito baixa. Em poucos minutos, qualquer profissional pode testar um modelo, criar uma automação ou integrar uma API.

Quanto mais clara, acessível e adequada ao cotidiano for a estratégia de tecnologia corporativa, maior a chance de que os profissionais encontrem, dentro da própria empresa, as ferramentas de que precisam para trabalhar com IA. O objetivo é fazer com que esse uso aconteça conforme os processos da organização, com recursos adequados, conhecimento confiável e segurança.