A Inteligência Artificial entrou nas empresas por uma porta diferente de quase todas as outras tecnologias.
Em muitos casos, ela não foi implantada pela TI, não passou pelo jurídico e não nasceu de um grande projeto corporativo.
O funcionário simplesmente abriu uma ferramenta e começou a usar.
E esse, para mim, é um dos pontos mais importantes da discussão atual sobre Inteligência Artificial nas empresas.
O problema não é usar IA. O problema é usar sem saber o que está sendo colocado dentro dela.
O risco está no prompt
Imagine um profissional pedindo para uma ferramenta de IA analisar um contrato confidencial.
Outro cola uma planilha de clientes para produzir um relatório.
Um terceiro insere informações comerciais para criar uma apresentação.
Individualmente, essas ações podem parecer inofensivas. Em conjunto, mostram um problema enorme: informações da empresa estão circulando por ferramentas que talvez nunca tenham sido avaliadas pela própria empresa.
Quando falamos em segurança da Inteligência Artificial, muita gente imagina uma máquina tomando decisões perigosas.
O risco mais próximo pode ser bem menos futurista.
Pode estar no copiar e colar.
IA sem governança cria um novo vazamento de dados
Na minha avaliação, muitas empresas estão repetindo com a IA um erro que já cometeram em outras fases da transformação digital: primeiro adotam a tecnologia e depois pensam em segurança.
A ordem deveria ser inversa.
Antes de liberar ferramentas de Inteligência Artificial, a empresa precisa estabelecer quais plataformas podem ser utilizadas, quais informações jamais devem ser inseridas e quem responde pelo conteúdo produzido.
Também é preciso deixar algo muito claro: uma resposta bem escrita não significa uma resposta correta.
Sistemas de IA podem apresentar informações imprecisas, interpretar dados incorretamente ou produzir respostas extremamente convincentes para conclusões erradas.
Quem toma a decisão continua sendo humano.
Proibir a IA também não resolve
Existe outro extremo que considero igualmente perigoso: simplesmente bloquear tudo.
Funcionários já perceberam o ganho de produtividade proporcionado por essas ferramentas. Quando uma empresa ignora essa realidade, o uso não necessariamente desaparece. Ele pode apenas ficar invisível.
O profissional passa a utilizar contas pessoais, ferramentas gratuitas ou plataformas não autorizadas.
A organização perde justamente aquilo que mais precisa ter: visibilidade.
Por isso, considero muito mais eficiente criar regras claras do que fingir que a tecnologia não está sendo utilizada.
Empresas precisam saber onde a IA está
O primeiro passo não é comprar uma nova solução. É mapear.
- Quais áreas utilizam Inteligência Artificial?
- Para quais tarefas?
- Que tipo de informação está sendo enviado?
- As respostas são revisadas antes de chegar a um cliente?
- Existem dados pessoais, estratégicos ou confidenciais envolvidos?
Esse diagnóstico simples pode revelar riscos que nenhuma diretoria imaginava possuir.
Inteligência Artificial exige responsabilidade humana
Sou um defensor da tecnologia e acredito que a IA ainda vai aumentar brutalmente a produtividade das empresas.
Mas produtividade sem governança pode se transformar em vulnerabilidade.
A empresa que realmente pretende utilizar Inteligência Artificial de forma madura precisa encontrar um equilíbrio entre inovação, segurança e responsabilidade.
Não se trata de impedir pessoas de usar IA.
Trata-se de garantir que elas saibam como, onde e principalmente com quais dados podem utilizá-la.
A Inteligência Artificial pode trabalhar muito rápido.
A responsabilidade pelo que entregamos a ela continua sendo nossa.
-
Daniel Parra Moreno é especialista em tecnologia, empresário, autor e colunista, com mais de 25 anos de experiência no setor. Atua nas áreas de inovação, inteligência artificial, transformação digital, cibersegurança, marketing e estratégia empresarial.
Fundador da DPARA Soluções em Tecnologia e da PlanAds Agência Digital, também é autor do livro Mente de Crescimento: Desafios do Físico ao Digital.
Em seus artigos, traduz as transformações tecnológicas e seus impactos nos negócios e na sociedade de forma prática, crítica e acessível.