Sua empresa usa IA? CEO da Microsoft revela risco oculto que prejudica segurança
Tudo sobre Inteligência Artificial
O presidente-executivo da Microsoft, Satya Nadella, afirmou recentemente que empresas que utilizam modelos de inteligência artificial de grandes laboratórios podem estar cedendo informações estratégicas sem perceber. A declaração reacendeu o debate sobre controle de dados corporativos no avanço da IA.Continua após a publicidade
Em uma publicação feita no domingo (12) em seu próprio blog, Nadella argumentou que companhias pagam não apenas pelo uso das ferramentas de inteligência artificial, mas também por informações internas utilizadas para aprimorar esses sistemas. Para ele, esse conhecimento pode representar um ativo valioso para concorrentes.A preocupação apresentada pelo executivo ocorre em meio ao crescimento do uso empresarial de modelos proprietários desenvolvidos por empresas como OpenAI e Anthropic. O alerta aponta para uma possível dependência tecnológica e para a necessidade de estruturas que mantenham a propriedade dos dados nas mãos das organizações.Empresas podem perder conhecimento estratégico ao usar IA, diz Nadella
Satya Nadella é o atual CEO da Microsoft – Imagem: QubixStudio/ShutterstockSegundo Nadella, o funcionamento atual de muitos sistemas de inteligência artificial cria uma relação na qual as empresas fornecem elementos importantes de suas operações enquanto buscam obter respostas mais eficientes das ferramentas. O executivo afirma que prompts, ajustes feitos por usuários e correções realizadas durante o uso podem revelar detalhes sobre processos internos e práticas de negócio.De acordo com o CEO da Microsoft, essas interações representam um tipo de aprendizado institucional acumulado. Na avaliação dele, esse conhecimento poderia ser obtido por concorrentes apenas com grande dificuldade, mas acaba sendo compartilhado durante a utilização cotidiana dos modelos.“Você essencialmente paga pela inteligência duas vezes, uma vez com dinheiro e novamente com algo ainda mais valioso: o conhecimento proprietário que precisa revelar para tornar essa inteligência útil”, afirmou Satya Nadella, presidente-executivo da Microsoft, em uma publicação própria sobre o uso empresarial de inteligência artificial.A discussão envolve principalmente os modelos fechados de IA, nos quais empresas dependem da infraestrutura e das regras estabelecidas pelos próprios fornecedores. O receio levantado por críticos desse modelo é que laboratórios responsáveis pelo desenvolvimento dessas tecnologias possam obter informações de clientes e, no futuro, competir em áreas nas quais esses mesmos clientes atuam.
Nadella também questionou a diferença de tratamento entre o treinamento de modelos de inteligência artificial e as restrições impostas ao uso desses sistemas por terceiros. Para ele, se empresas de IA utilizam grandes volumes de dados públicos para desenvolver seus produtos, deveriam existir condições semelhantes para que organizações possam estudar ou adaptar essas tecnologias.Esse processo, conhecido como “destilação”, consiste no uso das respostas produzidas por um modelo para desenvolver outro sistema, geralmente mais simples ou barato. O tema ganhou atenção após a Anthropic acusar modelos chineses de código aberto de enviarem milhões de solicitações ao Claude para obter informações capazes de melhorar seus próprios sistemas.
Clauda da Anthropic – Imagem: Mijansk786/ShutterstockO executivo defendeu que companhias mantenham a posse sobre seus dados, incluindo registros de interações, comandos enviados e avaliações feitas pelos usuários. Como alternativa, ele sugeriu a criação de ambientes próprios de aprendizado e estruturas capazes de integrar diferentes modelos de inteligência artificial.Continua após a publicidadeA proposta também reforça uma tendência de adoção de modelos abertos instalados dentro das próprias empresas. Segundo Idit Levine, fundadora e presidente-executiva da Solo.io, companhias que inicialmente testaram soluções proprietárias passaram a avaliar modelos de código aberto executados internamente por oferecerem maior controle e custos menores.“Eles entendem isso, e conseguem controlar”, disse Idit Levine, fundadora e CEO da Solo.io, em entrevista ao TechCrunch, ao comentar a mudança de empresas para modelos de inteligência artificial abertos instalados em suas próprias estruturas.A executiva afirmou que sua empresa observa esse movimento entre clientes corporativos, incluindo organizações como T-Mobile, ADP e SAP. A Solo.io, responsável por tecnologia selecionada para o projeto Agentgateway da Linux Foundation, atua no gerenciamento de redes e segurança para sistemas de IA.Continua após a publicidadeOutras empresas do setor também identificaram crescimento no uso de modelos abertos. Vercel, plataforma voltada à criação e hospedagem de sites que passou a oferecer ferramentas de alternância entre modelos de IA, e OpenRouter, serviço de roteamento entre diferentes sistemas de inteligência artificial, registraram aumento na demanda por essas alternativas.
ChatGPT é o chatbot da OpenAI – Imagem: arda savasciogullari / ShutterstockDados apresentados no texto indicam que modelos abertos representaram 29% de todo o tráfego encaminhado pelo gateway da Vercel no mês anterior à publicação. O movimento reforça a expectativa de expansão dessa abordagem entre organizações que buscam reduzir dependência de fornecedores específicos.A posição de Nadella chama atenção porque a Microsoft mantém investimentos em empresas de inteligência artificial como OpenAI e Anthropic. Mesmo com essa relação, o executivo defendeu que usuários corporativos preservem o domínio sobre o conhecimento criado durante o uso dessas ferramentas.Continua após a publicidade“Ao consumir inteligência, você está criando inteligência. E aquilo que você cria deve pertencer a você”, escreveu Satya Nadella, presidente-executivo da Microsoft, em sua manifestação sobre propriedade de dados e uso de IA.
Wagner Edwards
Wagner Edwards é Bacharel em Jornalismo e atua como Analista de SEO e de Conteúdo no Olhar Digital. Possui experiência, também, na redação, edição e produção de textos para notícias e reportagens.
Ver todos os artigos →
