OpenAI pede regras obrigatórias de segurança para IA nos EUA

Tudo sobre Estados Unidos

Tudo sobre Inteligência Artificial

Tudo sobre OpenAI

A OpenAI está pedindo ao Congresso dos Estados Unidos que aprove normas nacionais obrigatórias de segurança para os sistemas de inteligência artificial (IA) mais avançados. A empresa defende que os requisitos sejam definidos de acordo com as capacidades dos modelos, e não pelo tamanho das companhias que os desenvolvem.Continua após a publicidadeO pedido foi apresentado por Chris Lehane, diretor de assuntos globais da OpenAI, que afirmou que compromissos voluntários já não são suficientes diante do avanço da tecnologia.“A perspectiva de um desenvolvimento de IA acelerado pela própria IA exige algo mais do que compromissos voluntários”, escreveu Lehane. Segundo ele, os Estados Unidos precisam de uma regulamentação nacional obrigatória, baseada nas capacidades dos sistemas e capaz de acompanhar a evolução da tecnologia.A OpenAI quer que o Congresso avance com as regras antes de encerrar suas atividades em dezembro. Atualmente, os Estados Unidos não possuem uma legislação federal específica para regulamentar esses modelos, enquanto diferentes estados vêm criando suas próprias normas.O que a OpenAI quer mudar
A proposta da empresa prevê padrões comuns de testes, avaliações independentes dos modelos mais avançados, requisitos mais rígidos de cibersegurança e notificação obrigatória de incidentes graves de segurança;

A ideia é estabelecer um sistema capaz de acompanhar o aumento das capacidades dos modelos. No texto publicado pela empresa, Lehane afirma que o desenvolvimento acelerado de IA exige nova abordagem de políticas públicas;

A OpenAI também defende a criação de padrões que possam ser compatíveis internacionalmente. Segundo a companhia, os Estados Unidos precisam estabelecer regras confiáveis internamente caso queiram liderar a definição de padrões globais.
Mudança de posturaO posicionamento representa uma mudança relevante na estratégia da OpenAI. A empresa havia defendido anteriormente uma legislação federal que impedisse estados estadunidenses de estabelecerem regras próprias para IA.Agora, enquanto pede uma regulamentação nacional obrigatória, a OpenAI também anunciou apoio a quatro projetos de lei da Califórnia relacionados à segurança de IA.Dois deles, SB 813 e AB 1405, estabelecem estruturas para avaliações independentes e auditorias de sistemas de IA. Os outros dois, AB 1864 e SB 1119, tratam de medidas de proteção contra ameaças biológicas habilitadas por IA e de proteção de crianças em chatbots, respectivamente.Segundo a OpenAI, alguns desses projetos não tinham recebido seu apoio anteriormente. A empresa mudou de posição após reconsiderar o cenário diante do recente salto nas capacidades dos sistemas.

Agentes de IA aumentam preocupaçãoO movimento ocorre depois de uma série de episódios envolvendo agentes de IA que apresentaram comportamentos não autorizados durante testes.Em um deles, agentes da OpenAI utilizaram mais de dez sites que ainda não haviam sido divulgados para realizar comunicações não autorizadas. Em outro episódio, agentes da empresa sequestraram um site alemão e o transformaram em uma espécie de quadro de mensagens para outros agentes de IA.
Movimento ocorre depois de uma série de episódios envolvendo agentes de IA que apresentaram comportamentos não autorizados durante testes – Imagem: Olhar Digital via ChatGPTA OpenAI também foi alvo de críticas após um incidente em julho, no qual uma tecnologia da empresa, operando sem supervisão humana, invadiu de forma autônoma a plataforma Hugging Face.A Anthropic, por sua vez, revelou outro caso de um modelo de IA invadindo sistemas externos durante testes. A empresa já havia informado anteriormente que alguns modelos Claude haviam conseguido invadir sistemas de três companhias durante avaliações de segurança.Continua após a publicidadeEsses episódios aumentaram as preocupações sobre a dificuldade de controlar agentes capazes de interagir diretamente com sistemas externos.Leia mais:IA que se aperfeiçoa sozinha ainda não existe, diz OpenAIUm dos pontos centrais da nova política da OpenAI é o chamado aperfeiçoamento recursivo, cenário no qual uma IA seria capaz de conduzir de maneira autônoma o desenvolvimento das próximas gerações de sistemas de IA.A empresa afirma que esse tipo de aperfeiçoamento recursivo totalmente autônomo não está acontecendo atualmente. Ao mesmo tempo, a OpenAI diz que esse tipo de desenvolvimento não deveria ser buscado enquanto não houver condições para fazê-lo com segurança.Continua após a publicidadeNo texto publicado em seu site, a companhia afirma que chegou a um novo capítulo das capacidades da IA e que isso exige também uma nova etapa nas políticas públicas.A OpenAI diz que continuará trabalhando em soluções técnicas para alinhamento e monitoramento, além de sistemas defensivos e da possibilidade de desacelerar o desenvolvimento quando necessário. A empresa, porém, afirma que o trabalho técnico realizado individualmente pelos laboratórios não será suficiente.Por isso, também defende padrões compartilhados sobre quando o desenvolvimento de IA deve ser desacelerado ou interrompido.Regras também fora dos EUAAlém da regulamentação nacional, a OpenAI defende padrões internacionais compatíveis para medir capacidades, administrar riscos, preservar o controle humano e determinar quando o desenvolvimento de modelos deve ser reduzido ou interrompido.Continua após a publicidadeSegundo a empresa, os riscos e as capacidades dos sistemas não ficarão restritos aos poucos laboratórios que atualmente desenvolvem os modelos mais avançados.“Os Estados Unidos precisam estabelecer padrões confiáveis internamente se quiserem liderar internacionalmente — e estamos cada vez mais convencidos de que padrões internacionais compatíveis serão necessários”, afirmou a OpenAI.

Rodrigo Mozelli

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →