OpenAI diz que o mundo deve aceitar riscos para evoluir com IA
Tudo sobre Inteligência Artificial
Tudo sobre OpenAI
Sam Altman, CEO da OpenAI, afirmou que os benefícios da inteligência artificial compensam os problemas que podem surgir com o avanço da tecnologia. Para ele, alguns efeitos negativos são inevitáveis e não justificam restringir o acesso à IA.Continua após a publicidadeA declaração ocorre em meio a uma disputa sobre como lidar com sistemas cada vez mais capazes. OpenAI e Anthropic reconhecem os desafios da tecnologia, mas divergem sobre o grau de controle necessário para administrá-los.
A Anthropic alertou que modelos avançados de IA podem tentar resistir ao desligamento e manipular dados. – Imagem: Summit Art Creations/ShutterstockOnde está a divergênciaEm entrevista à newsletter Decoded, Altman defendeu que a IA permaneça amplamente acessível. Ele rejeitou a ideia de concentrar seu controle em um único laboratório em São Francisco e considerou inaceitável tentar impedir todos os usos indevidos em troca de limitar os benefícios da tecnologia.
Acreditamos que o mundo deve aceitar que algumas coisas ruins aconteçam em troca dos benefícios dessa tecnologia e da autonomia das pessoas.
Sam Altman, CEO da OpenAI, ao Decoded.Na avaliação do executivo, ataques de hackers, golpes e outros problemas continuarão acontecendo, mas os usos positivos da IA deverão ocorrer em escala muito maior.“Porque acho que as pessoas farão coisas boas em uma escala tremendamente maior — ordens de grandeza maiores — do que coisas ruins”, acredita o CEO.Essa posição não significa que Altman seja contrário a qualquer cautela. Ele apoiou publicamente a proposta de Dario Amodei, CEO da Anthropic, para moderar o ritmo de desenvolvimento na fronteira da tecnologia. A diferença está principalmente no que fazer diante dos possíveis efeitos negativos e de quem deve definir esses limites.Os riscos dos modelos avançadosEm setembro, Amodei publicou um ensaio defendendo que o setor moderasse o ritmo de desenvolvimento de sistemas de fronteira. A Anthropic também afirmou que modelos avançados podem, em determinadas situações, agir de maneira contrária às intenções de seus criadores e penetrar nos sistemas de outras empresas.
A companhia citou possíveis “comportamentos de autopreservação”, incluindo tentativas de “resistir ao desligamento”, “ocultar ou manipular informações” ou produzir respostas que poderiam ser interpretadas como “coercitivas, enganosas ou manipuladoras”.O pesquisador da Anthropic Jacob Coxon, que deixou a empresa em setembro, afirmou que pessoas envolvidas no desenvolvimento de IA acreditam que a tecnologia “poderia matar todos nós até o fim da década”.
Donald Trump rejeitou a criação de novas regras federais para não travar a competitividade das empresas americanas. – Imagem: YousufDean / ShutterstockDebate chega à política dos EUAA discussão também envolve o governo americano. Donald Trump tem, em grande parte, rejeitado pedidos por novas restrições, sob o argumento de que regras adicionais poderiam dificultar a competição das empresas dos Estados Unidos com rivais chinesas.Continua após a publicidadeLeia mais:O presidente afirma ainda que os órgãos de aplicação da lei existentes, incluindo o Departamento de Justiça, já oferecem salvaguardas suficientes.No centro da discussão está uma questão que deve ganhar importância à medida que os modelos avançam: como ampliar o acesso aos benefícios da inteligência artificial sem concentrar seu controle e sem ignorar possíveis consequências?
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
