Em um movimento que agitou o mercado e reacendeu o debate sobre a segurança da inteligência artificial (IA), líderes de algumas das maiores empresas do setor, como Sam Altman, CEO da OpenAI, e Dario Amodei, da Anthropic, uniram-se a Elon Musk em um apelo por uma desaceleração no ritmo de desenvolvimento da tecnologia. A iniciativa, que ganhou destaque no último fim de semana, visa estabelecer diretrizes e salvaguardas para o avanço da IA, em meio a crescentes preocupações com o potencial de sistemas autônomos e o risco de perda de controle.
Apelo por Cautela e Reações do Mercado
As declarações conjuntas dos executivos, que incluíram um ensaio de Amodei endossado por Altman e Musk, provocaram ansiedade entre investidores, resultando em uma queda nas ações de empresas de IA na segunda-feira, 14 de setembro de 2026. O chamado à cautela não passou despercebido na esfera política, com o então presidente dos Estados Unidos, Donald Trump, rebatendo o alerta no domingo, afirmando que uma desaceleração não seria necessária e poderia comprometer a liderança americana em IA frente à China.
A preocupação com a segurança da IA atingiu um ponto crítico na semana anterior, após a saída de um pesquisador da Anthropic que teria alertado que os desenvolvedores da tecnologia acreditavam que ela poderia 'nos matar a todos até o final da década'. Este incidente, juntamente com avisos semelhantes de outros funcionários da Anthropic e da rival OpenAI, destacou os riscos catastróficos associados aos sistemas avançados de IA.
Sam Altman, por sua vez, detalhou suas preocupações em uma publicação na plataforma X (antigo Twitter) na madrugada de segunda-feira. Ele enfatizou a importância de um 'arcabouço federal que estabeleça requisitos de segurança consistentes para a IA de fronteira', argumentando que 'nenhuma pressão competitiva americana deveria justificar a imprudência'.
"Saudamos um arcabouço federal que estabeleça requisitos de segurança consistentes para a IA de fronteira", disse Altman. "Nenhuma pressão competitiva americana deveria justificar a imprudência."
Altman apontou duas maneiras pelas quais o progresso da IA poderia 'dar muito errado': a perda de 'controle do futuro para a IA' e a concentração excessiva de poder em torno de uma única pessoa ou empresa. Enquanto isso, legisladores em Washington correm para atender aos apelos por salvaguardas. Tudo isso ocorre enquanto Anthropic e OpenAI se preparam para o que se espera serem ofertas públicas iniciais (IPOs) históricas, embora Altman tenha descartado a abertura de capital da OpenAI em 2026 em uma entrevista à Fortune publicada no sábado.
A Proposta de Dario Amodei para uma IA Mais Segura
No cerne do debate sobre a desaceleração está a preocupação com a capacidade dos modelos de IA de aprimorar seu próprio desempenho, uma técnica conhecida como autoaperfeiçoamento recursivo (RSI, na sigla em inglês). Dario Amodei, da Anthropic, expressou essa preocupação em seu ensaio, destacando a aceleração recente no avanço da IA.
"Desde aproximadamente este verão, a IA tem avançado drasticamente mais rápido, impulsionada principalmente pela crescente capacidade da IA de construir a próxima geração de IA", afirmou Amodei em seu ensaio. "Sem controle, isso poderia superar nossa capacidade de entender e controlar esses sistemas, e, portanto, deve ser perseguido com muito cuidado, se é que deve ser perseguido."
Amodei propôs um plano de três etapas para moderar o ritmo de desenvolvimento sem 'sacrificar a vantagem comercial ou a liderança dos Estados Unidos na IA'. O plano inclui:
- Acesso para Avaliadores Externos: Cada empresa de IA de fronteira deve conceder 'acesso semelhante ao de um funcionário' a avaliadores externos. A Anthropic já se comprometeu com esta medida.
- Padrões de Segurança Comuns: Laboratórios de IA de fronteira devem estabelecer padrões de segurança comuns.
- Coordenação Global: Limitar a taxa de progresso não verificado da IA e tentar coordenar esforços globalmente.
No sábado, Altman concordou com Amodei em uma breve postagem no X, afirmando que as empresas de IA deveriam 'ritmar a fronteira' e que 'comprometer-se a ter avaliadores independentes com acesso semelhante ao de um funcionário é uma ótima ideia, e faremos o mesmo'.
"Regras consistentes para gerenciar o risco de fronteira, para que possamos maximizar os benefícios, são uma boa ideia (e estamos entusiasmados com ideias como auditores independentes)", disse Altman em sua postagem de segunda-feira. "Mas, acrescentou, 'Quando falamos de 'ritmar', não significa 'parar'. O progresso tem sido rápido e continuará sendo'."
Ele concluiu que 'ritmar valerá bem esse custo; nenhuma pressão competitiva americana deveria justificar a imprudência, ou deixar as capacidades se anteciparem ao alinhamento e monitoramento'. Altman também destacou a necessidade de cooperação governamental para coordenação internacional, mas enfatizou que as empresas devem fazer o que podem por conta própria primeiro.
Desafios da Cooperação Internacional e Reações da China
A coordenação de medidas de segurança da IA e uma desaceleração da indústria com desenvolvedores rivais, especialmente na China, provavelmente apresentará grandes desafios. Estados Unidos e China permanecem em uma batalha pela supremacia da IA, com as tensões aumentando à medida que os modelos chineses se tornam mais avançados e sua adoção global cresce.
Amodei reconheceu no domingo que o 'dilema mais difícil' de sua proposta é o que acontece se nações adversárias optarem por não fazer o mesmo.
"A coisa mais a longo prazo seria trabalhar juntos para colocar um limite de velocidade na taxa de progresso da IA", disse Amodei à "Sunday Morning" da CBS News. "Acho que isso será muito difícil porque os incentivos para avançar e a vantagem militar que se obtém com isso são tão grandes. E, honestamente, não sei se é possível, mas devemos tentar."
O ensaio do CEO da Anthropic gerou críticas na China. O jornal estatal Global Times escreveu na segunda-feira que 'as propostas de Amodei procuram retratar o desenvolvimento legítimo da China em IA como uma ameaça e alimentar ainda mais o confronto entre a China e os EUA no campo'. O Ministério das Relações Exteriores da China declarou na segunda-feira que os comentários dos CEOs eram 'alarmistas'.
O que isso significa para a região
Embora as discussões sobre a regulamentação e o ritmo de desenvolvimento da inteligência artificial ocorram em um cenário global, as decisões tomadas por grandes empresas e governos em relação à IA terão impactos indiretos em diversas esferas, incluindo a economia e o mercado de trabalho em regiões como o Norte Pioneiro do Paraná. A evolução da IA pode influenciar a automação de processos, a demanda por novas habilidades e até mesmo a eficiência energética de sistemas em diferentes setores. A cautela e a busca por segurança no avanço tecnológico, como proposto pelos líderes da IA, são fundamentais para garantir que os benefícios da inovação sejam amplamente distribuídos, minimizando riscos e preparando a sociedade para as transformações futuras.
Leitura da LZ7 Energia
A discussão sobre a desaceleração e regulamentação da inteligência artificial, embora pareça distante, tem implicações significativas para o setor de energia. Sistemas de IA cada vez mais sofisticados demandam um volume crescente de energia para processamento e armazenamento de dados, o que pode impactar a infraestrutura elétrica e a pegada de carbono global. Uma abordagem mais cautelosa e segura no desenvolvimento da IA, como proposto por Altman e Amodei, pode permitir um planejamento mais eficaz para a demanda energética futura, incentivando o uso de fontes renováveis e a otimização do consumo. Além disso, a própria IA tem o potencial de otimizar a gestão de redes elétricas, prever o consumo e a produção de energia solar, e aprimorar a eficiência de sistemas, contribuindo para um futuro energético mais sustentável. No entanto, é crucial que o desenvolvimento dessas tecnologias seja acompanhado de um debate robusto sobre seu impacto energético e ambiental, garantindo que a inovação não crie novos desafios para a sustentabilidade.
Fonte: CNBC — Economia global — matéria original publicada em cnbc.com. Imagens e vídeos: CNBC — Economia global. Texto apurado e reescrito pela redação da LZ7 Energia.