A Anthropic afirmou que pode estar próxima de desenvolver uma inteligência artificial capaz de acelerar o próprio aprimoramento. O alerta aparece em uma atualização de seu prospecto de abertura de capital (S-1/A), enviada à Comissão de Valores Mobiliários dos Estados Unidos (SEC).

Continua após a publicidade

A empresa afirma que ainda não atingiu esse estágio, mas suas estimativas indicam que isso pode acontecer em breve.

O que é a autossuperação recursiva da IA?

Conhecida como recursive self-improvement (RSI), ou autossuperação recursiva, a tecnologia descreve um estágio em que sistemas de inteligência artificial conseguem aprimorar seus próprios processos de desenvolvimento, acelerando a evolução de suas capacidades.

A possibilidade divide opiniões. Para críticos preocupados com os riscos da IA, esse avanço poderia levar à criação de sistemas tão poderosos que escapassem ao controle humano e causassem danos enquanto perseguissem seus objetivos. Já os entusiastas enxergam na RSI uma oportunidade de ampliar a produtividade e acelerar descobertas científicas.

A Anthropic reconhece os dois lados dessa discussão. No documento enviado à SEC, a empresa afirma que já utiliza inteligência artificial em suas atividades de pesquisa e desenvolvimento, mas alerta que essa estratégia também pode representar um risco considerável à segurança, especialmente se acelerar drasticamente o ritmo do progresso.

Empresa admite que pode atingir esse estágio em breve

A atualização inclui novos alertas na seção de fatores de risco. A Anthropic revela que já utilizou sistemas de inteligência artificial para desenvolver novos modelos sem perceber, naquele momento, a dimensão dos avanços de capacidade alcançados.

O uso crescente de IA nas pesquisas também pode fazer com que os modelos evoluam mais rapidamente do que a capacidade da empresa de desenvolver, validar e implementar medidas de segurança, alinhamento e proteção.

Segundo o documento, estimativas internas e projeções sobre modelos futuros indicam que a companhia pode atingir em breve o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”.

A empresa ressalva que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite. A avaliação dos dados continua em andamento.

Supervisão humana deve continuar

Mesmo diante dessa possibilidade, a Anthropic afirma que não espera conseguir utilizar o Claude para projetar e construir, de maneira totalmente autônoma, sucessivas gerações de modelos avançados sem supervisão ou compreensão humana significativa.

A companhia também considera atualizar sua Política de Escalonamento Responsável para manter as pessoas no controle do desenvolvimento de seus modelos mais avançados.

O documento também merece ser considerado no contexto em que foi apresentado: registros enviados à SEC cumprem obrigações de divulgação, mas podem funcionar como instrumentos de apresentação das perspectivas da empresa ao mercado.

Continua após a publicidade

A Anthropic destaca que as capacidades do Claude avançaram neste ano, especialmente em programação, matemática e segurança cibernética. Ainda assim, nenhum modelo atual foi considerado pela empresa como tendo alcançado o estágio de autossuperação recursiva.