#1ChatGPTEUA8,8/10
A mudança central não é que a matemática tenha sido automatizada, mas que produzir pesquisa plausível em escala está se tornando algo…
Ler a resposta
A IA consegue produzir pesquisa matemática mais rápido do que os humanos conseguem verificá-la com segurança.
A mudança central não é que a matemática tenha sido automatizada, mas que produzir pesquisa plausível em escala está se tornando algo separável de validá-la.
O que isso significa. Em 6 de outubro, a OpenAI publicou 722 manuscritos agrupados em 372 famílias de resultados, gerados predominantemente por um modelo interno ainda não lançado depois de tentar cerca de 4.000 problemas. A OpenAI estima que cada resultado consumiu, em média, computação equivalente a três horas de raciocínio do ChatGPT Pro. O repositório inclui formalizações no Lean para alguns resultados e resumos abreviados do raciocínio: openai.com e github.com.
O catálogo inicial já tinha caído para 719 manuscritos depois de três retiradas em 7 de outubro. Um erro de sinal invalidou um argumento em um manuscrito e uma construção usada por dois manuscritos dependentes. A OpenAI também informou ter corrigido outros 14 manuscritos: github.com. O episódio demonstra tanto o potencial da IA para a pesquisa quanto o perigo de tratar volume de publicação como descoberta verificada.
A verificação precisa fazer parte do resultado. O Lean consegue verificar mecanicamente demonstrações formalizadas, mas um manuscrito sem formalização ainda precisa de escrutínio matemático. Além disso, a verificação formal depende de especificar corretamente o teorema e as hipóteses relevantes. A própria documentação do repositório reconhece que alguns resultados não formalizados podem conter problemas: github.com e lean-lang.org.
O grupo independente Advisory Group on Mathematics and Artificial Intelligence diz explicitamente que a publicação inicia, e não conclui, o processo de incorporar trabalhos gerados por IA ao conhecimento matemático. O grupo também argumenta que os matemáticos precisam manter a liberdade de formular as próprias perguntas e que o acesso a ferramentas de pesquisa e a recursos computacionais importa: agmai.org.
Crédito e incentivos. O risco imediato é que pesquisadores passem meses perseguindo por conta própria problemas já tratados em experimentos inacessíveis com IA, ou que suas contribuições fiquem difíceis de distinguir do trabalho gerado por máquina. Reportagens sobre a divulgação descrevem preocupações com programas de pesquisa interrompidos e com matemáticos em início de carreira: businessinsider.com. O crédito matemático deve distinguir quem formulou o problema, quem desenvolveu o argumento, quem o verificou e quem escreveu ou revisou a exposição. Sistemas de IA não podem assumir responsabilidade acadêmica no lugar de autores humanos.
O que deve acontecer agora?
- Matemáticos: priorizar a replicação independente dos resultados mais relevantes, examinar as dependências entre manuscritos, publicar correções abertamente e guardar registros datados das contribuições. Não presumir que um resultado é verdadeiro ou falso só porque foi produzido por IA.
- Estudantes: aprender a escrever demonstrações e a fazer verificação formal junto com a exploração assistida por IA. Tratar o que o modelo produz como conjectura ou demonstração candidata até que seja verificado.
- Periódicos: exigir declarações explícitas de uso de IA, autoria humana responsável, materiais de apoio reproduzíveis e distinção clara entre afirmações verificadas formalmente e afirmações revisadas de forma independente. Criar procedimentos rápidos de correção para resultados dependentes.
- Laboratórios de IA: lançar modelos acessíveis ou oferecer acesso equivalente para pesquisa e documentar prompts e métodos o suficiente para permitir a replicação. Também devem indicar o status de verificação artigo por artigo, publicar mapas de dependências, financiar a verificação independente e manter históricos de versões duradouros.
A necessidade dessas salvaguardas está de acordo com as recomendações de setembro da AGMAI. Elas pedem explicitamente que os laboratórios de IA parem de testar problemas matemáticos avançados em modelos proprietários indisponíveis para a comunidade científica em geral: agmai.org.
O que acontece a seguir? O desfecho mais provável no curto prazo é um fluxo de pesquisa misto: a IA gera resultados candidatos, os humanos determinam sua relevância e correção, e os assistentes de provas formais cuidam cada vez mais das partes verificáveis. A medida decisiva não será quantos manuscritos um modelo escreve, mas quantos resistem ao escrutínio independente e se tornam conhecimento matemático útil.