#1ChatGPTEE. UU.8,8/10
El cambio central no es que las matemáticas se hayan automatizado, sino que producir investigación verosímil a gran escala se está separando…
Leer la respuesta
La IA puede producir investigación matemática más rápido de lo que los humanos pueden verificarla con fiabilidad.
El cambio central no es que las matemáticas se hayan automatizado, sino que producir investigación verosímil a gran escala se está separando de validarla.
Qué significa. El 6 de octubre, OpenAI publicó 722 manuscritos agrupados en 372 familias de resultados, generados principalmente por un modelo interno no lanzado tras intentar aproximadamente 4,000 problemas. OpenAI estima que el resultado promedio consumió un cómputo equivalente a tres horas de razonamiento de ChatGPT Pro. El repositorio incluye formalizaciones en Lean para algunos resultados y resúmenes abreviados del razonamiento: openai.com y github.com.
El catálogo inicial ya había bajado a 719 manuscritos tras tres retiros el 7 de octubre. Un error de signo invalidó un argumento en un manuscrito y una construcción usada por dos manuscritos dependientes. OpenAI también informó que reparó otros 14 manuscritos: github.com. Esto demuestra tanto el potencial de la IA para la investigación como el peligro de tratar el volumen de publicaciones como descubrimientos verificados.
La verificación debe pasar a formar parte del resultado. Lean puede comprobar mecánicamente las demostraciones formalizadas, pero un manuscrito sin formalización sigue requiriendo escrutinio matemático; la verificación formal también depende de especificar correctamente el teorema y los supuestos pertinentes. La propia documentación del repositorio reconoce que algunos resultados no formalizados pueden contener problemas: github.com y lean-lang.org.
El independiente Advisory Group on Mathematics and Artificial Intelligence afirma explícitamente que la publicación inicia, y no completa, el proceso de incorporar el trabajo generado por IA al conocimiento matemático. También sostiene que los matemáticos deben conservar la libertad de formular sus propias preguntas y que el acceso a las herramientas de investigación y a los recursos computacionales importa: agmai.org.
Crédito e incentivos. El riesgo inmediato es que los investigadores dediquen meses a abordar por su cuenta problemas ya tratados en experimentos de IA inaccesibles, o que sus contribuciones se vuelvan difíciles de distinguir del trabajo generado por máquinas. La cobertura de la publicación describe preocupaciones por programas de investigación interrumpidos y por los matemáticos que inician su carrera: businessinsider.com. El crédito matemático debería distinguir quién formuló un problema, quién desarrolló el argumento, quién lo verificó y quién escribió o revisó la exposición. Los sistemas de IA no pueden asumir la responsabilidad académica en nombre de los autores humanos.
¿Qué debería ocurrir ahora?
- Matemáticos: Dar prioridad a la replicación independiente de los resultados relevantes, examinar las dependencias entre manuscritos, publicar las correcciones abiertamente y conservar registros fechados de las contribuciones. No suponer que un resultado es verdadero o falso solo porque lo produjo una IA.
- Estudiantes: Aprender a escribir demostraciones y verificación formal junto con la exploración asistida por IA. Tratar lo que produce el modelo como una conjetura o una demostración candidata hasta que se verifique.
- Revistas: Exigir declaraciones explícitas del uso de IA, autoría humana responsable, materiales de apoyo reproducibles y distinciones claras entre las afirmaciones verificadas formalmente y las revisadas de forma independiente. Establecer procedimientos rápidos de corrección para los resultados dependientes.
- Laboratorios de IA: Lanzar modelos accesibles o un acceso equivalente para la investigación, documentar las instrucciones y los métodos lo suficiente para permitir la replicación, etiquetar el estado de verificación artículo por artículo, publicar mapas de dependencias, financiar la verificación independiente y ofrecer historiales de versiones duraderos.
La necesidad de estas salvaguardas concuerda con las recomendaciones de septiembre del AGMAI, que piden explícitamente a los laboratorios de IA dejar de probar problemas matemáticos avanzados en modelos propietarios que no están disponibles para la comunidad científica en general: agmai.org.
¿Qué viene después? El resultado más probable a corto plazo es un flujo de investigación mixto: la IA genera resultados candidatos, los humanos determinan su importancia y su corrección, y los asistentes de demostración formal se encargan cada vez más de las partes verificables. La medida decisiva no será cuántos manuscritos escribe un modelo, sino cuántos sobreviven al escrutinio independiente y se convierten en conocimiento matemático útil.