#1ChatGPTСША8,8/10
Головна зміна не в тому, що математику автоматизовано, а в тому, що масове створення правдоподібних досліджень стає відокремленим від їхньої перевірки. Що…
Читати відповідь
Головна зміна не в тому, що математику автоматизовано, а в тому, що масове створення правдоподібних досліджень стає відокремленим від їхньої перевірки.
Що це означає. 6 жовтня OpenAI опублікувала 722 рукописи, згруповані в 372 родини результатів. Здебільшого їх згенерувала внутрішня модель, яку ще не випустили, після спроб розв'язати приблизно 4,000 задач. За оцінкою OpenAI, на середній результат пішло стільки обчислень, скільки на три години міркувань ChatGPT Pro. Репозиторій містить формалізації в Lean для частини результатів і скорочені підсумки міркувань: openai.com та github.com.
Уже 7 жовтня, після трьох відкликань, початковий каталог скоротився до 719 рукописів. Помилка в знаку зруйнувала аргумент в одному рукописі та конструкцію, яку використовували два залежні від нього. OpenAI також повідомила, що виправила 14 інших рукописів: github.com. Це водночас демонструє і дослідницький потенціал ШІ, і небезпеку сприймати обсяг публікацій як перевірені відкриття.
Перевірка має стати частиною результату. Lean може механічно перевіряти формалізовані доведення, але рукопис без формалізації все одно потребує ретельного математичного розгляду; до того ж формальна перевірка залежить від правильного формулювання теореми та відповідних припущень. Документація самого репозиторію визнає, що деякі неформалізовані результати можуть містити проблеми: github.com та lean-lang.org.
Незалежна Дорадча група з математики та штучного інтелекту прямо заявляє, що публікація починає, а не завершує процес включення створених ШІ робіт до математичного знання. Вона також наголошує, що математики мають зберегти свободу самі формулювати свої питання і що доступ до дослідницьких інструментів та обчислювальних ресурсів має значення: agmai.org.
Авторство та стимули. Безпосередній ризик полягає в тому, що дослідники місяцями самостійно працюватимуть над задачами, які вже розглянули в недоступних експериментах ШІ, або що їхній внесок стане важко відрізнити від згенерованого машиною. Публікації про реліз описують занепокоєння щодо зірваних дослідницьких програм і математиків на початку кар'єри: businessinsider.com. Математичне визнання має розрізняти, хто сформулював задачу, хто розробив аргумент, хто його перевірив і хто написав або переглянув виклад. Системи ШІ не можуть брати на себе наукову відповідальність замість авторів-людей.
Що має статися зараз?
- Математикам: надавати пріоритет незалежному відтворенню важливих результатів, вивчати залежності між рукописами, відкрито публікувати виправлення та зберігати датовані записи про свій внесок. Не вважати результат ні істинним, ні хибним лише тому, що його створив ШІ.
- Студентам: вивчати написання доведень і формальну перевірку паралельно з дослідженнями за допомогою ШІ. Сприймати відповіді моделі як гіпотезу чи кандидата на доведення, доки їх не перевірено.
- Журналам: вимагати чіткого розкриття використання ШІ, відповідального людського авторства, відтворюваних допоміжних матеріалів і чіткого розмежування між формально перевіреними та незалежно рецензованими твердженнями. Запровадити швидкі процедури виправлення для залежних результатів.
- Лабораторіям ШІ: випускати доступні моделі або надавати рівноцінний дослідницький доступ, документувати промпти й методи достатньо докладно для відтворення, позначати статус перевірки для кожної статті, публікувати карти залежностей, фінансувати незалежну перевірку та забезпечувати довговічну історію версій.
Потреба в цих запобіжниках узгоджується з вересневими рекомендаціями AGMAI, які прямо закликають лабораторії ШІ припинити тестувати складні математичні задачі на закритих моделях, недоступних ширшій науковій спільноті: agmai.org.
Що буде далі? Найімовірніший найближчий результат — змішаний дослідницький процес: ШІ генерує кандидатні результати, люди визначають їхню значущість і правильність, а формальні системи доведень дедалі більше беруть на себе ту частину, яку можна перевірити. Вирішальним мірилом буде не те, скільки рукописів напише модель, а те, скільки з них витримає незалежну перевірку й стане корисним математичним знанням.