Математик Теренс Тао раскритиковал подход OpenAI к публикации результатов, полученных с помощью ИИ. По его мнению, быстро выпустить сотни решений недостаточно: математикам нужно время, чтобы проверить доказательства, понять их и использовать в дальнейшей работе. Сейчас в открытом каталоге OpenAI находятся 719 математических рукописей, сообщает IT Home.
6 октября OpenAI опубликовала 722 рукописи, охватывающие 372 группы математических результатов. На следующий день компания отозвала три документа из-за ошибки в обозначениях и её последствий для этих работ. В публикации есть материалы по открытым исследовательским задачам, но оценивать их результаты ещё предстоит математическому сообществу.
В сообщении от 7 октября Тао подчеркнул, что сам использует ИИ в исследованиях и не возражает против его применения в математике. Его тревожит превращение известных нерешённых задач в показатель возможностей модели. После публикации доказательства обычно обсуждают на семинарах, упрощают и объясняют коллегам; если рукописи появляются быстрее, чем люди успевают их изучать, эта работа не поспевает за потоком результатов. Тао назвал ситуацию «несварением доказательств».
Вопросы вызывает и возможность разобраться в работе модели. По данным IT Home, OpenAI консультировалась с группой математиков и специалистов по ИИ AGMAI, однако использовала закрытую модель, хотя группа рекомендовала не испытывать такие модели на сложных математических задачах без доступа исследователей извне. Ход рассуждений модели приложен лишь к 10 рукописям. Около 42% опубликованных доказательств не формализованы — то есть не представлены в виде, пригодном для программной проверки; к ним также не приложены машиночитаемые данные, связывающие текст доказательства с формальным результатом. AGMAI уточнила, что консультации с ней не означают одобрения опубликованных работ.
