Илон Маск, противоречивый владелец социальной сети X (бывший Twitter), заявил, что Grok 2 появится в августе, а Grok 3 выйдет к концу года. О будущих языковых моделях известно не так много, но Маск упомянул, что Grok 3 будет обучен на 100,000 Nvidia H100, поэтому эта нейросеть может стать “чем-то особенным”.
Маск сообщил о месяце выпуска Grok 2 в ответ на видео генерального директора Cohere Эйдана Гомеса, который объяснял, что многие модели “обучаются на результатах моделей OpenAI.” Гомес сказал, что пользователи заметили отличие, так как Cohere не применяла этот метод для своих языковых моделей (LLM).
В ответ на это Маск согласился с высказанным в видео мнением и уточнил, что ещё требуется много работы, чтобы удалить все лишние данные для обучения, которые были взяты из интернета.
Для тех, кто не знаком с историей OpenAI, Илон Маск был одним из соучредителей компании, но в итоге ушёл из неё из-за нерешённых разногласий. После запуска ChatGPT Маск добавил в социальную сеть X платную LLM под названием Grok, которая делает акцент на юморе и живом общении с человеком.
Самая последняя версия Grok – версия 1.5, которая вышла в марте с улучшенными способностями к рассуждению и длиной контекста в 128,000 токенов. Grok 1.5 не набрал столько же баллов, сколько GPT-4, в тестах MMLU, MATH и GSM8K, но не сильно отстал, а где-то даже превзошёл GPT-4 на тесте HumanEval.
Из-за того, что X не предлагает бесплатной версии Grok, этот ИИ менее популярен, чем знаменитые ChatGPT, Gemini и Claude. Пока неясно, появится ли когда-либо бесплатная версия Grok в будущем, но учитывая затраты на запуск LLM и стремление Маска увеличить доходы X, вряд ли это может случиться в ближайшее время.
