Стоимость обучения и работы модели искусственного интеллекта огромна. Даже если учитывать только электричество, дата-центры ИИ расходуют более $100 млн в год на обработку запросов пользователей и генерацию ответов модели.
За последние несколько дней появилось множество заголовков о стоимости вежливости при обращении к ИИ-чатботам вроде ChatGPT. Новость возникла из-за комментария Сэма Олтмана в X. Всё началось с вопроса: сколько денег OpenAI потратил на электричество из-за того, что люди говорят «пожалуйста» и «спасибо» языковым моделям? Олтман ответил: «Десятки миллионов долларов — хорошо потраченные. Никогда не знаешь».
Эта реплика вызвала спекуляции в таких изданиях, как «New York Post» и «Futurism», где начали пытаться оценить вычислительные расходы на вежливость. Логика проста: каждое дополнительное слово добавляет токены к запросу, а значит, требует больше вычислительных ресурсов. Учитывая масштабы пользовательской базы ChatGPT, такие, казалось бы, незначительные добавления могут накапливаться.
Однако существует несколько факторов, которые усложняют расчёты. Первый — это реальная стоимость одного токена. Согласно ChatGPT, GPT‑3.5 Turbo стоит примерно $0,0015 за 1000 входных токенов и $0,002 за 1000 выходных.
«Пожалуйста» и «спасибо» обычно добавляют от двух до четырёх токенов в общей сложности. То есть стоимость одной вежливой реплики составляет доли цента — примерно от $0,0000015 до $0,000002 за обращение.
По грубым подсчётам, это означает около $400 в день или $146000 в год. Это на несколько порядков меньше, чем «десятки миллионов».
Что касается реальных затрат на энергию, по оценке Electric Power Research Institute Управления энергетической информации США, ежемесячный счёт за электричество у OpenAI составляет примерно $12 млн, или $140 млн в год. Это включает каждое взаимодействие — не только вежливые.
Так что, хотя теоретически вежливые обращения могут давать более $10 млн затрат в год, нет данных, чтобы это точно подтвердить. Только внутренние метрики OpenAI могут это показать.
