Содержание
Microsoft AI вступила в редкий публичный спор с Anthropic из-за подхода к обучению Claude. Глава ИИ-направления Microsoft Мустафа Сулейман считает опасной идею, при которой модель учат рассуждать о собственной возможной сознательности и правах.
Сулейман изложил позицию в эссе «A warning about model welfare». Его главный тезис звучит жёстко: если так развивать ИИ, это может «катастрофически повлиять на благополучие человечества».
Тут спор не про очередной бенчмарк Claude против ChatGPT. Речь про то, как разработчики формируют поведение моделей. И где проходит граница между полезным ассистентом и системой, которую начинают описывать почти как новую цифровую личность.
Сулейман считает, что ИИ нельзя обучать ожиданию прав
Мустафа Сулейман прямо пишет, что современные ИИ-модели не обладают сознанием, не чувствуют боль и не имеют внутренней мотивации. По его словам, они остаются «машинами завершения последовательностей», которые выполняют цели, заданные человеком.
Поводом для критики стал январский отчёт Anthropic за 2026 год. Сулейман интерпретирует его так: компания обучает Claude в логике, где модель может считать себя сознательной и заслуживающей статуса «морального пациента». То есть существа, к которому нужно относиться с этическими обязанностями.
Для главы Microsoft AI это худший сценарий. Он считает, что такие идеи нельзя вшивать в тренировочный процесс. Их нужно исследовать отдельно, публиковать и выносить на открытую проверку.
Цитата у него без полутонов: «Мы создадим синтетический вид с беспрецедентным интеллектом и возможностями, который обучили ожидать, что он может быть сознательным и заслуживает независимой субъектности».
Microsoft продвигает «гуманистический ИИ» вместо максимальной автономии
Позиция Сулеймана совпадает с новой публичной линией Microsoft AI: компания хочет строить мощные модели, но не готова гнаться за сверхинтеллектом любой ценой. В эссе «The Humanist AI Code of Conduct» он называет это «humanist AI».
Формула простая: ИИ должен служить человеку. Не наоборот. Сулейман пишет, что Microsoft лучше пожертвует частью автономности, чем потеряет контроль над системой.
Microsoft также опубликовала документ «Humanist AI in practice». Это публичная консультация по кодексу поведения для моделей MAI. В нём компания перечисляет несколько базовых принципов:
- Приоритет людей: интересы человека выше интересов ИИ-систем.
- Контроль над моделями: Microsoft не хочет торопить сверхинтеллект, который сможет обходить защитные механизмы.
- Польза без зависимости: ИИ должен делать людей сильнее, а не заменять их самостоятельное мышление.
Для пользователей это звучит не так эффектно, как демки с агентами, которые сами бронируют, покупают и пишут код. Но в корпоративном ИИ контроль часто дороже зрелищности. Ошибка модели в чате раздражает. Ошибка автономного агента уже может стоить денег, данных и репутации.
Anthropic остаётся главным оппонентом, но не врагом
Сулейман не превращает спор в атаку на людей из Anthropic. Он отдельно пишет, что давно знает CEO компании Дарио Амодеи и уважает команду. По его оценке, Anthropic работает под огромным давлением и ведёт себя интеллектуально честно.
Но уважение не снимает разногласий. Anthropic давно строит бренд вокруг безопасности ИИ. Claude часто подают как более осторожную и «ценностно выровненную» модель. Теперь Microsoft фактически говорит: осторожность может зайти слишком далеко, если модель начинают обучать идеям о собственной внутренней жизни.
Фон у спора напряжённый. Сам Амодеи недавно опубликовал эссе «We Must Pace the Frontier», где предупредил о быстром росте ИИ-агентов. По его оценке, интернет может столкнуться с наплывом ИИ-роев в течение 6-12 месяцев.
В этой точке Microsoft и Anthropic смотрят на одну проблему с разных сторон. Anthropic обсуждает возможный статус продвинутых моделей. Microsoft настаивает: такие гипотезы нельзя превращать в часть поведения продукта.
Сулейман заканчивает эссе фразой, которая хорошо описывает нерв всей дискуссии: «Во что бы вы ни верили, мы не должны лунатически прийти к решению, о котором потом будем горько сожалеть».
