Microsoft прописала в условиях использования, что Copilot «предназначен только для развлечений» и на него нельзя полагаться в важных вопросах. Формулировка звучит жёстко: сервис «может ошибаться» и «может работать не так, как задумано».
Эти пункты есть в документе Microsoft Copilot Terms of Use, который компания обновила в октябре 2024 года. При этом Copilot активно продвигают массовой аудитории и встраивают в Windows 11, включая ПК линейки Copilot+.
Что именно написано в условиях Microsoft Copilot
В тексте условий Microsoft прямо предупреждает, что Copilot — это не источник «серьёзных» рекомендаций. Компания отдельно подчёркивает риск ошибок и перекладывает ответственность на пользователя.
Цитата из документа звучит так: «Copilot is for entertainment purposes only. It can make mistakes, and it may not work as intended». Дальше ещё прямее: «Don’t rely on Copilot for important advice. Use Copilot at your own risk».
На практике это означает простую вещь. Microsoft заранее фиксирует: если Copilot уверенно сказал ерунду, претензии будут не к сервису.
Почему такие оговорки стали нормой для LLM
Microsoft тут не уникальна. Похожие дисклеймеры встречаются и у других компаний, которые развивают большие языковые модели (LLM).
- выдаёт ответы с «галлюцинациями»;
- может быть оскорбительным;
- может неточно отражать людей, места или факты;
- может быть неприемлемым для вашей задачи.
Проблема в том, что часть пользователей воспринимает ответы ИИ как истину. И это касается не только «обычных» людей, но и тех, кто работает с инфраструктурой.
В отрасли уже всплывали случаи, когда ошибки «Gen-AI assisted changes» связывали с инцидентами в сервисах Amazon. В отдельных эпизодах инженерам приходилось собираться на срочные разборы из-за изменений с «высоким радиусом поражения».
Отдельный риск — automation bias. Это когнитивное искажение, когда человек больше доверяет машине и игнорирует сигналы, что та ошиблась. С LLM эффект усиливается, потому что ответы часто выглядят правдоподобно с первого взгляда.
Сами условия Microsoft Copilot доступны на сайте компании: Microsoft Copilot Terms of Use.
