Компания OpenAI уверена, что её генеративная модель ChatGPT способна решить одну из самых важных технических проблем — модерацию контента. По мнению OpenAI, GPT-4 сможет заменить десятки тысяч модераторов-людей и при этом быть почти столь же точной и более последовательной.
В своём блоге OpenAI сообщила, что уже использует GPT-4 для разработки и уточнения собственной политики в отношении контента, его маркировки и принятия решений. Компания выделила три основных преимущества при использовании искусственного интеллекта для модерации контента.
Во-первых, люди по-разному интерпретируют правила, в то время как машины последовательны в своих суждениях. Эти правила могут быть объёмными и постоянно обновляться. В то время как человеку требуется много времени для адаптации. Во-вторых, GPT-4 способна составить новую политику в течение нескольких часов. Обычно такой процесс занимает несколько недель и даже месяцев. В-третьих, нейросеть избавит модераторов от необходимости проверки вредоносного и нежелательного контента.
Однако идеальных механизмов модерации людьми и машинами пока ещё не существует. Все из них способны допускать ошибки. И хотя процент ошибок может быть невелик, в открытый доступ по-прежнему попадают миллионы вредоносного контента.
