Правовые риски фильтрации NSFW-контента в сервисах на основе ИИ

Риски уголовной ответственности оператора онлайн-платформы с генеративными нейросетями за распространение порнографических материалов

Проанализируем вашу ситуацию с точки зрения действующего законодательства на основе предоставленного контекста из нормативно-правовых актов.

1. Является ли передача сгенерированного порноконтента распространением

Это ключевой вопрос. Прежде всего, нужно определить, что такое "порнографические материалы" и "распространение".

Федеральный закон № 436-ФЗ даёт определение:

"информация порнографического характера - информация, представляемая в виде натуралистических изображения или описания половых органов человека и (или) полового сношения либо сопоставимого с половым сношением действия сексуального характера, в том числе такого действия, совершаемого в отношении животного" (Источник: Федеральный закон от 29.12.2010 N 436-ФЗ, Статья 2).

Федеральный закон № 149-ФЗ определяет "распространение информации" как:

"действия, направленные на получение информации неопределенным кругом лиц или передачу информации неопределенному кругу лиц" (Источник: Федеральный закон от 27.07.2006 N 149-ФЗ, Статья 2).

В этом же законе "предоставление информации" отделено от распространения:

"предоставление информации - действия, направленные на получение информации определенным кругом лиц или передачу информации определенному кругу лиц" (Источник: Федеральный закон от 27.07.2006 N 149-ФЗ, Статья 2).

Вывод по данному вопросу: Передача сгенерированного изображения строго одному конкретному пользователю по его запросу, скорее, подпадает под определение "предоставление информации", а не "распространение". Однако статья 242 УК РФ использует именно термин "распространение", и судебная практика может толковать его расширительно. Более того, ч. 3 ст. 242 УК РФ квалифицирует как отягчающее обстоятельство использование информационно-телекоммуникационных сетей. Таким образом, передача через интернет даже одному лицу может быть расценена как распространение в смысле ст. 242 УК РФ.

2. Роль умысла в квалификации деяния

Уголовная ответственность наступает только при наличии вины. Согласно УК РФ:

"Основанием уголовной ответственности является совершение деяния, содержащего все признаки состава преступления, предусмотренного настоящим Кодексом" (Источник: "Уголовный кодекс Российской Федерации" от 13.06.1996 N 63-ФЗ, Статья 8).

Статья 242 УК РФ не содержит прямого указания на неосторожную форму вины, поэтому преступление может быть совершено только умышленно. Умысел определен в ст. 25 УК РФ:

"Преступление признается совершенным с косвенным умыслом, если лицо осознавало общественную опасность своих действий (бездействия), предвидело возможность наступления общественно опасных последствий, не желало, но сознательно допускало эти последствия либо относилось к ним безразлично" (Источник: "Уголовный кодекс Российской Федерации" от 13.06.1996 N 63-ФЗ, Статья 25).

Вывод по данному вопросу: Если вы, как оператор платформы, осведомлены, что пользователи массово генерируют порнографию, но сознательно не препятствуете этому (не внедряете фильтрацию), то ваши действия могут быть квалифицированы как совершённые с косвенным умыслом. Вы осознаёте общественную опасность, предвидите неизбежность создания порнографии и относитесь к этому безразлично ради получения дохода.

3. Достаточно ли оферты и документальных мер для освобождения от ответственности

Объективное вменение (ответственность без вины) в уголовном праве России запрещено:

"Объективное вменение, то есть уголовная ответственность за невиновное причинение вреда, не допускается" (Источник: "Уголовный кодекс Российской Федерации" от 13.06.1996 N 63-ФЗ, Статья 5).

Однако в вашем случае умысел может быть установлен не через прямые намерения, а через ваше осознанное бездействие.

Федеральный закон № 149-ФЗ устанавливает возможность освобождения от ответственности для информационных посредников:

"В случае, если распространение определенной информации ограничивается или запрещается федеральными законами, гражданско-правовую ответственность за распространение такой информации не несет лицо, оказывающее услуги: 2) либо по хранению информации и обеспечению доступа к ней при условии, что это лицо не могло знать о незаконности распространения информации" (Источник: Федеральный закон от 27.07.2006 N 149-ФЗ, Статья 17).

Это важное положение: если вы не могли знать о незаконном характере контента, ответственность исключается. Но если вы знаете о систематической генерации порнографии и не принимаете мер — вы теряете этот иммунитет.

Оферта с перекладыванием ответственности на пользователя — это гражданско-правовой документ, регулирующий ваши договорные отношения. Он не освобождает от публично-правовой (уголовной) ответственности перед государством. Положения оферты о запрете противоправного контента могут демонстрировать ваше формальное отношение к проблеме, но при фактическом попустительстве они, скорее всего, не защитят от обвинения в косвенном умысле.

4. Квалификация роли оператора платформы как соучастника

В контексте генерации контента нейросетью (фактически вы выступаете создателем инструмента и самим исполнителем генерации) вы рискуете быть признаны не просто пособником, а соисполнителем.

Закон определяет пособника так:

"Пособником признается лицо, содействовавшее совершению преступления советами, указаниями, предоставлением информации, средств или орудий совершения преступления либо устранением препятствий..." (Источник: "Уголовный кодекс Российской Федерации" от 13.06.1996 N 63-ФЗ, Статья 33).

Ваша нейросеть и оборудование — это средство совершения преступления (создания порнографии). Предоставляя к ним доступ и непосредственно осуществляя генерацию на своём оборудовании, вы можете быть признаны лицом, непосредственно участвовавшим в изготовлении порнографических материалов.

Обратите внимание на особый статус: вы подпадаете под определение организатора распространения информации:

"Организатором распространения информации в сети "Интернет" является лицо, осуществляющее деятельность по обеспечению функционирования информационных систем и (или) программ для электронных вычислительных машин, которые предназначены и (или) используются для приема, передачи, доставки и (или) обработки электронных сообщений пользователей сети "Интернет"" (Источник: Федеральный закон от 27.07.2006 N 149-ФЗ, Статья 10.1).

Это накладывает на вас дополнительные обязанности, включая хранение информации о пользователях и их действиях.

Рекомендации и выводы

1. Внедрение фильтрации NSFW является критически необходимым, а не просто желательным. Без технических средств предотвращения генерации запрещённого контента вы действуете с косвенным умыслом, сознательно допуская совершение преступления. Оферта сама по себе не защищает от уголовного преследования.

2. Документальные меры (оферта, пользовательское соглашение) — это необходимый, но недостаточный минимум. Они могут демонстрировать отсутствие прямого умысла, но при фактическом отсутствии фильтрации следствие легко установит косвенный умысел через ваше бездействие.

3. Ваша роль как оператора не является ролью "простого инструмента" наподобие графического редактора. Поскольку именно ваше оборудование и ваше ПО непосредственно создают контент, а не пользователь на своём устройстве, вы глубоко вовлечены в процесс изготовления.

4. Рекомендации по снижению рисков:

   • Внедрить многоуровневую систему фильтрации запросов и генерируемого контента
   • Чётко определить в пользовательском соглашении запрещённые категории
   • Реализовать механизм блокировки пользователей-нарушителей
   • Вести логи модерации для доказательства принятия мер
   • Рассмотреть возможность премодерации запросов в высокорисковых категориях

5. Обратитесь к адвокату, специализирующемуся на IT-праве и уголовном праве, для разработки комплексной стратегии минимизации рисков именно для вашей платформы с учётом её специфики. Типовые решения в столь чувствительной сфере могут быть недостаточными.

Действующее законодательство и правоприменительная практика в сфере AI-генерации действительно не устоялись, но общие принципы уголовного права, изложенные выше, позволяют прогнозировать высокие риски при отсутствии технических средств контроля.