Динамику развития технологий искусственного интеллекта в России (ИИ) определяют два мощных тренда: глобальное развитие генеративных моделей, требующих колоссальных объемов данных, и возрастание геополитической напряженности, создающее угрозы национальной безопасности.
Развитие и безопасность ИИ становятся факторами международной конкуренции. Стране нужны собственные модели, вычислительная инфраструктура и качественные русскоязычные данные. Одновременно растут риски: недостоверные ответы, утечки информации, кибератаки, скрытое влияние на граждан и зависимость от иностранных технологий.
Ответом на эти вызовы стал проект федерального закона «О безопасном использовании систем искусственного интеллекта в Российской Федерации». Законопроект предлагает защищать граждан от опасных решений ИИ, контролировать качество данных и вводить особые требования к доверенным системам. В то же время вопрос о правах авторов, чьи произведения используются для обучения моделей и подготовки ответов, еще предстоит решить в следующих редакциях документа.
Законопроект предусматривает реестр доверенных систем, оценку рисков, контроль на всем жизненном цикле ИИ и специальные требования к решениям, применяемым государством и в социально значимых сферах. Иностранные разработчики также должны соответствовать российским требованиям, если их системами пользуются граждане России.
Проект закрепляет важные права граждан. Человек должен знать, что взаимодействует с ИИ, может отказаться от его использования в ряде ситуаций и потребовать пересмотра значимого решения без участия алгоритма. Созданные ИИ тексты, изображения, аудио и видео предлагается маркировать.
Производители должны управлять рисками, предупреждать об уязвимостях и обеспечивать правомерное использование достоверных и объективных обучающих данных. Для доверенных систем предусмотрены фиксация происхождения данных, независимая проверка источников, защита от атак и возможность аварийной остановки.
В условиях напряженной международной обстановки все это важно. Контроль происхождения данных помогает снижать риск обучения моделей на поддельной, намеренно искаженной или незаконно полученной информации.
В то же время существенный пробел видится в том, что права авторов фактически вынесены за пределы законопроекта. Статья 1 прямо указывает, что отношения по охране интеллектуальной собственности им не регулируются. Статья 13 требует использовать данные правомерно, но не объясняет, когда разработчику нужна лицензия, как автор узнает об использовании произведения и каким образом он получает вознаграждение.
В результате возникает дисбаланс. Разработчик получает экономическую ценность от книг, статей, исследований, фотографий, музыки и других произведений, а их создатель может не знать, что его труд использован. Формальное сохранение авторских прав не решает проблему, если состав обучающих наборов закрыт и нарушение невозможно доказать.
Защита авторов нужна не только ради справедливости. Она напрямую связана с качеством будущих моделей.
Если создание профессионального контента перестает приносить доход, авторы, ученые, журналисты и издатели сокращают его производство или закрывают материалы от свободного доступа. В интернете становится больше вторичного и автоматически созданного текста. В итоге новые модели получают менее качественные данные и начинают все чаще учиться на результатах работы других моделей, что ведёт к деградации. Это стратегический риск.
Поэтому устойчивый ИИ должен опираться на устойчивую экономику знаний. Авторам необходимо сохранять интерес к созданию новых оригинальных произведений, а разработчикам получать легальный и предсказуемый доступ к качественным данным.
Российское право содержит основу для такого подхода. ГК РФ дает правообладателю возможность разрешать или запрещать использование произведения, причем отсутствие запрета не считается согласием. ГК РФ относит запись произведения в память компьютера к воспроизведению.
Легальный доступ можно организовать через лицензионные договоры и открытые лицензии. Для массового использования подходит коллективное управление правами: одна организация может выдавать лицензии, собирать платежи и распределять их между правообладателями.
Полезен и международный опыт, нельзя слепо его отрицать, важно брать полезное. Так например, в ЕС анализ текстов и данных разрешен при определенных условиях и фиксации использования машиночитаемым способом.
Международный опыт в части "Акта об ИИ" требует от поставщиков моделей общего назначения соблюдать авторское право и публиковать достаточно подробное описание контента, использованного для обучения.
Таким образом, в следующих редакциях законопроект может быть дополнен несколькими практическими механизмами:
1. Обязать разработчиков вести реестр происхождения обучающих данных и правовых оснований их использования.
2. Предоставить автору право узнать, использовалось ли его произведение, и потребовать проверки, исключения или оплаты.
3. Ввести машиночитаемые отметки: «разрешено для обучения», «только по лицензии», «только для исследований», «использование запрещено».
4. Создать систему коллективных лицензий, чтобы разработчики не заключали отдельный договор с каждым автором.
5. Распространить требования о происхождении данных не только на доверенные, но и на крупные коммерческие генеративные модели.
6. Отдельно урегулировать использование материалов для подготовки ответа ИИ, когда система извлекает содержание из внешнего источника и фактически заменяет пользователю оригинальную публикацию.
7. Установить ответственность за отсутствие разумной проверки прав, а не только за сознательное включение незаконных данных.
Подводя итоги хотелось бы отметить, что законопроект формирует важную основу безопасности ИИ: защищает граждан, вводит контроль данных и повышает ответственность разработчиков и операторов. Но без специального механизма защиты авторов эта система остается неполной с позиции стратегического развития и безопасности ИИ в условиях высокой международной конкуренции.
Сильный национальный ИИ невозможно построить только на серверах и алгоритмах. Ему нужен постоянный приток качественного человеческого знания. Поэтому оплата труда авторов, прозрачность обучающих наборов и легальное использование контента должны рассматриваться не как ограничение технологий, а как часть стратегии безопасности и долгосрочного устойчивого развития ИИ.
Пауков Алексей, к.э.н., "Электронный экспресс" (компания "Гарант"), руководитель комитета по ИИ Ассоциации РОСЭУ
Развитие и безопасность ИИ становятся факторами международной конкуренции. Стране нужны собственные модели, вычислительная инфраструктура и качественные русскоязычные данные. Одновременно растут риски: недостоверные ответы, утечки информации, кибератаки, скрытое влияние на граждан и зависимость от иностранных технологий.
Ответом на эти вызовы стал проект федерального закона «О безопасном использовании систем искусственного интеллекта в Российской Федерации». Законопроект предлагает защищать граждан от опасных решений ИИ, контролировать качество данных и вводить особые требования к доверенным системам. В то же время вопрос о правах авторов, чьи произведения используются для обучения моделей и подготовки ответов, еще предстоит решить в следующих редакциях документа.
Законопроект предусматривает реестр доверенных систем, оценку рисков, контроль на всем жизненном цикле ИИ и специальные требования к решениям, применяемым государством и в социально значимых сферах. Иностранные разработчики также должны соответствовать российским требованиям, если их системами пользуются граждане России.
Проект закрепляет важные права граждан. Человек должен знать, что взаимодействует с ИИ, может отказаться от его использования в ряде ситуаций и потребовать пересмотра значимого решения без участия алгоритма. Созданные ИИ тексты, изображения, аудио и видео предлагается маркировать.
Производители должны управлять рисками, предупреждать об уязвимостях и обеспечивать правомерное использование достоверных и объективных обучающих данных. Для доверенных систем предусмотрены фиксация происхождения данных, независимая проверка источников, защита от атак и возможность аварийной остановки.
В условиях напряженной международной обстановки все это важно. Контроль происхождения данных помогает снижать риск обучения моделей на поддельной, намеренно искаженной или незаконно полученной информации.
В то же время существенный пробел видится в том, что права авторов фактически вынесены за пределы законопроекта. Статья 1 прямо указывает, что отношения по охране интеллектуальной собственности им не регулируются. Статья 13 требует использовать данные правомерно, но не объясняет, когда разработчику нужна лицензия, как автор узнает об использовании произведения и каким образом он получает вознаграждение.
В результате возникает дисбаланс. Разработчик получает экономическую ценность от книг, статей, исследований, фотографий, музыки и других произведений, а их создатель может не знать, что его труд использован. Формальное сохранение авторских прав не решает проблему, если состав обучающих наборов закрыт и нарушение невозможно доказать.
Защита авторов нужна не только ради справедливости. Она напрямую связана с качеством будущих моделей.
Если создание профессионального контента перестает приносить доход, авторы, ученые, журналисты и издатели сокращают его производство или закрывают материалы от свободного доступа. В интернете становится больше вторичного и автоматически созданного текста. В итоге новые модели получают менее качественные данные и начинают все чаще учиться на результатах работы других моделей, что ведёт к деградации. Это стратегический риск.
Поэтому устойчивый ИИ должен опираться на устойчивую экономику знаний. Авторам необходимо сохранять интерес к созданию новых оригинальных произведений, а разработчикам получать легальный и предсказуемый доступ к качественным данным.
Российское право содержит основу для такого подхода. ГК РФ дает правообладателю возможность разрешать или запрещать использование произведения, причем отсутствие запрета не считается согласием. ГК РФ относит запись произведения в память компьютера к воспроизведению.
Легальный доступ можно организовать через лицензионные договоры и открытые лицензии. Для массового использования подходит коллективное управление правами: одна организация может выдавать лицензии, собирать платежи и распределять их между правообладателями.
Полезен и международный опыт, нельзя слепо его отрицать, важно брать полезное. Так например, в ЕС анализ текстов и данных разрешен при определенных условиях и фиксации использования машиночитаемым способом.
Международный опыт в части "Акта об ИИ" требует от поставщиков моделей общего назначения соблюдать авторское право и публиковать достаточно подробное описание контента, использованного для обучения.
Таким образом, в следующих редакциях законопроект может быть дополнен несколькими практическими механизмами:
1. Обязать разработчиков вести реестр происхождения обучающих данных и правовых оснований их использования.
2. Предоставить автору право узнать, использовалось ли его произведение, и потребовать проверки, исключения или оплаты.
3. Ввести машиночитаемые отметки: «разрешено для обучения», «только по лицензии», «только для исследований», «использование запрещено».
4. Создать систему коллективных лицензий, чтобы разработчики не заключали отдельный договор с каждым автором.
5. Распространить требования о происхождении данных не только на доверенные, но и на крупные коммерческие генеративные модели.
6. Отдельно урегулировать использование материалов для подготовки ответа ИИ, когда система извлекает содержание из внешнего источника и фактически заменяет пользователю оригинальную публикацию.
7. Установить ответственность за отсутствие разумной проверки прав, а не только за сознательное включение незаконных данных.
Подводя итоги хотелось бы отметить, что законопроект формирует важную основу безопасности ИИ: защищает граждан, вводит контроль данных и повышает ответственность разработчиков и операторов. Но без специального механизма защиты авторов эта система остается неполной с позиции стратегического развития и безопасности ИИ в условиях высокой международной конкуренции.
Сильный национальный ИИ невозможно построить только на серверах и алгоритмах. Ему нужен постоянный приток качественного человеческого знания. Поэтому оплата труда авторов, прозрачность обучающих наборов и легальное использование контента должны рассматриваться не как ограничение технологий, а как часть стратегии безопасности и долгосрочного устойчивого развития ИИ.
Пауков Алексей, к.э.н., "Электронный экспресс" (компания "Гарант"), руководитель комитета по ИИ Ассоциации РОСЭУ