В соответствии с Планом мероприятий Совета Федерации Федерального Собрания Российской Федерации на весеннюю сессию 2024 года Комитетом Совета Федерации по конституционному законодательству и государственному строительству совместно с Советом по развитию цифровой экономики при Совете Федерации Федерального Собрания Российской Федерации был проведен круглый стол на тему «Правовое регулирование функционирования систем искусственного интеллекта в Российской Федерации: вектор развития законодательства» (далее – круглый стол).
В дискуссии приняли участие сенаторы Российской Федерации, представители Администрации Президента Российской Федерации, Министерства внутренних дел Российской Федерации, Министерства юстиции Российской Федерации, Министерства цифрового развития, связи и массовых коммуникаций Российской Федерации, Министерства здравоохранения Российской Федерации, Министерства просвещения Российской Федерации, Министерства науки и высшего образования Российской Федерации, Генеральной прокуратуры Российской Федерации, Федеральной службы безопасности Российской Федерации, аппарата Уполномоченного по правам человека в Российской Федерации, Аппарата Уполномоченного при Президенте Российской Федерации по правам ребенка, Общественной палаты Российской Федерации, представители экспертного сообщества, образовательных и научных организаций.
Участниками мероприятия отмечено, что искусственный интеллект (далее – ИИ) является одним из наиболее перспективных и динамично развивающихся направлений в сфере информационных технологий. В настоящее время ИИ активно внедряется в различных областях, таких как промышленность, медицина, связь, транспорт, жилищно-коммунальное хозяйство, наука, государственное и муниципальное управление и др. Применение инструментов с использованием ИИ позволяет автоматизировать рутинные бизнес-процессы и функции государственных органов, повысить эффективность производительности труда, обеспечить новый уровень комфорта и качества жизни.
В Российской Федерации развитие технологий ИИ является одним из ключевых приоритетов государственной политики. Так, в 2019 году Указом Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации» была утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года (далее – Национальная стратегия), в соответствии с которой целями развития ИИ в Российской Федерации являются обеспечение роста благосостояния и качества жизни ее населения, обеспечение национальной безопасности и правопорядка, достижение устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области ИИ.
В рамках реализации указанной Национальной стратегии были приняты федеральные законы, направленные на обеспечение развития и внедрения перспективных инноваций, в том числе в сфере ИИ. Так, в 2020 году были приняты Федеральный закон от 24 апреля 2020 года № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных», который регулирует проведение эксперимента по установлению специального регулирования в целях создания условий для разработки и внедрения технологий ИИ в Москве, а также Федеральный закон от 31 июля 2020 года № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» (далее – Федеральный закон № 258-ФЗ), которым был введен новый правовой инструмент, позволяющий апробировать инновации в тестовом режиме, без корректировки действующего правового регулирования.
К настоящему времени в рамках Федерального закона № 258-ФЗ действует 15 экспериментальных правовых режимов, часть из которых предусматривает использование в том числе технологий ИИ (например, беспилотные грузовые и пассажирские перевозки, телемедицина).
Важным шагом в сфере правового регулирования применения ИИ в Российской Федерации стало принятие Федерального закона от 8 июля 2024 года № 169-ФЗ «О внесении изменений в Федеральный закон «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» который дополняет Федеральный закон № 258-ФЗ механизмом рассмотрения случаев причинения вреда жизни, здоровью или имуществу человека, либо имуществу юридического лица при реализации экспериментального правового режима в результате использования решений, созданных с применением технологий ИИ, а также предусматривает обязательное страхование гражданской ответственности участников экспериментального правового режима, наступающей в указанных случаях.
С 1 октября 2023 года действует закон о регулировании рекомендательных технологий, которые также основаны на инструментах ИИ. В законе определены обязанности владельцев сайтов и информационных систем, которые применяют такие технологии.
Участниками круглого стола отмечено, что в настоящее время ведется работа по созданию и внедрению стандартов в сфере искусственного интеллекта в соответствии с программой стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021–2024 гг. Программа включает в себя разработку не менее 111 стандартов, которые призваны преодолеть нормативно-технические барьеры в реализации федерального проекта «Искусственный интеллект».
Важным шагом в сфере регламентации деятельности компаний, развивающих технологии ИИ, стало принятие в 2021 году Кодекса этики ИИ, который был разработан совместными усилиями отечественных технологических компаний. Несмотря на то, что данный документ не является нормативным правовым актом и носит лишь рекомендательный характер, он заложил основу для формирования в Российской Федерации механизмов саморегулирования ИТ-отрасли в данном направлении. В настоящее время к Кодексу присоединились более 360 российских компаний, федеральных и региональных органов власти, а также участники из 19 зарубежных государств.
В рамках мероприятия участники указали на необходимость дальнейшего совершенствования законодательства в сере ИИ с учетом того, что данные технологии могут быть использованы в противоправных целях.
В частности, отмечена высокая актуальность вопросов обеспечения цифрового суверенитета при внедрении технологий ИИ в Российской Федерации. По мнению участников круглого стола, должны быть выработаны правовые и организационные механизмы, направленные на стимулирование отечественных разработчиков систем ИИ, в том числе с учетом необходимости формирования и наполнения национальных репозиториев данных для обучения генеративных нейросетей.
Кроме того, необходимо обеспечить систему ограничений для бесконтрольного использования технологий ИИ в наиболее чувствительных сферах (медицина, образование, функционирование критической инфраструктуры и др.), где применение таких цифровых инструментов должно быть строго регламентировано и подлежать особому контролю со стороны государства. Предлагается рассмотреть возможность внедрения риск-ориентированного подхода при использовании технологий ИИ, а также установить обязательную маркировку информационных продуктов, созданных с использованием ИИ.
Участники мероприятия отметили, что комплексное регулирование ИИ в Российской Федерации, в том числе механизмы поддержки российских разработчиков ИИ и систему управления рисками в сфере ИИ, возможно реализовать в рамках разрабатываемого Цифрового кодекса Российской Федерации, концепция и структура которого были представлены в рамках деятельности соответствующей межведомственной рабочей группы при Министерстве цифрового развития, связи и массовых коммуникаций Российской Федерации.
С учетом состоявшегося обсуждения участники круглого стола полагают целесообразным рекомендовать:
1. Министерству цифрового развития, связи и массовых коммуникаций Российской Федерации совместно с Национальным центром развития искусственного интеллекта при Правительстве Российской Федерации
1.1. Рассмотреть вопросы:
—
создания дополнительных правовых и организационных механизмов, направленных на стимулирование российских разработчиков технологий ИИ,
а также на разработку комплексной системы формирования и предоставления доступа
к наборам данных, которые могут быть
использованы для создания и обучения ИИ;
— возможности установления перечня случаев, в рамках которых владельцы информационных сервисов, использующих технологии ИИ, будут обязаны маркировать информационную продукцию, создаваемую с применением технологий ИИ;
— проведения комплексного анализа рисков использования технологий ИИ для граждан Российской Федерации, а также в случае применения таких технологий в бизнес-процессах и в сфере государственного управления;
— создания на основе проведенного анализа отраслевой системы управления рисками (в том числе в части установления специального регулирования использования технологий ИИ в отдельных сферах общественных отношений).
1.2. Обеспечить нормативное закрепление положений о регулировании применения технологий ИИ в Российской Федерации в рамках подготовки проекта Цифрового кодекса Российской Федерации.
2. Министерству цифрового развития, связи
и массовых коммуникаций Российской Федерации совместно с Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций обеспечить внедрение системы проверки
соответствия информации, используемой при разработке отечественных технологий
ИИ (при обучении генеративных нейросетей), требованиям действующего
законодательства Российской Федерации.