Искусственный интеллект – обсуждаем с коллегами вопросы правового регулирования
25.12.202321 декабря 2023 г. в Санкт-Петербургском университете технологий управления и экономики состоялся Международный научно-практический круглый стол «Искусственный интеллект в окне Овертона: от юридической абстракции к реальной правосубъектности».
Организаторами мероприятии выступили кафедра гражданского права и процесса Санкт-Петербургского университета технологий управления и экономики (СПбУТУиЭ) и кафедра теории и истории права Белорусского государственного экономического университета (БГЭУ).
В работе круглого стола, помимо представителей СПбУТУиЭ и БГЭУ, приняли участие преподаватели Волгоградской академии МВД России; Государственного института экономики, финансов, права и технологий (г. Гатчина); Забайкальского государственного университета; Санкт-Петербургского политехнического университета Петра Великого, Санкт-Петербургского университета ФСИН. Также в мероприятии участвовали аспиранты, магистранты, юристы-практики: корпоративные и налоговые юристы, представители адвокатского и нотариального сообщества.
Модераторами круглого стола выступили представители кафедры гражданского права и процесса СПбУТУиЭ: Андрей Кузьмин, заведующий кафедрой, к. ю. н., доцент и Алексей Саченко, доцент кафедры, к. ю. н., доцент.
Заседание открыла приветственным словом проректор по науке и международной деятельности СПбУТУиЭ, кандидат экономических наук, доцент Анна Румянцева, которая подчеркнула важность проводимого мероприятия, объединяющего как научную, так и международную деятельность университетов-партнеров (СПбУТУиЭ и БГЭУ), напомнив, что между вузами подписано соглашение о совместной деятельности.
Далее приветствие продолжил Юрий Кузьмин, член Санкт-Петербургской избирательной комиссии с правом решающего голоса, который отметил, что в свете предстоящих президентских выборов 2024 года тематика круглого стола очень актуальна, поскольку новые информационные технологии и, в частности, процедура электронного голосования прочно вошла в нашу жизнь. Юрий Кузьмин от имени председателя Санкт-Петербургской избирательной комиссии Максима Мейксина поблагодарил коллектив СПбУТУиЭ за активное участие в избирательных процессах, в научной поддержке инициатив избиркома, в мероприятиях по повышению электоральной активности молодых избирателей, в частности, отметил, что аспирант СПбУТУиЭ Максим Воронин является председателем молодежной избирательной комиссии Санкт-Петербурга. В ходе выступления Юрий Кузьмин вручил Максиму Колмогорову благодарность, а Андрею Кузьмину – почетную грамоту Санкт-Петербургской избирательной комиссии.
От имени соорганизаторов – Белорусского государственного экономического университета участников мероприятия приветствовал Николай Рудович, заместитель декана факультета права БГЭУ, кандидат юридических наук, доцент. Николай Рудович отметил плодотворное сотрудничество между СПбУТУиЭ и БГЭУ, которому задают тон президенты и правительства России и Белоруссии.
С первым докладом «Искусственный интеллект как юридическая химера: бенефициарий в окне Овертона или зачем это государству?» выступил Андрей Кузьмин. Спикер подчеркнул, что вопросы правового регулирования искусственного интеллекта становятся ключевыми, влияя на различные сферы, в их числе наука, технология и общественное мнение.
Проблемы правового регулирования искусственного интеллекта коренятся в истории промышленных революций, где машины стали заменой труда рабочих для оптимизации производства. В настоящее время движение разрушителей машин играет ключевую роль в противостоянии «человек-машина», причем проблемы искусственного интеллекта обсуждаются как сторонниками, так и противниками.
Моделируются ситуации, когда машины, созданные для контроля над природой и обществом, выходят за рамки программированных шаблонов, представляя не только возможности развития, но и демонстрируя реальные угрозы общественному порядку. Использование искусственного интеллекта (ИИ) с поддержкой перепрограммируемых модулей вызывает риск разрушения целеполагания и потери контроля. Реакция машины зависит от внешних воздействий, что может привести к непредсказуемым последствиям, включая использование оружия по решению ИИ.
ИИ, в том числе в форме самообучающихся систем, представляет собой распространенное явление в современном мире. Он обладает глубоким потенциалом к интеллектуальной работе, оперирует быстрее человека и способен принимать сложные решения, что может представлять опасность даже при наличии контролирующего оператора.
ИИ, по словам докладчика, рассматривается в правовых рамках как программный продукт, но не считается самостоятельным юридическим понятием. Андрей Кузьмин подчеркнул необходимость разработки правил для регулирования использования ИИ, учитывая его быстрое развитие, поскольку отсутствие ясности в технологических аспектах и возможности самовоспроизводства создает вызовы для правового института искусственного интеллекта.
Рассматриваемые сквозь призму модели Овертона параметры ИИ, были представлены спикером с содержательной стороны.
На этапе «Радикально» формируется система программного обеспечения, предоставляющая оператору возможность выбора варианта действия. Технологический поиск источников правового регулирования не предоставляет вариантов разрешения споров, а предлагает использовать иерархию правовых норм.
На этапе «Приемлемо» опыт использования справочно-правовых систем упрощает процессы, автоматизируя составление документов и нормативных актов. Признание результатов требует легитимизации правомочными субъектами.
На этапе «Разумно» общество готово использовать технологии ИИ, устанавливать правовой режим и определяя ответственность оператора за действия систем ИИ.
На этапе «Стандартно» ИИ успешно внедряется в юридическую деятельность, требуя при этом согласования с оператором. Он стандартно используется в глобальных контекстах, включая межгосударственную юридическую деятельность.
Этап «Действующая норма» по мнению докладчика, еще не наступил, однако в ближайшем будущем вопросы ответственности за действия объектов, управляемых искусственным интеллектом, будут решены на законодательном уровне. Перед законодателем будет поставлен вопрос признания таких объектов субъектами права, поскольку возникнут сложности с правовым режимом объектов, вышедших из-под контроля оператора.
Подводя итог, Андрей Кузьмин отметил, что формирование нового субъекта права обсуждается в юридическом сообществе с осторожностью, а неопределенность в правовых последствиях требует внимания законодателей, особенно в свете появления объектов с искусственным интеллектом.
Анна Шафалович, доцент кафедры теории и истории права БГЭУ, кандидат юридических наук, доцент, выступила с докладом «Искусственный интеллект в праве vs человеческое сознание?». Докладчик указала, что в настоящее время учеными-правоведами ставится вопрос о том, как рассматривать ИИ в контексте человеческого сознания и не потерять при этом человеческие навыки в правовой сфере. Появляется необходимость защиты человечества от возможного доминирования искусственного интеллекта, предлагается решение через «экосистемное право» с использованием ИИ нового уровня.
Внедрение ИИ в правовую деятельность поднимает вопросы о рисках и угрозах для человеческого права. Отмечается, что использование ИИ не является оптимальным средством улучшения человеческого права, а наоборот — может подвергнуть его существование угрозе. Существует опасность вытеснения человека из традиционных сфер, приводящая к дегуманизации права. Проблема внедрения искусственного интеллекта в правовую сферу представляет серьезный вызов для человеческого сознания и, возможно, станет поворотным моментом в осознании человечеством своей роли.
Александр Белослудцев, адвокат Адвокатской конторы № 22 «Магнат» Свердловской областной коллегии адвокатов (г. Екатеринбург), аспирант СПбУТУиЭ, выступил с докладом, подготовленным в совместно с Еленой Дзюбой, доктором филологических наук, профессором, профессором Высшей школы международных отношений Санкт-Петербургского политехнического университета Петра Великого «Искусственный интеллект – цифровой Прометей или ящик Пандоры?». Внедрение ИИ в правовую систему России, в том числе — судопроизводство, становится неизбежным. Применение ИИ направлено на уменьшение судебных ошибок и обеспечение оперативной коррекции. Примером использования ИИ в правоприменительной деятельности служит опыт колумбийского судьи, который при подготовке судебного решения воспользовался языковой моделью ChatGPT. Эта технология сделала возможным технически генерировать тексты судебных актов, но поставила много морально-этических вопросов.
Достижения в области больших лингвистических моделей поднимают и вопросы безопасности. Использование ChatGPT привело к новым возможностям в сфере программирования. Эти достижения сопряжены с рисками — такими, как создание компьютерных вирусов, вызывают опасения относительно возможных кибератак.
Развитие ИИ открывает новые горизонты, одновременно вызывая обеспокоенность научного сообщества. Будущее использования искусственного интеллекта покажет, будет ли он служить благу человечеству, как «цифровой Прометей», или принесет новые угрозы, подобные «ящику Пандоры». В любом случае, внедрение технологий ИИ во все сферы жизни неизбежно.
Ольга Бодакова, заведующая кафедрой теории и истории права факультета права БГЭУ, кандидат юридических наук выступила с докладом «Нейросети в нормотворчестве: новые горизонты применения». Докладчик указала, что в современном обществе нейросети становятся важным элементом в различных областях, включая нормотворчество. Предлагается использовать Эталонный банк данных правовой информации (ЭБДПИ) для обучения нейронной сети в области нормотворческой деятельности. Национальный центр правовой информации Республики Беларусь может быть ответственным за разработку, обучение и предоставление доступа к сети для нормотворческих органов. Взаимодействие сети с нормотворческими органами предлагается осуществлять через автоматизированную информационную систему «Нормотворчество».
Текст предлагает использовать нейронные сети для генерации текстов нормативных правовых актов, предостерегает от полного доверия результатам генерации и выдвигает идеи применения сетей для различных аспектов нормотворческой деятельности, включая создание законов, подзаконных актов и учет общественного мнения. Признается эффективность нейросетей в обработке данных и анализе, но подчеркивается, что окончательные решения всегда должны приниматься человеком с учетом разнообразных факторов.
Алексей Саченко, доцент кафедры гражданского права и процесса СПбУТУиЭ, кандидат юридических наук, доцент, выступил с докладом «Проблемы правовой дефиниции права авторства на объекты, созданные искусственным интеллектом». Докладчик поднимает вопрос о влиянии современного научно-технического прогресса на формирование новых форм правового регулирования, особенно в области интеллектуальной собственности. Внедрение ИИ представляет перспективное направление, но вызывает сложности в правовом аспекте.
Автор отмечает, что существующие категории, такие как «интернет-омбудсмен» и «цифровое право», становятся частью повседневной жизни и требуют новых правовых подходов. Основной вопрос – это принадлежность авторства творческих результатов ИИ. Законодательство требует привязки авторства к гражданину, что не согласуется с природой ИИ.
Судебная практика подчеркивает необходимость учета творческого характера результатов для признания их объектами авторского права. Таким образом, стоит разрабатывать новые правовые подходы, учитывая особенности ИИ в контексте авторства и интеллектуальной собственности.
Докладчик высказывает сомнения относительно применимости авторского права к результатам ИИ. Отмечается, что законодательство, ориентированное на граждан, не учитывает отсутствие творческого элемента в создании произведения ИИ. Вопрос о признании ИИ автором остается открытым.
В заключении Алексей Саченко подчеркнул, что существующее законодательство не соответствует реальности сфере применения искусственного интеллекта, и предлагается искать более оптимальные правовые модели, особенно с учетом государственной политики в сфере инноваций.
Ольга Ленцевич, доцент кафедры теории и истории права факультета права Белорусского государственного экономического университета, кандидат исторических наук, доцент, представила доклад «Искусственный интеллект в правовом регулировании института компенсации морального вреда». Автор подчеркнула, что цифровая трансформация в Республике Беларусь сказывается на институте компенсации морального вреда, делая процесс обращения в суд более удобным. Применение ИИ может оптимизировать оценку морального вреда, ускорить судебные процессы и повысить доступность правосудия. Однако важен строгий контроль за использованием технологий, чтобы избежать возможных злоупотреблений и учесть социальные аспекты.
В рамках дискуссии, сопровождавшей выступления спикеров, участниками круглого стола был задан ряд вопросов и высказаны принципиальные суждения.
Юлия Алексеева, доцент кафедры гражданского права и процесса СПбУТУиЭ, кандидат юридических наук, подняла вопрос о прогностической функции законодательства, о том, не нужно ли стремиться к тому, чтобы право не отставало от науки и бизнес-процессов.
Тарас Ляшенко, старший преподаватель кафедры гражданского права и процесса СПбУТУиЭ, поставил вопрос о том, если технологии ИИ так плотно вошли в нашу жизнь, не пора ли обучать студентов работе в нейросетях – например, в ChatGPT, в том числе — для написания научных работ.
Виталий Новицкий, кандидат юридических наук, доцент, доцент кафедры гражданского права и процесса СПбУТУиЭ, поднял вопрос о следующих шагах по внедрению технологий ИИ в вопросах правоприменения, например, в части образования так называемого прецедентного права в электронном варианте и о проблемах ошибок ИИ при генерировании юридических документов со ссылкой на несуществующие судебные акты.
Артем Гаврилов, аспирант СПбУТУиЭ, поставил вопрос о возможных последствиях обретения правосубъектности ИИ, в виде использования ИИ для злоупотребления правом, избежании ответственности.
В завершении мероприятия модераторы и соорганизаторы круглого стола высказали удовлетворение итогами работы, пожелали всем участникам заседания успехов в научной работе, поздравили с наступающим Новым годом и выразили надежду на проведение новых совместных научных мероприятий.
Обзор подготовил аспирант А. Белослудцев
