Главная Новости Общие вопросы Формы деятельности Договоры Виды деятельности Вопрос-ответ Контакты

Быстрая навигация: Каталог статей > Иные вопросы > Регулирование взаимодействия человека с автономными техническими средствами: дискуссия о правовых режимах (Кутейников Д.Л., Ижаев О.А., Лебедев В.А., Зенин С.С.)

Регулирование взаимодействия человека с автономными техническими средствами: дискуссия о правовых режимах (Кутейников Д.Л., Ижаев О.А., Лебедев В.А., Зенин С.С.)

Дата размещения статьи: 22.06.2020

Цифровая трансформация различных сфер жизни общества в последнее десятилетие стала центром внимания общественности и государственных институтов. Человечество переживает период массового внедрения в практику накопленных знаний. В частности, Кай Фу Ли характеризует современность как "эпоху воплощений", которая предполагает создание конкретных продуктов на основе результатов исследований предыдущих десятилетий. В истории такие периоды принято называть технологическими (промышленными) революциями, в ходе которых в результате постепенного внедрения новых технических средств происходит трансформация сложившихся в обществе отношений.

Так, в ходе первой технологической революции (1760 - 1830 гг.), которая началась в Англии, механические машины заняли важное место в производственном процессе. Технические средства применялись в качестве дополнения к способностям человека, что позволило повысить производительность труда. Именно в это время сформировалось близкое к современному понимание технических средств в виде машин и иных механизмов. Следующая технологическая революция (1870 - 1930 гг.) связана с повсеместным внедрением и совершенствованием технологий первой. Техническое средство и рабочий воспринимались как неразрывная производственная единица. Третья технологическая революция (вторая половина XX в.) привела к становлению информационного общества. Цифровые технологии позволили мгновенно производить, обрабатывать и передавать информацию. Использование таких технических средств, как цифровые устройства, программное обеспечение и коммуникационные сети (например, Интернет), позволило частично автоматизировать отдельные процессы. Однако корректное функционирование технических средств все еще требовало активного участия человека.

По мнению Э. Макафи и Э. Бриньолфсона, движущими силами современной четвертой технологической революции являются пять факторов: данные, алгоритмы, сети, облачные технологии и экспоненциальное улучшение аппаратного обеспечения <2>. Различные комбинации указанных факторов обусловили возникновение и массовое внедрение в общественную жизнь киберфизических и искусственных когнитивных систем (искусственного интеллекта). Эти сущности без преувеличения можно назвать основой четвертой технологической революции. При этом под киберфизической системой мы понимаем систему, которая включает три взаимодействующих между собой элемента: физические объекты, программное обеспечение и коммуникационные сети. Искусственную когнитивную систему (искусственный интеллект, ИИ) можно определить как компьютерный алгоритм, способный воспринимать окружающую среду, анализировать полученную из нее информацию и на этой основе принимать рациональные решения с разной степенью автономности. Начинают развиваться и кибербиологические системы, которые предполагают взаимосвязь биологического элемента (в отличие от киберфизической системы), программного обеспечения и коммуникационных сетей.
--------------------------------
<2> См.: Brynjolfsson E., McAfee A. Machine, Platform, Crowd: Harnessing Our Digital Future. 2017. New York: W.W. Norton.

Из вышеизложенного следует, что техническое средство будет обладать способностью совершать независимые от человека действия лишь при условии, что в него интегрирована искусственная когнитивная система. В то же время сам по себе ИИ может быть автономным, даже если не будет интегрирован в конкретный объект материального мира.
Таким образом, важной характеристикой четвертой технологической революции является автоматизация, то есть создание и массовое внедрение автономных технических средств.
В юриспруденции технические средства традиционно рассматриваются как предметы материального (недвижимые и движимые вещи) и нематериального (результаты интеллектуальной деятельности) мира и имеют статус объектов права. Что касается автономных технических средств, то они обладают способностью совершать независимые от человека действия, однако степень их автономности может существенно различаться. В зависимости от того, насколько степень этой автономности влияет на общественные отношения, мы предлагаем рассмотреть возможность выделения нескольких моделей взаимодействия человека с техническими средствами.
Правовая природа технического средства не меняется, если последнее решение принимает сам человек, даже при наличии у такого объекта некоторой степени автономности. Следует сказать, что с юридической точки зрения возникновение автономности у объектов права само по себе революционного значения не имеет, например, действия "робота-пылесоса" не влияют на общественные отношения и не влекут каких-либо правовых последствий. Таким образом, модель взаимодействия человека с техническими средствами, действия которых либо находятся под его контролем, либо не имеют юридического значения, целесообразно назвать взаимосвязью.
Тем не менее технические средства потенциально могут обладать не только автономностью, но и одновременно являться участниками общественных отношений. Например, в отдельных странах беспилотные транспортные средства уже сейчас становятся участниками дорожного движения и самостоятельно осуществляют важные для человеческой жизни действия, несмотря на то что они по своей сути являются лишь сложными техническими средствами, управляемыми искусственной когнитивной системой, способной в непредсказуемых условиях самостоятельно выбирать одно из нескольких альтернативных решений. Делегирование все большего числа задач подобным автономным техническим средствам, а также расширение границ дискреции со временем может создать в общественном сознании новый способ взаимодействия человека с такими техническими средствами, основанный на некоторой независимости.
Таким образом, если техническое средство будет автономно и сможет стать самостоятельным участником каких-либо общественных отношений, а также совершать юридически значимые действия, то такую модель взаимодействия потенциально следует определить как сосуществование.
Особенностью современного технологического развития также является и то, что технические средства не только окружают человека в цифровом и физическом мире, но и становятся его частью. Набирающие популярность операции по внедрению чипов, широкое распространение современных протезов и имплантов (которые потенциально тоже могут обладать ИИ) ставят человека в центр иного, принципиально нового способа взаимодействия с техническими средствами. В этом случае технические средства тотально подчинены воле человека. Соответственно, такую модель взаимодействия, которая возникает при объединении биологического субъекта (человека) с отдельными цифровыми и механическими элементами, следует определить как слияние.
Таким образом, технологическое развитие ставит перед юридической наукой ряд новых вызовов: 1) появляются автономные технические средства; 2) данные технические средства приобретают способность участвовать в общественных отношениях; 3) возникают новые способы взаимодействия человека с предметами материального и нематериального мира. Очевидно, возникает потребность в создании новых подходов к регулированию общественных отношений, в которых задействованы такие "умные" объекты.
Правовое и техническое регулирование данной сферы сейчас находится на начальном этапе. К настоящему времени государства предпринимают попытки регламентировать этот сектор в большей степени через принятие различных национальных стратегий. Так, более чем в 30 странах приняты национальные стратегии развития искусственного интеллекта и робототехники. Непосредственно правовое регулирование является фрагментарным, направленным на регламентацию отдельных технологий в конкретных сферах.
В частности, в Рекомендациях по регулированию робототехники, разработанных в рамках реализации европейского проекта "Робоправо" (Robolaw), предлагается регулировать общественные отношения в зависимости от конкретных сфер применения отдельных технологий. К примеру, использование роботов в здравоохранении, беспилотных автомобилей на дорогах общего пользования, роботизированных протезов и роботов по уходу за людьми. Рекомендации нашли свое отражение и в Резолюции Европарламента "Нормы гражданского права о робототехнике" <3>.
--------------------------------
<3> Civil law rules on robotics // European Parliament. Legislative Observatory. URL: https://oeil.secure.europarl.europa.eu/oeil/popups/ficheprocedure.do?lang=en&reference=2015/2103(INL) (дата обращения: 01.06.2019).

В других юрисдикциях, например в Германии и штате Калифорния США, приняты законы, регулирующие использование автономных транспортных средств на дорогах общего пользования <4>.
--------------------------------
<4> Eight Act amending the road Traffic Act // BMVI. URL: https://www.bmvi.de/SharedDocs/EN/Documents/DG/eight-act-amending-the-road-traffic-act.pdf?blob=publicationFile (дата обращения: 01.06.2019); Autonomous vehicles // California Legislative Information. URL: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201520160AB2866 (дата обращения: 01.06.2019).

Отдельно  отметить национальную программу "Цифровая экономика Российской Федерации", в паспорте которой предусмотрено принятие федерального закона, регулирующего правоотношения в сфере киберфизических систем и в отдельных смежных сферах <5>. В рамках реализации указанной программы разработан проект федерального закона "Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации". Также в Государственную Думу ФС РФ внесен проект федерального закона "Об опытной эксплуатации инновационных транспортных средств и внесении изменений в отдельные законодательные акты Российской Федерации". Заявленной целью данного проекта является устранение законодательных барьеров и создание благоприятных правовых условий для опытной эксплуатации высокоавтоматизированных (инновационных) транспортных средств.
--------------------------------
<5> Паспорт национальной программы "Цифровая экономика Российской Федерации" // Правительство России. URL: http://government.ru/info/35568/ (дата обращения: 01.06.2019).

Можно сделать вывод о том, что представленные подходы к правовому регулированию в области автономных технических средств строятся на трех основных началах: 1) регулирование отдельных технологий (искусственный интеллект, киберфизические системы, большие данные, распределенные реестры и т.п.); 2) регулирование использования технологических продуктов (беспилотные транспортные средства, дроны и т.п.); 3) регулирование особенностей использования отдельных технологических решений в наиболее чувствительных сферах общественной жизни (медицина, образование, транспорт). Преимуществом такого подхода является возможность оперативного создания нормативной базы для проведения экспериментов и дальнейшего ввода конкретных видов автономных технических средств в эксплуатацию.
Вместе с тем исчерпывающая дифференциация отдельных технологий, в том числе с учетом их постоянного развития, представляется трудновыполнимой задачей. Программные или материальные продукты уже сейчас часто представляют собой интеграцию различных физических объектов и процессов, а также нескольких уровней программного обеспечения (иногда включая ИИ). Следовательно, использование различных правовых подходов в зависимости от сферы применения технологии и ее конкретного вида/типа не позволит разработать стабильное и полноценное правовое регулирование.
На наш взгляд, альтернативным подходом является регулирование таких общественных отношений через призму моделей взаимодействия человека с техническими средствами. Каждая модель потребует разработки соответствующих правовых режимов, предполагающих особые способы регламентации правоотношений и использование специального набора юридических средств.
Модель взаимосвязи по своему смыслу полностью охватывается современным правовым режимом предметов материального (недвижимые и движимые вещи) и нематериального (результаты интеллектуальной деятельности) мира. В рамках данного режима техническое средство может обладать определенной степенью автономности, способностью к обучению и самообучению, однако финальное решение остается за человеком и происходит под его полным контролем. На сегодняшний день практически все автономные технические средства подпадают под данный правовой режим. Ярким примером могут служить транспортные средства 1 - 3-го уровня автономности, определенные стандартом беспилотных транспортных средств SAE International <6>. К ним относятся как обычные автомобили с адаптивным круиз-контролем (1-й уровень), так и "почти автопилоты" (3-й уровень), все еще требующие активного участия человека в дорожном движении в случае возникновения сложной ситуации.
--------------------------------
<6> SAE International Releases Updated Visual Chart for Its "Levels of Driving Automation" Standard for Self-Driving Vehicles // SAE International. URL: https://www.sae.org/news/press-room/2018/12/sae-international-releases-updated-visual-chart-for-its-%E2%80%9Clevels-of-driving-automation%E2%80%9D-standard-for-self-driving-vehicles (дата обращения: 01.06.2019).

Для автономных технических средств, функционирующих в рамках этого правового режима, характерно отсутствие правосубъектности (они всегда объекты правоотношений), ответственность определяется в рамках современного правопорядка. Тем не менее при внесении дополнений и изменений в отраслевое законодательство необходимо учитывать ряд особенностей.
1. Допуск в общественное пространство. Экспериментальное использование автономных технических средств должно осуществляться на основании специального разрешения компетентного органа. В России законопроектом "Об опытной эксплуатации инновационных транспортных средств и внесении изменений в отдельные законодательные акты Российской Федерации" предлагается наделить соответствующими полномочиями в отношении автономных транспортных средств Правительство РФ <7>. До сих пор находится в состоянии разработки и проект федерального закона "Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации", которым предполагается возможность создания регуляторных "песочниц" на отдельных территориях в целях интеграции различных технологий. Однако выдача таких разрешений должна предусматривать равные и рациональные требования ко всем участникам общественных отношений.
--------------------------------
<7> Законопроект N 710083-7 "Об опытной эксплуатации инновационных транспортных средств и внесении изменений в отдельные законодательные акты Российской Федерации" // Система обеспечения законодательной деятельности. URL: https://sozd.duma.gov.ru/bill/710083-7 (дата обращения: 01.06.2019).

2. Компенсация возможных негативных последствий. Производство и использование автономных технических средств (особенно экспериментальное) должно допускаться только после страхования ответственности. Например, закон штата Калифорния США устанавливает соответствующий минимум в размере 5 млн долл. <8>. В отчете Европарламента содержится предложение о создании единого фонда для возмещения ущерба, а также призыв для страховой отрасли разрабатывать новые предложения и продукты, которые соответствовали бы достижениям в робототехнике <9>.
--------------------------------
<8> Amend Section 38 750 of the Vehicle Code (Bill No. 2866) // California legislative information. URL: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201520160AB2866 (дата обращения: 01.06.2019).
<9> European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // eur-lex. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52017IP0051 (дата обращения: 01.06.2019).

3. Особенности обработки персональных данных. Технические средства в ходе функционирования собирают большие объемы информации как о своем владельце (пользователе), так и об окружающем мире. Законодательно необходимо предусмотреть порядок обработки таких данных, удаления и доступа к ним со стороны компетентных органов. Соответствующие положения, например, предусмотрены в гл. 63a правил дорожного движения Германии <10>. Общую защиту персональных данных при их обработке автономными техническими средствами устанавливает и GDPR <11>. Другой проблемой является установление порядка доступа разработчиков программного обеспечения к большим объемам персональных и деперсонализированных данных.
--------------------------------
<10> Eight Act amending the Road Traffic Act // Federal Ministry of Transport and Digital Infrastructure. URL: https://www.bmvi.de/SharedDocs/EN/Documents/DG/eight-act-amending-the-road-traffic-act.pdf?blob=publicationFile (дата обращения: 01.06.2019).
<11> Regulation on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) // eur-lex. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=uriserv:OJ.L_.2016.119.01.0001.01.ENG&toc=OJ:L:2016:119:TOC (дата обращения: 01.06.2019).

4. Прозрачность взаимодействия. Каждый человек должен иметь возможность понимать, с кем он взаимодействует, в каких случаях объекты материального мира действуют автономно (а также степень этой автономности). Например, расширение Google Duplex, которое позволяет голосовому ассистенту Google Assistant самостоятельно бронировать места в ресторанах с помощью телефонного звонка, уже работает в 43 штатах США (недавно добавились новые услуги). Таким образом, беспилотное транспортное средство необходимо оснащать соответствующими опознавательными знаками, продукты, имитирующие человеческие признаки, должны раскрывать информацию об этом хотя бы в наиболее чувствительных сферах общественной жизни. Уже упомянутый закон штата Калифорния закрепил необходимость установки специального визуального индикатора внутри кабины, сигнализирующего о включении автономного режима.
Модель сосуществования предполагает разработку нового правового режима технических средств с высокой степенью автономности (физических, программных). В зависимости от уровня автономности такие технические средства можно потенциально разделить на несколько групп:
1. Технические средства, обладающие автономностью в принятии решений в рамках определенной сферы (размеченной территории или конкретного правомочия (правомочий)). Такие технические средства могут участвовать в правоотношениях, однако не являются субъектами права в общем смысле. Примерами могут служить высокоавтоматизированные транспортные средства 4 - 5-го уровня автономности или, например, автономный вендинговый автомат. Ответственность за такие технические средства возлагается на традиционных субъектов (владельца, пользователя, производителя, оператора и т.п.) в зависимости от конкретной ситуации.
2. Технические средства, обладающие автономностью и потенциально способные принимать широкий спектр юридически значимых решений. Такие технические средства, в зависимости от избранной конкретным государством модели, могут быть признаны особыми цифровыми субъектами, юридическими лицами, агентами или партнерами, которых человек добровольно наделяет возможностью осуществлять юридически значимые действия от его имени. Абстрактными примерами могут служить автономные предприятия, роботы-управленцы, роботы-спутники. Несмотря на широкий объем правомочий, ответственность также возлагается на традиционных субъектов.
3. Технические средства, обладающие полной свободой воли (с определенными изъятиями из правоспособности, например политических прав). Такие технические средства становятся субъектами и обладают особым правовым статусом, близким к правовому статусу личности, могут защищать свои права. Тем не менее они все равно связаны с человеком, несут с ним солидарную ответственность.
Полноценное регулирование отношений, которые возникнут при создании и внедрении подобного рода продуктов потребует изменения широкого спектра правовых актов. Вектор такого регулирования во многом будет определяться социальными, политическими и экономическими факторами. В то же время, по нашему мнению, необходимо рассмотреть отдельные важные особенности данного режима, которые мы можем наблюдать в современном обществе.
1. Проблема правосубъектности автономных технических средств. Данная проблема имеет большую традицию исследования как в научной, так и в художественной литературе, кинематографе, компьютерных играх. Несмотря на обилие точек зрения, хотелось бы остановиться на нескольких современных правовых исследованиях. Так, Р. ван ден Ховен Ван Гендерен выделяет три способа наделения автономных технических средств субъективными чертами. Первый способ, который он называет "Чеширским Котом", заключается в том, что наделение чего-либо статусом субъекта зависит не от сущности данного объекта, а от общественного согласия. Второй способ предполагает, что правосубъектность возникает только у людей (то есть у биологических субъектов), а юридические лица обладают правосубъектностью только потому, что все равно их функционирование осуществляется теми же людьми. Третий способ связан с тем, что ключевым условием для правосубъектности является наличие рациональности, понимания ответственности. В этом случае у ИИ есть шанс приобрести необходимые качества и стать субъектом благодаря техническому развитию <12>. Т. Петшиковский предлагает ввести категорию "неличностная субъектность", которая позволит наделить техническое средство правами и обязанностями, не уравнивая его статус с личностью <13>.
--------------------------------
<12> Do We Need New Legal Personhood in the Age of Robots and AI? / van den Hoven van Genderen R. // Robotics, AI and the Future of Law. ed. / Marcelo Corrales; Mark Fenwick; . Singapore: Springer Publishers, 2018. P. 54.
<13> Pietrzykowski T. The Idea of Non-personal Subjects of Law // Kurki V., Pietrzykowski T. (eds) // Legal Personhood: Animals, Artificial Intelligence and the Unborn. Law and Philosophy Library. 2017. Vol. 119. Springer, Cham.

2. Проблема "черного ящика". Суть данной проблемы заключается в том, что сложные алгоритмы, созданные по принципу работы человеческого мозга (нейронные сети), имеют возможность обучаться и самостоятельно принимать решения на основе введенных данных. Поэтому чем сложнее алгоритм, тем более проблематично (а иногда невозможно) с абсолютной точностью восстановить ход принятия им того или иного решения <14>. Таким образом, интеграция таких технических средств вызывает ряд правовых проблем, решение которых еще не выработано. Одной из попыток решения данных проблем является, например, законопроект "Об алгоритмической подотчетности", инициированный в Сенате США. Данным законопроектом предлагается ввести оценку воздействия автоматизированной системы принятия решений, процесса ее разработки, включая данные проектирования и обучения, на предмет воздействия на точность, справедливость, предвзятость, дискриминацию, конфиденциальность и безопасность.
--------------------------------
<14> Castelvecchi D. Can we open the black box of AI? // Nature 538. 2016. Pp. 20 - 23.

3. Принятие машинами сложных с точки зрения морали решений. Степень доверия людей к автономным техническим средствам также будет сильно зависеть от того, насколько принимаемые ими решения будут соответствовать представлениям о морали в том или ином обществе. Так, в рамках проекта Moral machine <15> исследователями Массачусетского технологического института был проведен онлайн-эксперимент, в котором приняли участие около 40 млн человек со всего мира. Участники должны были сделать моральный выбор за оказавшееся в аварийной ситуации беспилотное транспортное средство: сбить двух пожилых мужчин и одну пожилую женщину, переходящих дорогу на красный сигнал светофора, либо столкнуться с преградой, что приведет к смерти взрослых мужчины и женщины, а также мальчика, находящихся в машине. Результаты исследования показали, что из разных признаков (пол, возраст, пешеход/пассажир, социальный статус и т.д.), важных для принятия того или иного решения, абсолютный консенсус был достигнут по трем показателям: по числу жертв, жизнь человека ценнее жизни животных, молодые предпочтительнее пожилых. С юридической точки зрения интересно то, что для респондентов факт нарушения формального закона не вошел в перечень наиболее важных признаков для принятия морального выбора. Подобные сведения заставляют задуматься о том, насколько современное право адекватно отражает моральные предпочтения людей и какой подход (формальный или содержательный) необходимо применять при обучении (программировании) технических средств с повышенной степенью опасности <16>.
--------------------------------
<15> Moralmachine. URL: http://moralmachine.mit.edu/ (дата обращения: 01.06.2019).
<16> Awad E., Dsouza S., Kim R., Schultz J., Henrich J., Shariff A., Bonnefon J.F., Rahwan I. The Moral Machine experiment // Nature 562. 2018. Pp. 59 - 64.

4. Создание атмосферы доверия в сфере взаимодействия человека с автономными техническими средствами. Важнейшей задачей для такой атмосферы является свободный доступ к информации о технических средствах. Каждый человек должен иметь возможность ознакомления с существенными особенностями функционирования устройств, потенциально опасных для жизни и здоровья. Государство и частный сектор должны раскрывать эту информацию, а также предоставлять необходимые статистические данные. Отсюда вытекает также проблема объективности оценки предоставленных сведений.
Любопытной мерой для формирования более ясного представления о том, как работают технические средства, является возможность "поставить себя на место машины". Так, проект Moovellab <17> позволяет человеку почувствовать себя беспилотным автомобилем. К человеку подключаются различные устройства, которые имитируют компьютерное зрение. Подобные проекты наглядно демонстрируют людям сложность технических устройств и специфичность понимания ими материального мира, что может помочь в формировании к ним осмысленного отношения.
--------------------------------
<17> Moovellab. URL: https://selfdriving.moovellab.com/ (дата обращения: 01.06.2019).

5. Автономные технические средства с признаками человека. Наиболее сложной для решения является проблема взаимодействия человека с материальными и программными объектами, которым переданы характеристики человека или животного. Создание все более похожих на живые существа технических устройств, которые с раннего возраста будут окружать людей, неминуемо приведет к выстраиванию с ними прочной эмоциональной связи. Сохранение при этом за людьми полной совокупности имущественных прав на такие вещи, допуская жестокое обращение с ними или их свободное уничтожение, может повлечь разрушающее воздействие на общество и обесценивание прав человека. Таким образом, для таких технических средств потребуются дополнительные меры по правовой охране, соразмерные передаваемым признакам и правовому статусу оригинального объекта.
Модель слияния предполагает разработку правового режима технических средств, внедряемых в организм человека (физических, программных). Особенностью данного режима является тотальная подконтрольность таких технических средств воли человека.
Данная форма взаимодействия человека с техническими средствами порождает большое количество сложнейших правовых и этических вызовов, решение которых невозможно без использования междисциплинарного подхода. На данном этапе исследования остановимся на нескольких важных особенностях правового режима.
1. Добровольность использования соответствующих технических средств. Данный вопрос затрагивает глубинную сущность прав человека, поскольку ставит их в противоречие техническому прогрессу и общественной пользе. Вместе с тем человек должен обладать правом отказа от использования любых технических средств без риска быть подвергнутым дискриминации. Данные проблемы затронуты в исследовании "Использование чиповых имплантатов для работников", проведенном по инициативе Европарламента <18>.
--------------------------------
<18> The Use of Chip Implants for Workers // The European Commission's science and knowledge service. URL: http://www.europarl.europa.eu/RegData/etudes/STUD/2018/614209/IPOL_STU(2018)614209_EN.pdf (дата обращения: 01.06.2019).

2. Информированность лица об особенностях функционирования данных технических средств. Данная проблема связана не только с большим количеством особенностей работы данных технических средств (конструктивные, программные), но и с психическим и физиологическим состоянием конкретного человека. Индивидуальные особенности каждого организма порождают также большие проблемы в определении моральной и юридической ответственности. В этой связи высказывается мнение о необходимости "сформулировать принцип информированности: нельзя возлагать моральную ответственность за некоторое событие в ходе работ по техномодификации, если носитель модификации не был уведомлен о соответствующих рисках до операции" <19>.
--------------------------------
<19> Вараксин М. "Это не я, ваша честь, это мой мозговой имплантат" // Pravo.ru. URL: https://pravo.ru/story/201983/ (дата обращения: 01.06.2019).

3. Сохранение контроля за работой данных технических средств. Внедрение в организм человека технических средств (в том числе с ИИ), а также взаимодействие с помощью нейроинтерфейса, безусловно окажет влияние на его органы, нервную систему, мозг, что может существенно повлиять на принятие им решений. Например, использование мозговых имплантов у отдельных людей приводит к изменению привычек, предпочтений, а в отдельных случаях и к неверному отражению объективной реальности <20>. Отдельной проблемой также является безопасность таких технических средств и защита от вмешательства в их работу третьих лиц.
--------------------------------
<20> Cabrera L., Carter-Johnson J. It's not my fault, my brain implant made me do // The Conversation. URL: https://theconversation.com/amp/its-not-my-fault-my-brain-implant-made-me-do-it-91040?twitterimpression=true (дата обращения: 01.06.2019).

Таким образом, массовое использование автономных технических средств ставит перед человеком необходимость переосмысления способов взаимодействия со своими творениями. Данные инновационные технические средства уже сейчас меняют общественное сознание, трансформируют существующие и создают новые общественные отношения. Игнорирование данного факта в среднесрочной перспективе породит социальную дестабилизацию и технологическое отставание. Ответом на такие вызовы станет существенное развитие правового регулирования. На наш взгляд, регулирование таких общественных отношений необходимо осуществлять через призму моделей взаимодействия человека с техническими средствами. Каждая модель потребует разработки соответствующих правовых режимов, предполагающих особые способы регламентации правоотношений и использование специального набора юридических средств. Создание таких правовых режимов с учетом отраслевого регулирования упростит понимание прав и обязанностей всех сторон правоотношений и, как следствие, станет драйвером развития технологического сектора.

Библиография

1. Вараксин М. "Это не я, ваша честь, это мой мозговой имплантат" // Pravo.ru. URL: https://pravo.ru/story/201983/ (дата обращения: 01.06.2019).
2. Autonomous vehicles // California Legislative Information. URL: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201520160AB2866 (дата обращения: 01.06.2019).
3. Brynjolfsson E., McAfee A. Machine, Platform, Crowd: Harnessing Our Digital Future. New York: W.W. Norton, 2017.
4. Civil law rules on robotics // European Parliament. Legislative Observatory. URL: https://oeil.secure.europarl.europa.eu/oeil/popups/ficheprocedure.do?lang=en&reference=2015/2103(INL) (дата обращения: 01.06.2019).
5. Castelvecchi D. Can we open the black box of AI? // Nature. 538. 2016. Pp. 20 - 23.
6. Do We Need New Legal Personhood in the Age of Robots and AI? / van den Hoven van Genderen, R. // Robotics, AI and the Future of Law / ed. Marcelo Corrales; Mark Fenwick; . Singapore: Springer Publishers, 2018. Pp. 15 - 50.
7. Awad E., Dsouza S., Kim R., Schultz J., Henrich J., Shariff A., Bonnefon J.F., Rahwan I. The Moral Machine experiment // Nature. 2018. 562. Pp. 59 - 64.
8. Cabrera L., Carter-Johnson J. "It's not my fault, my brain implant made me do" // The Conversation. URL: https://theconversation.com/amp/its-not-my-fault-my-brain-implant-made-me-do-it-91040?twitter_impression=true (дата обращения: 01.06.2019).
9. Pietrzykowski T. The Idea of Non-personal Subjects of Law // Kurki V., Pietrzykowski T. (eds) // Legal Personhood: Animals, Artificial Intelligence and the Unborn. Law and Philosophy Library. 2017. Vol 119. Springer, Cham.
10. SAE International Releases Updated Visual Chart for Its "Levels of Driving Automation" Standard for Self-Driving Vehicles // SAE International. URL: https://www.sae.org/news/press-room/2018/12/sae-international-releases-updated-visual-chart-for-its-%E2%80%9Clevels-of-drivingautomation%E2%80%9D-standard-for-self-driving-vehicles (дата обращения: 01.06.2019).
11. The Use of Chip Implants for Workers // The European Commission's science and knowledge service. URL: http://www.europarl.europa.eu/RegData/etudes/STUD/2018/614209/IPOL_STU(2018)614209_EN.pdf (дата обращения: 01.06.2019). Материал поступил в редакцию 2 июня 2019 г.

Если вы не нашли на данной странице нужной вам информации, попробуйте воспользоваться поиском по сайту:



Вернуться на предыдущую страницу

Последние новости
  • Москва, Московская область
    +7 (499) 703-47-96
  • Санкт-Петербург, Ленинградская область
    +7 (812) 309-56-72
  • Федеральный номер
    8 (800) 555-67-55 доб. 141

Звонки бесплатны.
Работаем без выходных


7 июля 2020 г.
Проект Федерального закона № 983620-7 "О внесении изменений в Федеральный закон "Об участии в долевом строительстве многоквартирных домов и иных объектов недвижимости и о внесении изменений в некоторые законодательные акты РФ"

Цель законопроекта - обеспечение баланса интересов как участника долевого строительства, так и застройщика. Также он призван обеспечить нормативные рамки взаимодействия сторон при возникновении спорных вопросов.




28 июня 2020 г.
Проект Федерального закона № 979423-7 "О внесении изменений в часть вторую Налогового кодекса РФ"

Законопроектом предлагается ввести гуманитарный сбор в размере 5 процентов от средств полученных рекламораспространителями за предоставление своих услуг. Цель данного сбора - оказание помощи гражданам России, оказавшимся в трудной жизненной ситуации и нуждающимся в лечении.




15 июня 2020 г.
Проект федерального закона № 972589-7 "О внесении изменений в отдельные законодательные акты Российской Федерации в части конвертируемого займа"

Цель законопроекта - создание эффективного и прозрачного механизма для осуществления венчурных инвестиций, что, в свою очередь, послужит стимулированием инвестиций в высокотехнологичные  проекты в Российской Федерации




2 июня 2020 г.
Проект федерального закона № 966659-7 "О внесении изменений в статью 57 Трудового кодекса Российской Федерации"

Принятие законопроекта позволит как законодательно закрепить специальную возможность работника временно или частично выполнять свои функции в дистанционной форме, так и установить условия, являющиеся обязательными, которые должны быть определены сторонами при принятии соответствующего решения.




23 мая 2020 г.
Проект федерального закона № 961114-7 "Об особенностях исполнения судебных актов, актов других органов и должностных лиц, а также возврата просроченной задолженности в период пандемии новой коронавирусной инфекции"

Цель законопроекта - реализация дополнительных мер помощи пострадавшим от последствий пандемии COVID-19. Реализация мер предлагаемых законопроектом позволит обеспечить защиту наиболее уязвимых категорий граждан, а также организаций и минимизировать негативные последствия распространения COVID-19.



В центре внимания:


Новое законодательство об ответственном обращении с животными: достоинства и недостатки (Хорьков В.Н., Курилех Ю.С.)

Дата размещения статьи: 06.07.2020

подробнее>>

Правовые проблемы создания и использования биопринтных человеческих органов (Ксенофонтова Д.С.)

Дата размещения статьи: 06.07.2020

подробнее>>

Проблемы гармонизации европейского и российского законодательства о диффамации (Кириленко В.П., Алексеев Г.В.)

Дата размещения статьи: 06.07.2020

подробнее>>

Сбалансированный современный особый международно-правовой статус Каспийского моря (Батырь В.А.)

Дата размещения статьи: 06.07.2020

подробнее>>

Защита прав многодетных семей на получение мер государственной поддержки (Каминская Ю.Н.)

Дата размещения статьи: 06.07.2020

подробнее>>
Предпринимательство и право, информационно-аналитический портал © 2011 - 2020
При любом использовании материалов сайта - активная ссылка на сайт lexandbusiness.ru обязательна.

Навигация

Статьи