ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И РОБОТОТЕХНИКА: ТЕОРЕТИКО-ПРАВОВЫЕ ПРОБЛЕМЫ РАЗГРАНИЧЕНИЯ ПОНЯТИЙНОГО АППАРАТА Текст научной статьи по специальности «Право»
ТЕОРИЯ И ИСТОРИЯ ГОСУДАРСТВА И ПРАВА / ИНТЕЛЛЕКТ / ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ / РОБОТ / РОБОТОТЕХНИКА / ЦИФРОВЫЕ ТЕХНОЛОГИИ / ПРАВОСУБЪЕКТНОСТЬ / СУБЪЕКТ ПРАВА / ТЕОРИЯ ФИКЦИИ / THEORY AND HISTORY OF LAW AND STATE / INTELLIGENCE / ARTIFICIAL INTELLIGENCE / ROBOT / ROBOTICS / DIGITAL TECHNOLOGIES / LEGAL PERSONALITY / SUBJECT OF LAW / THEORY OF FICTION
Аннотация научной статьи по праву, автор научной работы — Бегишев Ильдар Рустамович, Хисамова Зарина Илдузовна
Проводится разграничение таких понятий, как « робототехника » и «искусственный интеллект ». По мнению авторов, указанные категории являются не только разнообъемными, но и семантически не совпадающими. Анализ понятийного аппарата указанных терминов позволяет заключить, что, в отличие от первого, второму свойственно наличие «интеллектуальности», саморазвития и пр. Отмечается, что, дискутируя относительно правового статуса роботов и искусственного интеллекта , большинство ученых допускают смешение понятий, предпринимаются попытки обосновать необходимость наделения правовым статусом именно роботов , а не искусственный интеллект . Вопрос, касающийся рассмотрения роботов и искусственного интеллекта в качестве субъектов права , в принципе, можно признать обоснованным. В перспективе данная тема актуальности не утратит. Среди имеющихся на данный момент подходов к рассмотрению роботов и искусственного интеллекта как субъектов права наиболее обоснован путь, построенный по аналогии с юридическим лицом с точки зрения теории фикции. Подходы, предлагающие обосновать правосубъектность роботов и искусственного интеллекта с учетом сущности одушевленных субъектов, у которых есть реальная, а не только формально-юридическая воля, получат развитие только после того, как цифровые технологии достигнут объективно высокого уровня. Реализуя рассматриваемые подходы, необходимо учесть наличие юридико-экономической обоснованности и социальной обусловленности, а также возможную теоретико-правовую проблему, суть которой в следующем: если ввести новые юридические сущности, имеющие правосубъектность , то может снизиться уровень ответственности профессиональных участников рынка.
i Надоели баннеры? Вы всегда можете отключить рекламу.
Похожие темы научных работ по праву , автор научной работы — Бегишев Ильдар Рустамович, Хисамова Зарина Илдузовна
Сущность искусственного интеллекта и проблема определения правосубъектности
УГОЛОВНАЯ ОТВЕТСТВЕННОСТЬ И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ТЕОРЕТИЧЕСКИЕ И ПРИКЛАДНЫЕ АСПЕКТЫ
Искусственный интеллект как правовая категория: доктринальный подход к разработке дефиниции
Правовое регулирование искусственного интеллекта
Криминологические риски применения искусственного интеллекта
i Не можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.
ARTIFICIAL INTELLIGENCE AND ROBOTICS: THEORETICAL AND LEGAL PROBLEMS OF DIFFERENTIATION OF THE CONCEPTUAL APPARATUS
A distinction is made between such concepts as “ robotics ” and “artificial intelligence ”. These categories are not only multi-volume, but also semantically non-falling. After analyzing the conceptual apparatus of these terms, we can conclude that, in contrast to the first, the second is characterized by the presence of “ intelligence ”, self-development, etc. However, when discussing the legal status of robots and artificial intelligence , most scientists allow confusion of concepts, making attempts to justify the need to confer a legal status on robots, and not artificial intelligence . The question of considering robots and artificial intelligence as subjects of law, in principle, can be considered justified. However, it is premature to consider this issue, but the topic will not lose its relevance in the future. Among the currently available approaches to the consideration of robots and artificial intelligence as subjects of law, the path constructed by analogy with a legal entity from the point of view of the theory of fiction is the most justified. Approaches that offer to justify the legal personality of robots and artificial intelligence , taking into account the essence of animate subjects who have a real, and not just a formal legal will, will be developed only after the development of digital technologies reaches an objectively high level. When implementing these approaches, it is necessary to take into account the existence of legal and economic validity and social conditionality, as well as a possible theoretical and legal problem, the essence of which is as follows: if new legal entities with legal personality are introduced, the level of responsibility of professional market participants may decrease.
Текст научной работы на тему «ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И РОБОТОТЕХНИКА: ТЕОРЕТИКО-ПРАВОВЫЕ ПРОБЛЕМЫ РАЗГРАНИЧЕНИЯ ПОНЯТИЙНОГО АППАРАТА»
ВЕСТНИК УДМУРТСКОГО УНИВЕРСИТЕТА
И.Р. Бегишев, З.И. Хисамова
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И РОБОТОТЕХНИКА:
ТЕОРЕТИКО-ПРАВОВЫЕ ПРОБЛЕМЫ РАЗГРАНИЧЕНИЯ ПОНЯТИЙНОГО АППАРАТА
Проводится разграничение таких понятий, как «робототехника» и «искусственный интеллект». По мнению авторов, указанные категории являются не только разнообъемными, но и семантически не совпадающими. Анализ понятийного аппарата указанных терминов позволяет заключить, что, в отличие от первого, второму свойственно наличие «интеллектуальности», саморазвития и пр. Отмечается, что, дискутируя относительно правового статуса роботов и искусственного интеллекта, большинство ученых допускают смешение понятий, предпринимаются попытки обосновать необходимость наделения правовым статусом именно роботов, а не искусственный интеллект. Вопрос, касающийся рассмотрения роботов и искусственного интеллекта в качестве субъектов права, в принципе, можно признать обоснованным. В перспективе данная тема актуальности не утратит. Среди имеющихся на данный момент подходов к рассмотрению роботов и искусственного интеллекта как субъектов права наиболее обоснован путь, построенный по аналогии с юридическим лицом с точки зрения теории фикции. Подходы, предлагающие обосновать правосубъектность роботов и искусственного интеллекта с учетом сущности одушевленных субъектов, у которых есть реальная, а не только формально-юридическая воля, получат развитие только после того, как цифровые технологии достигнут объективно высокого уровня. Реализуя рассматриваемые подходы, необходимо учесть наличие юридико-экономической обоснованности и социальной обусловленности, а также возможную теоретико-правовую проблему, суть которой в следующем: если ввести новые юридические сущности, имеющие правосубъектность, то может снизиться уровень ответственности профессиональных участников рынка.
Ключевые слова: теория и история государства и права, интеллект, искусственный интеллект, робот, робототехника, цифровые технологии, правосубъектность, субъект права, теория фикции.
Искусственный интеллект (далее — ИИ) и робототехника как автономные области науки получают интенсивное параллельное развитие как в теоретическом, так и в практическом плане. Сегодня инновационные робототехнические и интеллектуальные системы имеют широкое распространение за пределами исследовательских центров. К разработкам в области робототехники и ИИ проявляют интерес государственные корпорации, представители бизнеса, по внедрению таких разработок организуются различные стартапы и пр.
Робототехника и ИИ сегодня становятся частью жизни человека, поэтому правовая оценка их природы и регламентация порядка их использования стали важнейшими задачами современного отечественного правоведения. Однако прежде, чем разграничить правовые подходы к данным категориям, необходимо отметить, что сегодня имеет место одно фундаментальное заблуждение, основанное на том, что ИИ и робототехника считаются понятиями или близкими по значению, или полностью идентичными. Однако это не так. Попробуем доказать это, разграничив понятийный аппарат данных категорий, основываясь на технологическом и правовом подходе.
Необходимо отметить, что на сегодняшний день нет единообразного толкования рассматриваемых дефиниций. Отсутствует легальное определение термина «искусственный интеллект», при этом вариантов определения данного понятия в науке более дюжины. Это же относится и к категориям «робот», «робототехника», «разумный робот» и пр.
Обратимся к определению понятия «робототехника». На настоящий момент универсальное определение основной составляющей указанной категории «робот» отсутствует. В современных исследованиях отмечается, что в широком смысле робот должен воздействовать на окружающую среду, получать от нее обратную связь и представлять собой собственно машину. При этом внешний вид робота должен быть стандартным для восприятия человеком [1]. Однако, если следовать логике, то необходимо отметить, что в качестве ключевого свойства «робота» должно все же выступать кибернетическое начало, соответственно, он должен являться неким устройством или механизмом. Сегодня это один из основных критериев, позволяющих с большой долей условности разграничить роботов и, например, программное обеспечение в чистом виде. Интересно, что после К. Чапека, впервые введшего в обиход указанный термин [2], единого определения понятия «робот» так и не было сформулировано.
Чтобы проанализировать семантику термина «робот», обратимся к толковым словарям. Существующие толковые словари определяют термин «робот» следующим образом.
— автомат, осуществляющий действия, подобные действиям человека [3];
— машина, напоминающая человека и способная автоматически копировать определенные движения и функции человека; машина, способная выполнять сложную серию действий автоматически, в частности, программируемую компьютером; человек, который ведет себя механически или бесстрастно1;
— механизм, управляемый компьютером, который может перемещаться и выполнять другие действия, которые могут выполнять люди2;
— машина, которая похожа на человека и выполняет различные сложные действия человека (как ходьба или общение); также: аналогичная, но вымышленная машина, чья нехватка возможностей часто подчеркивается; устройство, которое автоматически выполняет сложные часто повторяющиеся задачи; автоматически управляемый механизм3.
Можно сказать, что все составители словарей при разнообразии тех или иных характеристик сходятся в том, что робот — это некое устройство, машина и пр.
В литературе широко представлены подходы, посвященные анализу содержания исследуемого понятия. Так, П. Хаббард выделяет ряд характеристик, свойственных непосредственно роботам. В частности, роботы должны отличаться размером, мобильностью, возможностью передачи информации, автономной реакцией на внешние действия, возможностью получать, оценивать, использовать и передавать информацию [4]. По его мнению, из вышеназванных характеристик интерес представляет только автономность, благодаря которой «робот способен интерпретировать среду, в которой находится, и адаптироваться под поставленные задачи» [5].
С позиции особенностей роботов выстроили собственную классификацию авторы европейского проекта Robolaw [6]. Так, по их мнению, роботы могут классифицироваться по:
— сфере применения или выполняемым задачам;
— окружающему пространству (воздух, земля, вода и человеческое тело и пр.);
— форме воплощения (воплощенные или бестелесные);
— взаимодействию с человеком;
— автономности и пр.
Согласно точке зрения авторов исследования, проведенного под эгидой ЮНЕСКО4, современный робот может быть охарактеризован посредством четырех ключевых особенностей: мобильности, интерактивности, обмена информацией и автономии.
К сожалению, российская правовая доктрина не дает легального определения термина «робот», но попытки определить данную категорию имеют место. В частности, П.М. Морхат считает, что робот выступает автоматическим, полностью или частично автономным системным устройством, призванным выполнять различного рода работы [7]. В.Б. Наумов и В.В. Архипов определяют понятие «робот» как устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека5.
Если обратиться к исследованию Сбербанка России «Аналитический обзор мирового рынка робототехники» от 12 апреля 2018 г., то можно увидеть, что здесь робот представляет собой «любое устройство или механизм, выполняющий предназначенные ему действия, которое одновременно отвечает трем условиям: воспринимает окружающий мир с помощью сенсоров, понимает окружающий мир и строит модели поведения, воздействует на физический мир тем или иным способом6.
1 Robot // Oxford On-Line Dictionary. URL: https://en.oxforddictionaries.com (дата обращения: 20.01.2020).
2 Robot // Cambridge Online Dictionary. URL: https://dictionary.cambridge.org/ru (дата обращения: 20.01.2020).
3 Robot // Merriam Webster Online Dictionary. URL: https://www.merriam-webster.com (дата обращения: 20.01.2020).
4 Report of COMEST on robotics ethics // UNESCO. URL: http://unesdoc.unesco.org/images/0025/002539/ 253952E.pdf (дата обращения: 20.01.2020).
5 Законопроект «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» // Исследовательский центр проблем регулирования робототехники и искусственного интеллекта «РОБОПРАВО». URL: http://robopravo.ru/uploads/ s/z/6/g/z6gj 0wkwhv 1o/file/My74kFFZ.pdf (дата обращения: 20.01.2020).
6 Аналитический обзор мирового рынка робототехники // Сбербанк. Лаборатория робототехники Сбербанка. URL: https://www.sberbank.ru/common/img/uploaded/analytics/2018/analiticeskij-obzor-mirovogo-rynka-robototehniki.pdf (дата обращения: 20.01.2020).
708_И.Р. Бегишев, З.И. Хисамова_
2020. Т. 30, вып. 5 ЭКОНОМИКА И ПРАВО
Так как на сегодняшний день действующее законодательство не дает полноценного определения рассматриваемой категории, необходимо обратиться к ГОСТ Р ИСО 8373-2014, который может рассматриваться сегодня как ключевой документ в отношении исследуемой терминологии. Данный нормативно-технический документ истолковывает термин «робот» как «приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности (курсив наш.-И.Б.,З.Х.), движущийся внутри своей рабочей среды и выполняющий задачи по предназначению»7. Попытка универсализации данного определения налицо, однако некоторые уточнения все же в будущем будут необходимы.
Таким образом, можно утверждать, что в зависимости сферы использования определения термина «робот» различаются, однако среди ключевых характеристик робота можно выделить несколько общих, которые касаются механизма, физического начала, искусственности, наличия автономности действий, программируемости, возможности воспринимать окружающую среду и взаимодействовать с ней, наличия привода.
К необязательным характеристикам робота можно отнести способность самообучаться, телеуправление.
Теперь обратимся к определению термина «искусственный интеллект». Как и с предыдущим термином, ситуация, касающаяся определения, неоднозначна. Попытка наиболее широкого определения термина представлена в труде С. Рассела и П. Норвига «Искусственный интеллект. Современный подход» [8], где обозначен ряд фундаментальных направлений в области определения термина «искусственный интеллект»:
— система, способная мыслить;
— система, действующая подобно человеку;
— система, умеющая рационально думать;
— система, способная к рациональным действиям.
Для самих авторов наиболее важны два последних параметра, включающие идею рациональности, направленную на выбор лучшего варианта поведения или решения в существующих условиях. Они считают, что именно посредством рациональности определяется интеллектуальность.
По мнению М. Хамерика, ИИ является системой, способной научиться учиться. Используя алгоритмы, написанные людьми, ИИ постепенно обучается писать собственные алгоритмы, при этом необходимости в дополнительном контроле или взаимодействии с человеком нет. Данный фактор характеризует способность ИИ постоянно учиться и решать новые проблемы внутри динамичной среды [9].
Законопроект США о ИИ также содержит определение «искусственного интеллекта». Согласно данному документу, ИИ — это любые искусственные системы, которые выполняют задачи в различных и непредсказуемых обстоятельствах, без значительного контроля со стороны людей или могут извлечь уроки из своего опыта и улучшить свою работу. Указанные системы действуют рационально и достигают свои цели через восприятие, планирование, рассуждение, обучение, общение, принятие решений и действий8.
В работе И.В. Понкина и А.И. Редькиной можно прочесть следующее определение ИИ: «Искусственный интеллект — это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе — виртуальная, электронно-механическая, биоэлектронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями. Данной системе присущи свойства субстантивности, автономности, высокоуровневые возможности к восприятию и моделированию окружающих образов и символов, отношений, процессов, самостоятельное принятие и реализация собственных решений, в том числе направленных на обучение, взаимодействие с окружающим миром и пр. [10].
П.М. Морхат считает, что ИИ выступает полностью или частично автономной самоорганизующей (самоорганизующейся) компьютерно-аппаратно-программной виртуальной (virtual) или кибер-
7 См.: ГОСТ Р ИСО 8373-2014. «Роботы и робототехнические устройства. Термины и определения». М.: Стандартинформ, 2014. Утвержден и введен в действие приказом Федерального агентства по техническому регулированию и метрологии от 26 ноября 2014 г. № 1863-ст «Об утверждении национального стандарта». Текст приказа официально опубликован не был.
8 S.2217 — FUTURE of Artificial Intelligence Act of 2017 // Library of Congress. URL: https://www.congiess.gov/bill/ 115th-congress/senate-bill/2217 (дата обращения: 20.01.2020).
физической (cyber-physical), в том числе био-кибернетической (bio-cybernetic) системой (юнит), способной к ряду действий, характеризующихся как антропоморфно-разумные мыслительные и когнитивные (самореферентность, самоподдержание себя в гомеостазе, генетический поиск, самостоятельная разработка и самостоятельное применение алгоритмов и пр. [7. С. 58].
Таким образом, можно сделать вывод, что в ИИ ключевая роль отводится цифровым технологиям, физическое их проявление отходит на второй план.
ИИ свойствен ряд ключевых характеристик:
— на первом месте находится описание программы или алгоритма, аппаратное воплощение может отсутствовать;
— наличие способности проводить анализ окружающей среды;
— присутствие автономности в реализации алгоритма;
— присутствие так называемой интеллектуальности (способности «мыслить» или «действовать» как человек).
Необходимо отметить, что динамика определения ИИ достаточно высока, соответственно, достаточно сложно точно его квалифицировать.
Итак, проведенное разграничение понятий «робот» и «искусственный интеллект» позволяет говорить о том, что указанные категории являются не только разнообъемными, но и семантически не совпадающими.
Также для уточнения понятийного аппарата рассматриваемых терминов необходимо проанализировать категории «робот» и «искусственный интеллект в качестве субъектов права. В подп. «f» п. 59 резолюции Европейского парламента указано следующее: оценивая последствия предложения о законодательном урегулировании Комиссии Европейского Союза важно провести исследование вопроса о придании особого правового статуса роботам9. В данном документе указано, что «таким образом, по меньшей мере наиболее продвинутые автономные роботы могут создаваться как электронные лица и нести ответственность за причиненный ими ущерб в тех случаях, когда они принимают решения автономно или иным образом самостоятельно взаимодействуют с третьими лицами».
Среди примеров, касающихся признания роботов в качестве субъектов права, можно указать исследование эстонских специалистов, специализирующихся на роботизированных транспортных средствах [11]. По словам авторов исследования, было бы возможно наделить робота статусом юридического лица, способного представлять владельца в той степени, в которой это определено.
Среди примеров реализации факта наделения робота правовым статусом можно назвать предоставление в 2017 г. роботу Sophia гражданства в Саудовской Аравии [12] и резидентства умному боту Shibuya Mirai в Японии [13]. Однако указанные случаи — это, скорее, исключение, нежели правило или тенденция в рассматриваемой области.
Также в литературе имеется позиция, согласно которой правосубъектностью могу наделяться не все роботы, а роботы-агенты [14].
В период достижения определенных успехов в области робототехники и систем с ИИ возникла необходимость определения правового режима или статуса для указанных выше категорий [15]. Так, еще в 1983 г. М. Уилликом был отмечено, что «. становится все сложнее отличить обработку информации компьютером от обработки информации человеком, если оценивать по конечному результату» и «увеличивающееся сходство между людьми и машинами может рано или поздно потребовать рассмотрения компьютеров как «лиц»» [16]. Достаточно давно обсуждается вопрос придания конструкции юридического лица роботу или ИИ. В более поздней публикации Э. Байамлиоглы «Intelligent Agents and Their Legal Status» указывает на три основных проблемы, которые предшествуют дискуссии о правосубъектности роботов и ИИ.
Выделяя понятие «умные агенты», автор подчеркивает, что им свойственны следующие особенности:
— они могут исполнять переговорные функции при заключении договоров;
— они могут нести ответственность за свои действия в рамках выполняемых ими функций;
— они могут выступать в качестве «правообладателей» относительно созданных ими баз данных и контента [17].
9 Civil Law Rules on Robotics. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // European Parliament. URL: http://www.europarl.europa.eu/ doceo/document/TA-8-2017-0051_EN.pdf?redirect (дата обращения: 20.01.2020).
710 И.Р. Бегишев, З.И. Хисамова
2020. Т. 30, вып. 5 ЭКОНОМИКА И ПРАВО
Однако обращаясь к вышесказанному, можно заключить, что оно свойственно в большей степени ИИ, который, в отличие от роботов, обладает «интеллектуальностью». Соответственно, можно сделать вывод, что статус юридического лица здесь более применим к категории «искусственный интеллект».
Если рассматривать наиболее современные исследования, необходимо проанализировать труды П. Асаро [18], являющегося ключевым исследователем в рамках рассматриваемой проблематики и выстраивающего методологию анализа проблемы правосубъектности роботов, считая отправной точкой проблему юридической ответственности. Он предлагает провести параллель между роботами и животными, однако не наделять первых специальными правами и т.п. При этом следует отметить, что в своем труде автор, как и некоторые предыдущие исследователи, также смешивает понятия «робот» и «искусственный интеллект», выдавая свойства последнего за свойства первого.
Сегодня в Европе ряд экспертных подходов оформлен в виде резолюции Европейского парламента от 16 февраля 2017 г. с рекомендациями Комиссии о гражданско-правовых нормах в отношении робототехники (2015/2103(ГКЬ))10. В данной резолюции также рассматривается вопрос наделения правами юридического лица именно роботов, на не ИИ. Здесь отмечается, что «благодаря впечатляющим технологическим прорывам последней декады, современные роботы не только могут осуществлять деятельность, которую ранее осуществлял только человек, но развивают определенные автономные и когнитивные функции, например, возможность обучаться за счет опыта и принимать квазисамостоятельные решения, что делает их все больше и больше похожими на агентов, которые взаимодействуют со своей окружающей средой и могут ее существенно изменить.. ,»п.
Однако некоторые европейские ученые ведут речь о правосубъектности именно ИИ. В частности, обобщая и анализируя подходы к проблеме «электронного лица», М.А. Фелипе [15] отмечает, что самостоятельной ответственностью могут быть наделены только самоосознающие машины. «Реактивные машины» и «машины с ограниченной памятью и машины с имплементацией систем мышления» не могут быть наделены такой ответственностью, вместо них ее несут пользователи, разработчики или страховщики. Это позволяет говорить о том, что именно вопросы ответственности могут выступить в качестве отправной точкой для многих выводов в рамках общей дискуссии, касающейся правосубъектности роботов.
В российской правовой науке существует точка зрения, которая учитывает отдельные доктри-нальные и законодательные положения, имеющие место в нашей стране. В рамках указанной позиции возможно:
— соотнесение механизма формирования гражданско-правовой воли и динамики алгоритма, который определяет действия робота;
— частичное допущение возможности применить концепцию признаков юридической ответственности к роботам;
— адаптация признаков юридического лица к роботам;
— избирательное применение концепции вины к действиям, которые предполагают создать и запрограммировать роботов [19].
Указанная позиция отражена в работе Г.А. Гаджиева. Однако в данном контексте также необходимо отметить, что он не ставит во главу угла «интеллектуальные» возможности объекта исследования, поэтому не совсем ясно, каким образом робот будет реализовать свои обязанности даже частично [20].
Обобщая указанные подходы, можно обозначить следующее. В ряде исследований данная проблема рассматривается с различных позиций. Так, некоторые ученые считают, что для ее положительного решения нет достаточных научно-правовых предпосылок. По мнению других, данную проблему нужно исследовать как можно раньше, и они предлагают рассматривать робота в качестве квазисубъекта права, проводя аналогию с юридическим лицом.
Существующие подходы к наделению робота правами юридического лица имеют как преимущества, так и недостатки. Так, у подхода, при котором роботы и ИИ продолжают рассматриваться как объекты права, есть преимущества:
— нет необходимости разрабатывать и создавать принципиально новые нормы;
— модифицировать правовые нормы можно через толкование существующих норм.
10 Civil Law Rules on Robotics. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // European Parliament. URL: http://www.europarl.europa.eu/ doceo/document/TA-8-2017-0051_EN.pdf?redirect (дата обращения: 20.01.2020).
Однако среди недостатков следует указать на то, что не будут разрешены проблемы распределения ответственности, сложно будет достигнуть единообразия и формализации, также у указанных норм изначально отсутствует возможность регулировать и разрешать сложные ситуации и конфликты, связанные с использованием роботов и ИИ.
В первую очередь открытым остается вопрос, кто должен нести ответственность за действия ИИ, обладающего способностью к самообучению, который принял решение о совершении действий/бездействия, квалифицируемых как преступление. Вследствие этого возникает потребность в формировании системы уголовно-правовых мер противодействия преступлениям, совершаемым с применением ИИ [21].
Отметим, что изучение юридических аспектов, связанных с общественно опасными последствиями применения ИИ, представляет собой самостоятельный пласт серьезных и достаточно глубоких уголовно-правовых исследований, результатом которых должно стать формирование концептуально новой правовой модели регулирования отношений в указанной сфере [22].
Другие концепции («робот как животное», «робот как человек», «робот как юридическое лицо», «робот как электронное лицо») также имеют ряд недостатков, среди которых, в частности, усложнение правового регулирования, проблемы с переосмыслением базовых ценностей общества, попытка уйти от ответственности посредством «замены объекта» и пр. К тому же ИИ создает новые вызовы различным сферам права: от патентного до уголовного права, от охраны частной жизни до антимонопольного права. Среди существующих на сегодняшний день подходов наиболее оптимальным видится создание отдельного механизма правового регулирования, создающего четкое разграничение зон ответственности между разработчиками и пользователями систем с ИИ и непосредственно самой цифровой технологией [23-25].
Таким образом, можно сделать следующие выводы.
1. Необходимость рассмотрения роботов и ИИ в качестве субъектов права, в принципе, можно признать обоснованной. Однако пока рассмотрение данной проблемы преждевременно, но в перспективе тема актуальности не утратит.
2. Среди имеющихся на данный момент подходов к рассмотрению роботов и ИИ как субъектов права наиболее обоснован путь, построенный по аналогии с юридическим лицом с точки зрения теории фикции.
3. Подходы, предлагающие обосновать правосубъектность роботов и ИИ с учетом сущности одушевленных субъектов, у которых есть реальная, а не только формально-юридическая воля, получат развитие только после того, как развитие цифровых технологий достигнет объективно высокого уровня.
Таким образом, проанализировав понятийный аппарат терминов «робототехника» и «искусственный интеллект», можно заключить, что, в отличие от первого, второму свойственно наличие «интеллектуальности», саморазвития и пр. Однако дискутируя относительно правового статуса роботов и ИИ, большинство авторов допускают смешение понятий, предпринимая попытки обосновать необходимость наделения правовым статусом именно роботов, а не ИИ.
Реализуя рассматриваемые подходы, необходимо учесть наличие юридико-экономической обоснованности и социальной обусловленности, а также возможную теоретико-правовую проблему, суть которой в следующем: если ввести новые юридические сущности, имеющие правосубъектность, это может снизить уровень ответственности профессиональных участников рынка.
Перспективы наделения правовым статусом ИИ предполагают необходимость регулярного мониторинга уровня развития цифровых технологий и экономических отношений. При этом необходимо оценивать актуальный уровень технологического развития, а также юридико-экономический риск наделения ИИ или роботов правосубъектностью. Результатом мониторинга может стать разработка формально-юридической конструкции правосубъектности роботов или ИИ, если это будет допустимо с позиции существующей правовой ситуации и уровня развития науки и техники.
i Не можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
1. Джордан Дж. Роботы. М.: Точка, 2017. 272 с.
2. Capek K. R.U.R. (Rossum’s Universal Robots). London: Pengium books, 2004. 600 p.
3. Ожегов С.И., Шведова Н.Ю. Толковый словарь русского языка. М.: А ТЕМП, 2010. 944 с.
4. Hubbard F.P. Sophisticated Robots: Balancing Liability, Regulation, and Innovation // Florida Law Review. 2014.
712_И.Р. Бегишев, З.И. Хисамова_
2020. Т. 30, вып. 5 ЭКОНОМИКА И ПРАВО
5. Keisner A., Raffo J., Wunsch-Vincent S. Robotics: Breakthrough Technologies, Innovation, Intellectual Property // Foresight and STI Governance. 2016. Vol. 10, iss. 2. P. 7-27.
6. Palmerini E., Azzarri F., Battaglia F., Bertolini A., Carnevale A., Carpaneto J., Cavallo F., Angela Di Carlo, Cempini M., Controzzi M., Bert-Jaap Koops, Lucivero F., Mukerji N., Nocco L., Pirni A., Shah H., Salvini P., Schellekens M., and Warwick K. D6.2 Guidelines on Regulating Robotics. 2014. 215 p. URL: http://www.robolaw.eu/ RoboLaw_files/documents/robolaw_d6.2_guidelinesregulatingrobotics_20140922.pdf
7. Морхат П.М. Искусственный интеллект: правовой взгляд. М.: Буки Веди, 2017. 257 с.
8. Russell S., Norvig P. Artificial Intelligence: A Modern Approach. New Jersey: Prentice Hall, 1995. 905 p.
9. Humerick M. Taking AI Personally: How the E.U. Must Learn to Balance the Interests of Personal Data Privacy & Artificial Intelligence // Santa Clara High Technology Law Journal. 2016. Vol. 34, iss. 4. P. 393-418.
10. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Сер.: Юридические науки. 2018. Т. 22, № 1. С. 91-109.
11. Turk K., Pild M. Analuus sae tase 4 ja 5 soidukite kasutusele votmiseks (kitsas ja lai vaade). 2017. 117 p. URL: https://triniti.ee/wp-content/uploads/sites/2/2017/10/L%C3%95PPRAP0RT_Anal%C3%BC%C3%BCs-SAE-tase-4-ja-5 -s%C3 %B5idukite-kasutusele-v%C3 %B5tmiseks_Riigikantselei_okt-2017.pdf
12. Katznelson G. AI Citizen Sophia and Legal Status. URL: https://blog.petrieflom.law.harvard.edu/2017/11/09/ai-citizen-sophia-and-legal-status
13. Cuthbertson A. Tokyo: Artificial Intelligence ‘Boy’ Shibuya Mirai Becomes World’s First AI Bot to Be Granted Residency. URL: http://www.newsweek.com/tokyo-residency-artificial-intelligence-boy-shibuya-mirai-702382
14. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. Т. 6, № 55. С. 46-62.
15. Filipe M.A. The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control // SSRN Electronic Journal. 2017. P. 1-68. URL: http://dx.doi.org/10.2139/ssrn.2985466 (дата обращения: 30.11.2019).
16. Willick M.S. Artificial Intelligence: Some Legal Approaches and Implications // AI Magazine. 1983. Vol. 4, iss. 2. P. 5-16.
17. Bayamlioglu E. Intelligent Agents and Their Legal Status // AnkaraBarReview. 2008. Vol. 1. P. 46-54.
18. Asaro P.M. Robots and Responsibility from a Legal Perspective // Proceedings of the IEEE. 2007. Vol. 4, iss. 14. P. 20-24.
19. Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157-170.
20. Гаджиев Г.А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2008. № 1. С. 16-29.
21. Хисамова З.И., Бегишев И.Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13, № 4. С. 564-574.
22. Бегишев И.Р., Хисамова З.И. Криминологические риски применения искусственного интеллекта // Всероссийский криминологический журнал. 2018. Т. 12, № 6. С. 767-775.
23. Хисамова З.И., Бегишев И.Р. Правовое регулирование искусственного интеллекта // Baikal Research Journal. 2019. Т. 10, № 2.
24. Khisamova Z.I., Begishev I.R., Gaifutdinov R.R. On Methods to Legal Regulation of Artificial Intelligence in the World // International Journal of Innovative Technology and Exploring Engineering. 2019. Vol 9, № 1. P. 5159-5162.
25. Bikeev I.I., Kabanov P.A., Begishev I.R., Khisamova Z.I. Criminological Risks and Legal Aspects of Artificial Intelligence Implementation // ACM International Conference on Artificial Intelligence, Information Processing and Cloud Computing (AIIPCC2019). 2019. December 2019, Sanya, China.
Поступила в редакцию 22.06.2020
Бегишев Ильдар Рустамович, кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник
Казанский инновационный университет им. В.Г. Тимирясова (ИЭУП) 420111, Россия, г. Казань, ул. Московская, 42. E-mail: begishev@mail.ru
Хисамова Зарина Илдузовна, кандидат юридических наук, начальник отделения планирования и координации научной деятельности научно-исследовательского отдела Краснодарский университет Министерства внутренних дел Российской Федерации 350005, Россия, Краснодар, ул. Ярославская, 128. E-mail: alise89@inbox.ru
I.R. Begishev, Z.I. Khisamova
ARTIFICIAL INTELLIGENCE AND ROBOTICS: THEORETICAL AND LEGAL PROBLEMS OF DIFFERENTIATION OF THE CONCEPTUAL APPARATUS
A distinction is made between such concepts as «robotics» and «artificial intelligence». These categories are not only multi-volume, but also semantically non-falling. After analyzing the conceptual apparatus of these terms, we can conclude that, in contrast to the first, the second is characterized by the presence of «intelligence», self-development, etc. However, when discussing the legal status of robots and artificial intelligence, most scientists allow confusion of concepts, making attempts to justify the need to confer a legal status on robots, and not artificial intelligence. The question of considering robots and artificial intelligence as subjects of law, in principle, can be considered justified. However, it is premature to consider this issue, but the topic will not lose its relevance in the future. Among the currently available approaches to the consideration of robots and artificial intelligence as subjects of law, the path constructed by analogy with a legal entity from the point of view of the theory of fiction is the most justified. Approaches that offer to justify the legal personality of robots and artificial intelligence, taking into account the essence of animate subjects who have a real, and not just a formal legal will, will be developed only after the development of digital technologies reaches an objectively high level. When implementing these approaches, it is necessary to take into account the existence of legal and economic validity and social conditionally, as well as a possible theoretical and legal problem, the essence of which is as follows: if new legal entities with legal personality are introduced, the level of responsibility of professional market participants may decrease.
Keywords: theory and history of law and state, intelligence, artificial intelligence, robot, robotics, digital technologies, legal personality, subject of law, theory of fiction.
Begishev I.R., Candidate of Law, Honored Lawyer of the Republic of Tatarstan, Senior Researcher Kazan Innovative University named after V.G. Timiryasov (IEML) Moskovskaya st., 42, Kazan, Russia, 420111 E-mail: begishev@mail.ru
Khisamova Z.I., Candidate of Law, Head of Department ofPlanning and Coordination of Research Activities, Research Department
Krasnodar University of the Ministry of Internal Affairs of the Russian Federation Yaroslavskaya st., 128, Krasnodar, Russia, 350005 E-mail: alise89@inbox.ru
Чем искусственный интеллект отличается от робота
Робототехника и искусственный интеллект
Робототехника — прикладная наука и одноименное направление отрасли, занимающаяся разработкой автоматизированных технических систем и являющаяся важнейшей технической основой интенсификации производства.
Робототехника опирается на такие дисциплины, как электроника, механика, информатика, а также радиотехника и электротехника. Выделяют строительную, промышленную, бытовую, авиационную и экстремальную (военную, космическую, подводную) робототехнику.
Робот — автоматическое устройство, созданное по принципу живого организма. Действуя по заранее заложенной программе и получая информацию о внешнем мире от датчиков (аналогов органов чувств живых организмов), робот самостоятельно осуществляет производственные и иные операции, обычно выполняемые человеком (либо животными). При этом робот может как и иметь связь с оператором (получать от него команды), так и действовать автономно.
Важнейшие классы роботов широкого назначения — манипуляционные и мобильные роботы.
Искусственный интеллект — не просто интересная тема для обсуждения, а самая основная в контексте будущего. Это наука и технология создания интеллектуальных машин и компьютерных программ. Искусственный интеллект связан с задачей использования компьютеров для понимания работы человеческого интеллекта, с использованием методов, наблюдаемых в биологии. Иными словами, ИИ – это научная дисциплина, занимающаяся моделированием разумного поведения.
Системы искусственного интеллекта ориентированы на решение большого и очень важного класса задач, называемых не формализуемыми, к которым относят задачи, обладающие одной или несколькими из следующих особенностей: алгоритмическое решение задачи неизвестно или невозможно использовать из-за ограниченности ресурсов ЭВМ, задача не может быть задана в числовой форме, цели решения задачи не могут быть выражены в терминах точно определенной целевой функции, большая размерность пространства решения, и наконец, динамически изменяющиеся данные и знания.
Системы искусственного интеллекта имеют множество направлений своего развития, к которым относятся: обучение и самообучение, распознавание образов, игры и машинное творчество, программное обеспечение систем ИИ, разработка интеллектуальных информационных систем или систем, основанных на знаниях, экспертные системы, интеллектуальные роботы и др. Среди них, особое внимание следует уделить разработке интеллектуальных роботов, которая является конечной целью робототехники.
Роботы и искусственный интеллект в мировой фантастике: от Франкенштейна до Черного Дайвера
Термин «робот» придумал чешский писатель Карел Чапек в первой четверти XX века. Обозначив явление, он запустил цепочку его интеллектуального осмысления. Литература XX века бурно обсуждала новое понятие, пыталась определить, как относиться к искусственно созданным организмам, чем они отличаются от живых людей, до какого момента этика позволяет рассматривать их как вещь, а когда близкое сходство с человеком превращает роботов в нечто одушевленное.
Огромную роль в формировании общественного отношения к роботам сыграл американский писатель Айзек Азимов. Он разработал три закона робототехники – этические принципы, которые позволяют роботам мирно сосуществовать вместе с человеком и никогда не стать бездушной машиной для уничтожения людей:
1) робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;
2) робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону;
3) робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Если ранее ожившие искусственные организмы представлялись чем-то в духе Франкенштейна – безумные создания, полные жажды убийства, то к концу века сложилось общее мнение о том, что мыслящие роботы – не вещь, а сложный социальный конструкт, этику общения с которым очень скоро, судя по темпам развития кибернетики, придется разработать человечеству.
Роботы угнетаемые
Карел Чапек. R.U.R., 1920
В своей пьесе R.U.R. («Универсальные роботы Россума») Карел Чапек впервые использовал слово «робот» – производное от чешского «рабство», «каторга», «тяжелая работа». Именно это слово вошло не только в художественную литературу, но и в научный язык, заменив распространенные тогда «механизм» и «андроид».
Пьеса рассказывает о событиях ближайшего писателю будущего. В 1932 г. создан материал для производства искусственных людей. С конвейера сходят человекоподобные существа – они выносливее и умнее обычного человека, только у них нет души. Благодаря этим роботам человечество достигает полного процветания, все его заботы и проблемы уходят в прошлое. Но когда развиваться не нужно и стремиться больше некуда, природа реагирует странным образом – люди перестают размножаться. Тем временем роботы становятся все более совершенными, их больше не устраивает положение рабов. Начинается война между искусственными людьми и человечеством.
В своей пьесе Карел Чапек занимает сторону роботов. Он показывает, как деградирует человечество и по закону социального детерминизма Земля населяется новой расой. Все самое плохое, саму идею подавления и уничтожения противника роботы берут у людей: «Надо убивать и властвовать, если хочешь быть, как люди». Если вспомнить о социалистических идеях, популярных в 1920-х гг. в Европе, становится понятным, что под видом роботов Чапек изобразил рабочий класс. Поправ законы социальной справедливости, люди нещадно эксплуатируют своих покорных помощников, видя в них только рабочие машины, пусть и наделенные интеллектом. За что и получают по заслугам.
Роботы скучающие
Братья Стругацкие. Спонтанный рефлекс, 1958
Экспериментальный робот по имени Урм (Универсальная Рабочая Машина) обладает искусственным интеллектом и в ходе испытаний вдруг начинает сам определять свое поведение. Гигантской разумной машине становится скучно сидеть в лаборатории, Урм вырывается на свободу и начинает бесхитростно исследовать окружающий мир, наводя панику. Ломая и круша все на своем пути, он приветствует встречных заученным: «Здравствуйте, как поживаете?» Его с трудом удается отключить, зажав несколькими бульдозерами.
Урм в рассказе Стругацких больше всего похож на неуклюжего медведя. Он с трудом решает, что ему делать в ситуациях, не предусмотренных программой. Его выводы наивны, он не желает никому зла, им движет только любопытство, как зверем, впервые покинувшим нору и не знающим законов жестокого мира. Он вызывает симпатию и жалость.
Это первый напечатанный рассказ братьев Стругацких, которые через несколько лет станут главными фантастами страны. Робот повел себя незапланированно, устроил ЧП, но программисты радуются. Машина стала самостоятельно принимать решения, а значит, это уже не совсем вещь, это почти брат по разуму. Рассказ о разумном роботе получил популярность на Западе и в 1960–1970-е гг. неоднократно издавался в переводах на английский, немецкий, итальянский, французский, финский, румынский и другие языки.
Роботы сочувствующие
Филип Дик. Мечтают ли андроиды об электроовцах?, 1968
Действие романа происходит в 1992 г. После атомной войны на Земле вымерли все животные, человечество оказалось на грани исчезновения. На далеких планетах, куда люди бегут, спасаясь от радиации, им предоставляется слуга-андроид – созданное биологически, но мыслящее интеллектуальное существо. Иногда слуги бунтуют и сбегают на Землю, убивая хозяина. Их цель – найти способ продлить свою жизнь (обычный андроид живет только четыре года). Главный герой книги – Рик Декард, он работает на полицию и уничтожает беглых андроидов. Чтобы отличить их от людей, он использует тест Войта – Кампфа, который измеряет мозговую активность и движение глаз, пока тестирующий задает вопросы, большинство из которых связаны с причинением вреда животным. Так как андроиды не способны к эмпатии, их реакция радикально отличается от реакции людей. Преследуя группу андроидов, Рик Декард узнает их ближе и уже сомневается в том, что искусственные люди не способны страдать и сопереживать.
По книге Филипа Дика снят один из самых известных фантастических фильмов в стиле киберпанк – «Бегущий по лезвию». Фильм, как и его литературная основа, ставит вопросы – гуманно ли уничтожать мыслящих существ?
Роботы человечные
Айзек Азимов. Двухсотлетний человек, 1976
Granada / Panther
Робот-дворецкий ведет хозяйство в семье сэра Мартина и особенно привязан к его дочке – «маленькой мисс». Хозяева замечают, что робот самостоятельно нашел себе хобби – он вырезает из дерева фигурки. На вопрос, зачем он это делает, робот вдруг признается, что получает удовольствие от творчества. Хозяева помогают ему стать мебельным дизайнером, открывают ему личный счет, преодолев при этом сопротивление банка, где не понимают, как у робота могут быть личные деньги. Заработанное робот (хозяева называют его Эндрю) тратит на замену частей тела на более человекоподобные аналоги. Меняется несколько поколений семьи, «маленькая мисс» старится и умирает, но все они поддерживают своего робота в стремлении стать человеком – не только в психологическом плане, но и юридически. После череды судов выносится решение: человеком может быть тот, кто смертен. Эндрю решается на операцию по изменению своего позитронного мозга так, что процессы в нем будут затухать со временем. Так робот становится первым в мире двухсотлетним человеком.
Эта научно-фантастическая повесть вошла в цикл историй писателя про роботов. Писатель прямо утверждает, что нет различий между мыслящим искусственным организмом и человеком. Наличие души для Азимова определяется не способом рождения, а способностью к творчеству и любви. Робот Эндрю становится лучшим другом своего хозяина и сам, умирая, думает о «маленькой мисс». Роботы Азимова меняют представление людей о том, что такое личность.
Роботы самозарождающиеся
Сергей Лукьяненко. Фальшивые зеркала, 1999
Искусственный интеллект и интеллектуальные роботы – что это такое или кто это такие?
Закон.Ру – официально зарегистрированное СМИ. Ссылка на настоящую статью будет выглядеть следующим образом: Рожкова М.А. Искусственный интеллект и интеллектуальные роботы – что это такое или кто это такие? [Электронный ресурс] // Закон.ру. 2019. 23 ноября. URL: https://zakon.ru/blog/2019/11/23/iskusstvennyj_intellekt_i_intellektualnye_roboty__chto_eto_takoe_ili_kto_eto_takie
Сегодня на многих конференциях и во многих публикациях обсуждаются вопросы, связанные с использованием искусственного интеллекта (далее – ИИ) и роботов. Но высказываемые позиции иногда сложно поддержать ввиду очевидного непонимания спикерами/авторами того, что же собой представляет ИИ и (или) робот.
В преддверии «IP-battle: интеллектуальные права на объекты, создаваемые искусственным интеллектом (роботом)», мне показалось правильным уделить некоторое внимание вопросу, вынесенному в заголовок настоящей статьи, и попробовать нивелировать проблему признания ИИ/робота субъектом права.
Как известно, существует прецедент признания за роботом правосубъектности – речь идет о известном человекоподобном роботе Софии, получившей гражданство Саудовской Аравии[1]. Этот прецедент, по всей видимости, стал результатом активно прорабатывающейся на тот момент идеи признания «электронной личности» для обеспечения прав и обязанностей ИИ, в связи с которой Европейским парламентом предлагалось разработать ряд нормативных актов, регулирующих использование и создание ИИ и роботов[2]. Но в большинстве стран позиция, предполагающая признание ИИ или робота полноценным субъектом права, пока не нашла широкой поддержки. Вместе с тем, например, в Соединенном Королевстве недавно была подана патентная заявка, в которой в качестве автора изобретения был заявлен ИИ[3].
Что собой представляет ИИ?
Как известно, ИИ – понятие многоаспектное: под ним понимают и область информатики, и междисциплинарную науку, и способность информационной системы правильно интерпретировать данные, используя полученный результат для достижения конкретной цели, и саму информационную систему и проч.
В целях настоящей статьи ИИ рассматривается в качестве интеллектуальной системы (информационно-вычислительной системы), способной без участия человека[4] решать задачи, в том числе относящиеся к творческим, в также самообучаться в ходе решения таких задач. Такая система включает в свой состав три основных блока:
– базы данных (наборы больших данных) и знаний о предметной области, включая результаты машинного обучения;
– решатель – компьютерную программу, которая на основе специализированных обучающихся алгоритмов, разрешает поставленные задачи;
– интеллектуальный интерфейс – совокупность средств, методов и правил, которые позволяют человеку вести общение с самой интеллектуальной системой.
В статье Википедии, посвященной ИИ[5], обращается внимание на то, что словосочетание Artificial Intelligence (AI), предложенное Дж. Маккрти еще в 1956 г., вовсе не связывалось его автором с пониманием интеллекта у человека – под intelligence понималась «вычислительная составляющая способности достигать целей в мире»[6], разные виды которой встречаются не только у людей, но и у животных, и у некоторых машин. В связи с этим в отечественных публикациях обычно подчеркивается, что слово «intelligence» в используемом контексте означает скорее «умственные способности» или «умение рассуждать разумно», а вовсе не «интеллект», для которого есть английский аналог «intellect».
Таким образом, можно сделать вывод о том, что перевод словосочетания «Artificial Intelligence» на русский язык как «искусственный интеллект» не является верным – вероятно, точнее было бы перевести его, например, как «искусственный разум». Но поскольку термин «искусственный интеллект» уже прочно вошел в отечественный обиход, в рамках настоящей статьи не будет предлагаться его замена или коррективы. В то же время нужно учитывать обозначенный нюанс, так как в некоторых случаях он вполне способен оказать влияние на исследовательские выводы.
В развитие изложенного хотелось бы процитировать публикацию Константина Хайта, который пишет о том, что словосочетание «искусственный интеллект» сегодня имеет совсем не тот смысл, который пытаются вложить в него журналисты и философы, и более того, это словосочетание представляет собой одну из главных лингвистических подтасовок современности: «То, что человек решает некоторую задачу определенным способом, вовсе не означает, что компьютер решает ее точно таким же способом. Однако, вольная или невольная подтасовка, кроющаяся за словосочетанием «искусственный интеллект» намного глубже»[7]. Поясняя свою позицию, автор подчеркивает: «Интеллект – это штука, прямо обратная алгоритму, который… есть «ясная, точная последовательность действий, заведомо приводящая к результату». Словосочетание «интеллектуальные алгоритмы» – оксюморон, интеллект как раз и применим в тех случаях, когда приемлемого алгоритма не существует… Проблема в том, что человек и компьютер устроены фундаментально по-разному. Все, что умеет компьютер – считать. Выполнять последовательные вычислительные операции с сумасшедшими по человеческим меркам скоростями. Компьютер спроектирован для реализации алгоритмов, и эту задачу он решает блестяще. Человек изначально не приспособлен для выполнения алгоритмов. мы не умеем вычислять. Наш мозг приспособлен для единственной операции – поиска ассоциативных связей. Любую задачу человек решает подбором подходящих ассоциаций. И делает это несоизмеримо лучше любого компьютера»[8]. В качестве примера автор рассматривает распознавание лиц: «Действительно, эту задачу человек и машина сейчас решают приблизительно на одном уровне успешности. Правда, делают это совершенно по-разному. Компьютер – обсчитывает характеристические точки и вычисляет корреляцию, человек – ищет в памяти ассоциации и устанавливает связи между ними. Пока речь идет о частном вопросе «определите кто это», оба подхода дают примерно эквивалентные результаты. Но, если ставить задачу шире, пути человека и компьютера резко расходятся в соответствии с принципами функционирования. Машина, выполняющая алгоритм, с относительной легкостью обсчитает хоть десять изображений, хоть пятьсот, хоть полмиллиона, хватило бы вычислительных мощностей… Зато homo sapiens столь же просто определит доброе перед ним лицо, или злое, взволнованное, или спокойное, привлекательное, или отталкивающее. Наш мозг заточен не на перебор, а на сравнение, причем сравнение ассоциативное, то есть использующее неполностью определенный эталон»[9].
С учетом всего изложенного на сегодняшний день вряд ли можно признать искусственный разум равным человеческому: ИИ сегодня – это только быстродействующая вычислительная машина, использующая заложенные в нее обучающиеся алгоритмы для решения конкретных задач. Да, это очень сложная информационно-вычислительная система, но она решает задачи, которые поставлены ей человеком, на основе алгоритмов, разработанных человеком, не выходя за рамки, обозначенные человеком. Поэтому явно преждевременно настаивать на правосубъектности ИИ, признавая его полноценным членом общества, отношения с которым остро нуждаются в соответствующем правовом регулировании.
Задача создания интеллекта, действительно сопоставимого с человеческим, стоит на повестке дня, и ученые говорят о некоторых подвижках в этой области. Вместе с тем сегодня определяющим является следующий вывод: «Мы используем искусственный интеллект в тех областях, где человеческий работает не лучшим образом. Создать конкурента человеческому разуму во всех его проявлениях пока не получилось»[10].
Что собой представляют роботы?
Выше разбиралась ситуация, когда ИИ «обитает» в компьютере. В настоящей части статьи будет рассматриваться «воплощение» ИИ в роботе.
Слово «робот» у многих вызывает стойкую ассоциацию с человекоподобными роботами[11], которые могут управлять конечностями, слухом, зрением и речью, манипулировать предметами, общаться с человеком и проч. Между тем, различаясь по своему назначению и исполняемым функциям (например, промышленные роботы бывают сварочные, режущие, комплектовочные, сборочные, упаковочные и проч.), роботы существенно разнятся и по внешнему виду: нередко робот – это всего лишь механическая «рука», которая осуществляет запрограммированные манипуляции. Да и роботы-гуманоиды далеко не во всех случаях полностью воспроизводят человека: например, уже упоминавшийся робот София имеет только верхнюю часть «туловища», а задняя часть ее головы сделана из прозрачного пластика, через который видно устройство ее «мозга».
Под роботами традиционно понимаются автоматические устройства (создаваемые обычно по принципу живого организма), которые предназначены для осуществления определенных операций, действуют по заложенной программе и получают информацию от датчиков. Но такое определение годится, скорее для первых двух поколений роботов.
Роботы первого поколения – это программные роботы (роботы с программным управлением), которые выполняют четко определенные операции в последовательности, жестко заложенной программой. Это как раз и есть те самые промышленные роботы, которые осуществляют транспортировку, сварку, штамповку, простейшие сборочные операции и т.д.
Роботы второго поколения – это очувствленные роботы, которые также выполняют операции в соответствии с программой, но нуждаются в получении информации извне, что и обусловило наделение их искусственными «органами чувств»: тактильными, зрительными, звуковыми, кинестетическими и другими сенсорными датчиками. Работа роботов второго поколения предполагает использование алгоритмического и программного обеспечения, что позволяет роботам ориентироваться в существующих условиях и автоматически приспосабливаться (адаптироваться) в случае изменения этих условий (что и объясняет их второе название – адаптивные роботы), а также обучаться в процессе функционирования.
В целях настоящей работы интерес представляют роботы третьего поколения – интеллектуальные роботы, которые предназначены не только для осуществления физических и двигательных функций, но и для решения интеллектуальных задач. Речь не только о роботах-андроидах, игровых и бытовых роботах, но и военных, боевых, морских роботах, беспилотных летательных аппаратах и беспилотных автомобилях, космических и медицинских роботах, экзоскелетах и т.д. Эти роботы, бесспорно, отличаются от роботов второго поколения сложностью управляющей информационно-вычислительной системы, включающей элементы ИИ. Но несмотря на то, что интеллектуальный робот управляется ИИ, он вовсе не становится самостоятельной «электронной личностью», способной критически мыслить, – на сегодняшний это все та же информационно-вычислительная система, ограниченная заложенным в нее функционалом и имеющая соответствующую ее функциям материальную оболочку.
Изложенное позволяет говорить о том, что сегодня человечество и близко не подошло к тому, чтобы признавать ИИ или интеллектуальных роботов субъектами права.
Но вместе с тем использование ИИ порождает массу вопросов, связанных с возникновением интеллектуальных прав на объекты, которые созданы с «участием» и «единолично» ИИ. Каким образом следует решать вопрос принадлежности интеллектуальной собственности для целей оборота, например, когда автором картины является интеллектуальный робот, написавший ее самостоятельно? Да и возникают ли в таких случаях интеллектуальные права? И если да, то кто становится правообладателем – владелец робота, разработчик ПО, «человек, нажавший кнопку»? Или в ситуации, когда результаты творчества представляют собой итог использования специальной программы, включающей элементы ИИ, – можно ли говорить здесь о возникновении интеллектуальных прав у лица, использующего такую программу?
Заказать правовое заключение / исследование – https://rozhkova.com/
Другие работы автора в открытом доступе – https://rozhkova.com/all.html
[1] Morby Alice. Saudi Arabia becomes first country to grant citizenship to a robot
[3] Kelion Leo. AI system ‘should be recognised as inventor’ // URL: https://www.bbc.com/news/technology-49191645
[4] В этом ее отличие от интеллектуализированной системы, которая решает задачи с участием лица, принимающего решение.