Рекомендация Совета ОЭСР по искусственному интеллекту

Рекомендация Совета ОЭСР по искусственному интеллекту

Рекомендация по искусственному интеллекту (ИИ) - первый межправительственный стандарт по ИИ - была принята Советом ОЭСР на уровне министров 22 мая 2019 года по предложению Комитета по политике цифровой экономики (CDEP)

Исходная информация

 

Рекомендация по искусственному интеллекту (ИИ) - первый межправительственный стандарт по ИИ - была принята Советом ОЭСР на уровне министров 22 мая 2019 года по предложению Комитета по политике цифровой экономики (CDEP). Рекомендация направлена на стимулирование инноваций и доверия к искусственному интеллекту, продвижение ответственного управления заслуживающим доверия ИИ при обеспечении уважения прав человека и демократических ценностей. Дополняет существующие стандарты ОЭСР в таких областях, как конфиденциальность, цифровая безопасность, управление рисками и ответственное ведение бизнеса. Рекомендация фокусируется на искусственном интеллекте, издает и устанавливает стандарт, который является выполнимым и достаточно гибким, чтобы выдержать испытание временем в этой быстро развивающейся сфере.

Рекомендация определяет пять дополнительных основанных на ценностях принципов для ответственного руководства заслуживающим доверия ИИ и призывает участников ИИ продвигать и реализовывать их:

  • инклюзивный рост, устойчивое развитие и благосостояние;
  • ориентированные на человека ценности и справедливость;
  • прозрачность и объяснимость;
  • надежность, безопасность и сохранность;
  • и подотчетность.

В дополнение к этим основанным на ценности принципам и в соответствии с ними в Рекомендации также пять рекомендаций для политиков, касающихся национальной политики и международного сотрудничества для заслуживающего доверия ИИ, а именно:

  • инвестирование в исследования и разработки ИИ;
  • развитие цифровой экосистемы искусственного интеллекта;
  • формирование благоприятной политической среды для ИИ;
  • наращивание человеческого потенциала и подготовка к трансформации рынка труда;
  • и международное сотрудничество для надежного ИИ.

Рекомендация также включает положение о разработке метрик для измерения исследований ИИ, разработки и развертывания, а также для создания доказательной базы для оценки прогресса в ее реализации.

Работа ОЭСР по искусственному интеллекту и обоснование развития Рекомендаций по искусственному интеллекту

Искусственный интеллект (ИИ) - это технология общего назначения, которая может улучшить уровень жизни и благосостояние людей, чтобы способствовать положительной устойчивой глобальной экономической деятельности, чтобы увеличить инновации и производительность, а также помочь в решении ключевых глобальных проблем. Эта технология применима во многих секторах, начиная от производства, финансов и транспорта до здравоохранения и безопасности.

Наряду с выгодами ИИ также создает проблемы для наших обществ и экономик, особенно в отношении экономического развития и неравенства, конкуренции, переходных процессов на рынке труда и последствий для демократии и прав человека.

ОЭСР предприняла эмпирические и политические шаги в отношении ИИ в поддержку политических дебатов за последние два года, начиная с Форума технологического предвидения по искусственному интеллекту в 2016 году и международной конференции по искусственному интеллекту: интеллектуальные машины, интеллектуальная политика в 2017 году. Организация также провела исследовательскую и аналитическую работу, которая дает обзор технического ландшафта ИИ, карты экономического и социального воздействия технологий искусственного интеллекта и соответствующих приложений, определила основные направления политики обсуждений, и описывает инициативы в области ИИ от правительств и других заинтересованных сторон на национальном и международном уровнях.

Эта работа продемонстрировала необходимость формирования стабильной политической обстановки на международном уровне для развития доверия и принятию ИИ в обществе. В свете этого Комитет ОЭСР по Экономической политике в цифровой экономике (CDEP) согласился разработать проект Рекомендации Совета для продвижения человеко центрического подхода к надежному ИИ, который стимулирует исследования, сохраняет экономическую привлекательность для инноваций, и распространяется на все заинтересованные стороны.

В дополнение к уже существующим стандартам ОЭСР, имеющим отношение к искусственному интеллекту, таким как стандарты конфиденциальности и защиты данных, управления рисками цифровой безопасности и ответственное ведение бизнеса - Рекомендация фокусируется на вопросах политики, и специфике ИИ, и стремится установить стандарт, который будет реален и достаточно гибок, чтобы выдержать испытание временем в быстро развивающейся области. Рекомендация содержит пять основанных на ценностях принципов высокого уровня и пять рекомендаций для национальной политики и международного сотрудничества. Он также предлагает общее понимание ключевых терминов, таких как «система ИИ» и «субъекты ИИ», для целей Рекомендации.

В частности, Рекомендация включает два основных раздела:

  • Принципы ответственного управления надежным ИИ: в первом разделе изложены пять дополняющих принципов, относящихся ко всем заинтересованным сторонам: i) инклюзивный рост, устойчивое развитие и благополучие; ii) ориентированность на человеческие ценности и справедливость; iii) прозрачность и предсказуемость; iv) надежность, безопасность и защищенность; и v) подотчетность. Этот раздел далее расписывает функции участников ИИ для продвижения и реализации этих принципов в соответствии с их ролями.
  • Национальная политика и международное сотрудничество в области надежного ИИ: в соответствии с пятью вышеупомянутыми принципами, в этом разделе представлены пять рекомендаций для стран-членов и не членов, присоединившихся к проекту Рекомендации (далее «сторонники») для реализации в своей национальной политике и международном сотрудничестве: i) инвестиций в исследования ИИ и развитие; ii) развитие цифровой экосистемы для искусственного интеллекта; iii) формирование благоприятной политической среды для ИИ; iv) наращивание человеческого потенциала и подготовка к трансформации рынка труда; и v) международное сотрудничество в области надежного ИИ.

Инклюзивный и совместный процесс разработки Рекомендации

Разработка Рекомендации носила коллективный характер, включая вклад широкого спектра источников на протяжении всего процесса. В мае 2018 года CDEP согласился сформировать экспертную группу по разработке принципов для укрепления доверия и принятия ИИ, с целью разработки Советом проекта Рекомендация в течение 2019 года. На базе группы экспертов ИИ в ОЭСР (AIGO) была впоследствии создана экспертная группа, включающая 50 экспертов в разных дисциплинах и разных секторах (правительство, промышленность, гражданское общество, профсоюзы, техническое сообщество и научные круги) - полный список смотри: http://www.oecd.org/going-digital/ai/oecd-aigo-membership-list.pdf. В период с сентября 2018 года по февраль 2019 года группа экспертов провела четыре заседания: в Париже (Франция) в сентябре и ноябрь 2018 года, в Кембридже (штат Массачусетс, США) в Массачусетском технологическом институте (MIT) в январе 2019 года, параллельно с политическим конгрессом MIT AI, и, наконец, в Дубае (Арабские Эмираты), на саммите Мирового правительства в феврале 2019 года при активном участии, вовлеченности и существенном вкладе экспертов, участвующих в AIGO, а также их многостороннего и междисциплинарного опыта.

Опираясь на итоговый выходной документ AIGO, проект Рекомендации был разработан в CDEP и с консультацией других соответствующих органов ОЭСР. CDEP одобрил окончательный проект Рекомендации и передал ее Совету ОЭСР для принятия на специальном совещании 14-15 марта 2019 года. Совет ОЭСР принял рекомендацию на своем совещании на уровне министров 22-23 мая 2019 года.

Последующие меры, мониторинг реализации и инструменты распространения

Рекомендация ОЭСР по ИИ обеспечивает первый межправительственный стандарт для политики ИИ и фундамент для дальнейшего анализа и разработки инструментов для поддержки правительств в их усилиях по реализации. В связи с этим он поручает CDEP осуществлять мониторинг реализации Рекомендации и докладывать Совету о ее выполнении и сохраняющейся актуальности в течение пяти лет после его принятия и регулярно после этого. CDEP также поручено продолжить работу по ИИ, основываясь на этой Рекомендации, и принимая во внимание работу на других международных форумах, таких как ЮНЕСКО, Европейский союз, Совет Европы и инициатива по созданию международной группы об ИИ (см. https://pm.gc.ca/rus/news/2018/12/06/mandate-international-panel-artificialintelligence и https://www.gouvernement.fr/en/france-and-canada- создавать новый-ЭКСПЕРТ-internationalpanel-на-искусственный интеллект).

В целях поддержки реализации Рекомендации Совет поручил CDEP разработать практическое руководство по внедрению, чтобы обеспечить форум для обмена информацией об ИИ, политике и деятельности, а также содействовать многостороннему и междисциплинарному диалогу. Это будет достигаться в основном через Политическую обсерваторию ОЭСР, инклюзивный центр государственной политики в области ИИ, который стремится помочь странам поощрять, развивать и контролировать ответственное развитие заслуживающих доверия системы искусственного интеллекта на благо общества. Он будет объединять ресурсы со всего ОЭСР совместно с партнерами из всех групп заинтересованных сторон для обеспечения междисциплинарного, основанного на фактических данных анализ политики по ИИ. Обсерватория планирует начать работу в конце 2019 года и будет включать в себя живой обмен данными о стратегиях, политике и инициативах в области искусственного интеллекта, которыми могут поделиться страны и другие заинтересованные стороны, и обновление, позволяющее сравнивать их ключевые элементы в интерактивном режиме. Также будет постоянно обновляться с помощью метрик, измерений, политики и передовых методов ИИ, которые могут привести к дальнейшим обновлениям в практическом руководстве по внедрению.

Рекомендация открыта для присоединения стран, не являющихся членами ОЭСР, что подчеркивает глобальную актуальность политики ОЭСР в области искусственного интеллекта, а также призыв к международному сотрудничеству.

Совет по предложению комитета по политике цифровой экономики:

I. ПОСТАНОВЛЯЕТ, что для целей настоящей Рекомендации следует понимать перечисленные термины следующим образом:

  • Система искусственного интеллекта: система искусственного интеллекта - это машинная система, которая может для данного набора определенных человеком целей, делать прогнозы, рекомендации или решения, влияющие на реальные или виртуальные среды. Системы искусственного интеллекта предназначены для работы в различных уровнях автономии.
  • Жизненный цикл системы ИИ: Этапы жизненного цикла системы ИИ включают в себя: i) «дизайн, данные и модели»; которым является контекстно-зависимая последовательность, охватывающая планирование и проектирование, сбор и обработку данных, а также построение модели; ii) «проверка и подтверждение»; iii) «развертывание»; и iv) эксплуатация и мониторинг. Эти этапы часто происходят итеративно и не обязательно последовательно. Решение об изъятии системы ИИ из эксплуатации может быть принято в любой момент в течение этапа эксплуатации и мониторинга.
  • Знание ИИ: Знание ИИ относится к навыкам и ресурсам, таким как данные, код, алгоритмы, модели, исследования, ноу-хау, учебные программы, управление, процессы и лучшие практики, необходимость понимать и участвовать в жизненном цикле системы ИИ.
  • Актеры ИИ: Актеры ИИ - это те, кто играет активную роль в жизненном цикле системы ИИ, включая организации и частных лица, которые развертывают или эксплуатируют ИИ.
  • Заинтересованные стороны: Заинтересованные стороны включают в себя все организации и отдельных лиц, вовлеченных или затронутых косвенно, системы ИИ, прямо или косвенно. Актеры ИИ являются подмножеством заинтересованных сторон.

Раздел 1: Принципы ответственного управления надежным ИИ

II. РЕКОМЕНДУЕТ странам-членам и не членам, присоединившимся к настоящей Рекомендации (далее «Приверженцы») продвигать и реализовывать следующие принципы ответственного управления надежным ИИ, которые актуальны для всех заинтересованных сторон.

III. ПРИЗЫВАЕТ всех участников ИИ продвигать и реализовывать, в соответствии со своими Принципами ответственного управления заслуживающие доверия ИИ.

IV. ПОДЧЕРКИВАЕТ, что следующие принципы являются взаимодополняющими и должны рассматриваться как единое целое.

1.1. Инклюзивный рост, устойчивое развитие и благополучие

Заинтересованные стороны должны активно участвовать в ответственном управлении заслуживающими доверия ИИ в поисках выгодных результатов для людей и планеты, таких как расширение человеческих возможностей и повышение креативности, вовлечение слабо представленных групп населения, сокращение экономических, социальных, гендерных и других неравенств и защита окружающей среды, способствуя тем самым всестороннему росту, устойчивому развитию и благополучию.

1.2. Ориентированные на человека ценности и справедливость

Заинтересованные стороны должны активно участвовать в ответственном управлении заслуживающими доверия ИИ в поисках выгодных результатов для людей и планеты, таких как расширение человеческих возможностей и повышение креативности, вовлечение слабо представленных групп населения, сокращение экономических, социальных, гендерных и других неравенств и защита окружающей среды, способствуя тем самым всестороннему росту, устойчивому развитию и благополучию.

  • а) субъекты ИИ должны уважать верховенство закона, права человека и демократические ценности на всем протяжении жизненного цикла системы ИИ. К ним относятся свобода, достоинство и автономия, конфиденциальность и защита данных, отсутствие дискриминации и равенство, разнообразие, справедливость, социальная справедливость и международно признанное право на труд.
  • b) Для этого субъекты ИИ должны внедрять механизмы и гарантии, такие как определяющая роль человека, которая соответствует контексту и соответствует уровню техники.

1.3. Прозрачность и объяснимость

Участники ИИ должны обеспечить прозрачность и ответственное раскрытие информации о системах ИИ. Для этого они должны предоставлять достаточную информацию, соответствующую контексту и соответствующую уровню техники:

  • i. способствовать общему пониманию систем искусственного интеллекта,
  • ii. информировать заинтересованные стороны об их взаимодействии с системами искусственного интеллекта, в том числе на рабочем месте,
  • iii. дать возможность пострадавшим от системы ИИ понять результат, и,
  • iv. дать возможность тем, кто пострадал от системы искусственного интеллекта, оспаривать ее результаты на основе простой и понятной информации о факторах, а также логики, которая послужила основой для прогноза, рекомендации или решения.

1.4. Надежность, безопасность и защищенность

  • a) Системы искусственного интеллекта должны быть надежными, надежными и безопасными на протяжении всего их жизненного цикла, чтобы в условиях нормального использования, предполагаемом использовании или неправильном использовании, или других неблагоприятных условиях, они функционировали надлежащим образом и не представляли необоснованного риска или опасности.
  • b) Для этого субъекты ИИ должны обеспечивать контролируемость, в том числе в отношении наборов данных, процессов и решений, принятых в течение жизненного цикла системы ИИ, для обеспечения возможности анализа результатов и самой системы ИИ с целью дать ответы на запросы, соответствующие контексту и соответствующие уровню техники.
  • c) Субъекты ИИ должны, исходя из своих ролей, контекста и способности действовать, применять систематическое управление рисками на каждом этапе жизненного цикла системы ИИ на постоянной основе для устранения рисков, связанных с системами ИИ, включая конфиденциальность, цифровую безопасность, безопасность и предвзятость.

1.5. Подотчетность

Участники ИИ должны нести ответственность за надлежащее функционирование систем ИИ и за соблюдение изложенных выше принципов, основанных на их ролях, контексте и в соответствии с состоянием разработки.

Раздел 2: Национальная политика и международное сотрудничество в области надежного ИИ

V. РЕКОМЕНДУЕТ, что приверженцы выполняют следующие рекомендации, в соответствии с принципами, изложенными в разделе 1, в их национальной политике и международном сотрудничестве уделяя особое внимание малым и средним предприятиям (МСП).

2.1. Инвестиции в исследования и разработки ИИ

  • a) Правительствам следует сформировать политику, предусматривающую долгосрочные государственные инвестиции и поощрять частные исследования и разработки, включая междисциплинарные усилия, чтобы стимулировать инновации в надежный ИИ которые сосредоточены на сложных технических вопросах и связанных с ИИ социальных, правовых и этических последствиях.
  • b) Правительствам следует также предусмотреть государственные инвестиции и поощрять частные базы данных, которые являются репрезентативными и уважают конфиденциальность и защиту информации для поддержки среды для исследований и разработок ИИ, которые свободны от неуместного использования, а также для улучшения взаимодействия и применения стандартов.

2.2. Создание цифровой экосистемы для ИИ

Правительства должны способствовать развитию и доступу к цифровой экосистеме для надежного ИИ. Такие экосистемы включают, в частности, цифровые технологии и инфраструктуру, а также механизмы для совместного использования знаний ИИ, в зависимости от обстоятельств. В связи с этим правительствам следует рассмотреть вопрос о создании таких механизмов, как доверие к данным, чтобы поддержать безопасный, справедливый, правовой и этический обмен информацией.

2.3. Формирование благоприятной политической среды для ИИ

  • a) Правительствам следует создать политическую среду, которая способствует быстрому переходу от этапа исследований и разработок к этапу внедрения и эксплуатации надежных систем искусственного интеллекта. Для этого им следует рассмотреть возможность использования экспериментов для создания контролируемой среды в которой системы ИИ могут быть протестированы и отлажены в зависимости от ситуации.
  • b) Правительствам следует пересмотреть и адаптировать, в случае необходимости, свою политику и нормативно-правовую базу и механизмы оценки применительно к системам искусственного интеллекта для стимулирования инноваций и конкуренции на рынке заслуживающих доверия ИИ.

2.4. Наращивание человеческого потенциала и подготовка к трансформации рынка труда

  • a) Правительства должны тесно сотрудничать с заинтересованными сторонами, чтобы подготовиться к трансформации рынка труда и общества. Они должны дать людям возможность эффективно использовать и взаимодействовать с системами искусственного интеллекта по всему спектру приложений, в том числе путем обучения людей необходимым навыкам.
  • b) Правительства должны предпринять шаги, в том числе посредством социального диалога, для обеспечения справедливого перехода к профессиям, использующим ИИ, такие как программы обучения на протяжении всей трудовой жизни, обеспечить поддержкой тех, кто вынужден сменить работу, обеспечить доступ к новым возможностям на рынке труда.
  • c) Правительства должны также тесно сотрудничать с заинтересованными сторонами, чтобы способствовать ответственному использованию ИИ в работе, повышать безопасность работников и качество рабочих мест, развивать предпринимательство и продуктивность, а также стремиться к тому, чтобы выгоды от использования ИИ были в всеобщими и справедливыми.

2.5. Международное сотрудничество для надежности ИИ

  • a) Правительствам, включая развивающиеся страны и заинтересованные стороны, следует активно сотрудничать в целях продвижения этих принципов и обеспечивать прогресс в ответственном управлении заслуживающим доверия ИИ.
  • b) Правительствам следует работать вместе в ОЭСР и на других глобальных и региональных форумах для обмена знаниями ИИ, в зависимости от обстоятельств. Они должны поощрять международные, межотраслевые и открытые многосторонние инициативы для получения долгосрочного опыта в области ИИ.
  • c) Правительствам следует содействовать развитию многосторонних, основанных на глобальном консенсусе технических стандартов для совместимого и надежного ИИ.
  • d) Правительствам следует также поощрять разработку и использование на международном уровне сопоставимые методики для измерения исследований, разработок и внедрения ИИ, сбора доказательной базы для оценки прогресса в реализации этих принципов.

VI. ПРЕДЛАГАЕМ Генеральному секретарю и его сторонникам распространить настоящую Рекомендацию.

VII. ПРЕДЛАГАЕМ не участвующим сторонам должным образом учитывать и соблюдать настоящую Рекомендацию.

VIII. УКАЗЫВАЕМ Комитету по политике цифровой экономики:

  • a) продолжить свою важную работу по созданию искусственного интеллекта на основе этой Рекомендации и принять во внимание работу на других международных форумах, а также для дальнейшего развития системы измерения для обоснованной политики ИИ;
  • b) разработать и повторить дальнейшее практическое руководство по выполнению этой Рекомендации, и представить Совету доклад о достигнутом прогрессе не позднее конца декабря 2019 года;
  • c) обеспечить форум для обмена информацией о политике и деятельности ИИ, включая опыт реализации настоящей Рекомендации, а также для содействия многосторонним и междисциплинарным диалогам для укрепления доверия и принятия ИИ; а также
  • d) в консультации с другими соответствующими комитетами следить за исполнением Рекомендации и предоставить доклад по этому вопросу Совету не позднее чем через пять лет после его принятия и регулярно после этого.

Просмотров всего: 5661 Просмотров сегодня: 9

Уровень беспокойства: почему глобальные температуры имеют значение

Уровень беспокойства: почему глобальные температуры имеют значение