Должен ли ИИ принадлежать государству?

Вопрос владения ИИ состоит из двух частей. Первая – право на результаты работы ИИ. Этот вопрос важен еще и потому, что рано или поздно нужно будет определиться, кому принадлежат права на изобретения, произведения искусства и продукцию, созданные искусственным интеллектом. В настоящее время право авторства неразрывно связно с личностью создателя объекта. Поскольку речь о признании субъектности за ИИ пока не идет, считается, что такие произведения не имеют авторства. Но это до поры до времени – с ростом их значимости и ценности авторское право в передовых странах, скорее всего, будет изменено. В промежуточный период право владения будет за тем, кому принадлежит конкретная созидающая система ИИ. Вторая часть проблемы владения ИИ – это право на технологии, методы и научные результаты в области ИИ. Здесь все еще сложнее.

Прежде всего, стоит оговориться, что традиционно ИИ разделяют на «сильный», или общий – это ИИ уровня человека, – и «слабый» (искусственный интеллект для решения конкретных задач типа игры в го). Есть еще гипотетический суперинтеллект, но вопрос с ним достаточно спорный, а потому рассматривать его не будем.

Традиционно искусственный интеллект разделяют на «сильный», или общий – это ИИ уровня человека, – и «слабый»

С появлением методов глубокого машинного обучения проблема создания «слабого» ИИ в целом решена. Там есть еще множество хотелок, типа того, чтобы обучение происходило чуть ли не в реальном времени, при обучении новому не происходило забывание ранее изученного и т. д. Поэтому основная и очень сложная во всех смыслах проблема – создание ИИ, по крайней мере, приближающегося к «сильному». Раздающиеся периодически призывы к государству взять ИИ под свой контроль происходят как раз из-за публикуемых СМИ страшилок возможных негативных последствий развития «сильного» ИИ. Рассмотрим каждую из перечисленных выше областей.

Армия

Проще всего сказать, что государству должны принадлежать разработки в области ИИ для армии и силовых структур. Это в первую очередь обусловлено секретностью. Но здесь не все так просто. Очень важен вопрос, каким образом государство сможет передавать в гражданский сектор разработки, которые могут стимулировать научные исследования, имеют хорошие перспективы коммерциализации и т. д. Эта проблема в своей крайней форме существовала и в СССР, когда передовые разработки из военного сектора практически не попадали в гражданский. Понятно, что в целом экономика страны несет от этого большие убытки. Да и военно-промышленные компании должны иметь возможность дополнительно заработать на гражданских рынках. Разумеется, диверсификация работы этих компаний при выходе на гражданские рынки также гарантирует их жизнеспособность в случае кризисов, резкого сокращения военных заказов и т.п. В целом необходим работающий механизм, с помощью которого можно будет осуществлять контролируемый трансфер технологий ИИ из военного сектора в гражданский.

Вопрос прав на разработки в области военных ИИ связан еще и с тем, что дефицит высококвалифицированных кадров в этой области есть во всех секторах. Армейские научные роты его никоим образом не покроют. Поэтому военному ведомству в ряде случаев интересно заказывать разработки у коммерческих структур, для которых, в свою очередь, очень важен вопрос прав на разработку. Если в результате все права на создаваемый продукт или технологии теряются, то далеко не все компании соглашаются на такие контракты (и совсем интересные коллизии с правами возникают, когда разработку для заказчика совместно делают несколько компаний).

Наука

В науке существует множество направлений, связанных с ИИ. Прежде всего, это фундаментальные исследования, направленные на создание «сильного» ИИ. Такие исследования в России в основном финансируются государством. Есть три пути разработки.

Первый путь – создание нейроморфного ИИ, т. е. копирование природы, а для этого нужны дорогостоящие программы, связанные с изучением работы мозга, – это так называемые науки о мозге (neuroscience). Такие программы осуществляются с 2012–2013 гг. в США, Китае, ЕС и Японии. В мире больше десятка подобных программ, бюджеты которых составляют от 1 до 3 млрд. долл., то есть сопоставимы с годовыми бюджетами всей РАН. В России ни одной подобной программы нет, а потому имеется громадное отставание от лидеров, хотя ведутся работы по отдельным частным темам исследований. Отмечу, что Китай, поставивший перед собой в 2017 г. цель стать к 2030 г. лидером в области ИИ, одновременно поставил цель к 2030 году занять лидирующее положение в мире и по нейронауке. Вообще для Китая в стратегии создания ИИ характерно движение сразу по всем возможным направлениям.

Президент РАН Александр Сергеев инициировал принятие в 2019 г. российского проекта по исследованиям мозга, однако в прогресс этой инициативы что-то верится с трудом. Вопрос обсуждался на заседании Президиума РАН 16 апреля. Поскольку финансирование фундаментальных исследований – это прерогатива государства, то ему и принадлежат в этом вопросе инициатива и результаты, но здесь существует не до конца решенный вопрос, кому принадлежат результаты исследований международных исследовательских коллективов и как, на каких условиях государство должно участвовать в них.

Второй путь – создание ИИ на основе алгоритмического подхода. Все нынешние громкие успехи ИИ обязаны своим появлением методу глубокого машинного обучения. Эта часть активно прорабатывается в различных методах МО. Именно она отмечена в проекте Национальной стратегии в области ИИ. Этот метод основан на обработке громадных объемов размеченных специальным образом данных, т.е. связана с так называемыми большими данными. Подготовка данных составляет 80% расходов при решении задач таким образом. Одно из преимуществ Китая в части ИИ перед США в том, что у него такие большие данные есть. Как следует из упомянутой Национальной стратегии, авторы полагают, что для задач ИИ будут доступны российские медицинские данные. Однако здесь много вопросов.

Третий метод создания «сильного» ИИ – выращивание ИИ в модельной среде. Этот подход из области, которая называется «искусственная жизнь». По ряду причин мне это направление представляется наиболее интересным, но оно пока находится в зачаточном состоянии.

Экономика

Наконец, рассмотрим ИИ в экономике. Компании уже активно разрабатывают и внедряют системы с ИИ. На волне популяризируемой в стране цифровой экономики роль государства состоит прежде всего в создании комфортного бизнес-климата для внедрения цифровых технологий, стимулируя в первую очередь повышение с их помощью производительности труда и конкурентоспособности отечественных предприятий. Поскольку в экономике работает главным образом «слабый» ИИ, то роль государства должна также состоять в прогнозировании негативных последствий внедрения технологий ИИ в тех или иных отраслях бизнеса, а также в обеспечении экономической и информационной безопасности, связанной с ними.

В целом страна начала движение в сторону ИИ. Лед тронулся. Готово ли государство к эпохе ИИ? Это пока открытый вопрос. И, поскольку тема весьма обширна, эта колонка совсем не претендует на охват всех вопросов, связанных с проблемой, кому должен принадлежать ИИ.