Серьезные аналитические исследования, связанные с важными глобальными вопросами, в России практически не проводятся. А если результаты и публикуются, то их часто критикуют за ангажированность, наличие политической подоплёки и необъективность. Но в отдельных случаях экспертные выводы заслуживают пристального внимания. Особенно, если они не затрагивают политику и касаются важных, глобальных вопросов.

Исследование, описывающее принципы и основы регулирования генеративного искусственного интеллекта, — хороший тому пример. Все работы, связанные со сбором, анализом и обработкой результатов, выполнила российская независимая компания «Яков и партнёры» совместно с Альянсом в сфере ИИ.

Результаты исследования затрагивают проблемы, с которыми человечество напрямую ещё не столкнулось, ведь технологии ИИ находятся в самом начале своего развития. Авторы считают, что если результаты исследования правильно интерпретировать и принять необходимые меры, то можно будет защититься от потенциальных угроз, которые, вероятно, проявят себя уже через несколько лет.

Лидирующие страны

В сфере регулирования генеративного ИИ сейчас проявляется стадия бурного роста. Правительства, столкнувшись с нехваткой (отсутствием) юридических инструментов контроля принципиально новых технологий, оценивают различные концепции и подходы, степень влияния которых на компании и разрабатываемые ими продукты ещё предстоит выяснить.

Существующие подходы к регулированию:

• 1 группа — создание и поддержание режима наибольшего благоприятствования для развития технологий ИИ + стимулирование иностранных инвестиций в эту сферу.
• 2 группа — создание комфортных условий для национальных разработчиков + искусственные юридические барьеры, препятствующие выходу иностранных компаний, работающих в этой сфере, на внутренний рынок.
• 3 группа — снижение потенциальных рисков, связанных с массовым внедрением технологий, что ведёт к жёсткому государственному контролю и замедлению исследований и разработок в сфере ИИ.

Страны, дальше других продвинувшиеся в вопросах регулирования генеративного ИИ (1 группа, в алфавитном порядке, без учёта занимаемых позиций в общем рейтинге):

• Израиль;
• ОАЭ;
• Россия;
• Сингапур;
• США.

Страна, выбравшая второй подход — Китай.

Страны, стремящиеся к минимизации рисков (3 группа):

• Евросоюз;
• Канада;
• Бразилия.

Ситуация в России

РФ традиционно относят к странам с жёстким государственным контролем сферы R&D. Но исследование показало, что власти сделали ставку на технологии искусственного интеллекта. Поэтому даже в условиях санкций в России пока наблюдается баланс между интересами государства, нормативными ограничениями и стимулированием научно-исследовательских разработок.

ИИ в России, самое важное по теме:

• действуют общие законы, распоряжения правительства, а также специфические нормативы саморегулирования;
• основные игроки сферы ИИ подписали специальную декларацию, вводящую добровольную ответственность и базовые этические правила, связанные с научными разработками и использованием технологий искусственного интеллекта;
• Россия — одна из ведущих стран по критерию интеграции теоретических разработок, связанных с ИИ;
• сильная математическая школа, которая форсирует теоретические исследования и практическое внедрение новых технологий;
• для дальнейшего развития ИИ в России нужны значительные инвестиции, иначе лидирующие позиции будут утрачены, а конкурентоспособность отечественных разработок снизится.

Экономическая эффективность применения технологий искусственного интеллекта в России, расчётные показатели на период до 2028 года (трлн руб. в год):

• розничная торговля — до 1,1;
• банковская отрасль — до 0,9;
• горно-металлургическая отрасль — до 0,9;
• производственный сектор (товары народного потребления) — до 0,7;
• транспорт, логистика — до 0,7;
• отрасль цифровых технологий — до 0,5;
• другое — до 2.

Суммарный эффект по самым скромным расчётам составит около 7 трлн руб. Если учесть, что данные получены в 2023 году, когда санкции против России уже действовали, можно предположить, что был использован максимально неблагоприятный сценарий, учитывающий существующие геополитические реалии. Если ситуация улучшится, итоговые показатели станут значительно выше.

Риски, связанные с практическим применением технологий ИИ

Если оставить за скобками мнимые риски, которые часто «приписывают» любым инновационным разработкам, в корне меняющим положение вещей (disruptive technology), то может показаться, что никаких реальных угроз у ИИ нет. На самом деле это не так. Причём опасны и деструктивны обе крайности — игнорирование потенциальных проблем и максимальное ужесточение контроля.

Основная угроза — стремительное, лавинообразное развитие как теоретических разработок, так и технологий на их основе, имеющих практическое применение. Соответствующие сервисы появляются почти каждый день. Это создаёт неудобства для потребителей и сложности в регулировании, так как законодатели просто не успевают принимать регламентирующие акты.

Потенциальные риски:

• сложно найти оптимальное соотношение между уровнем контроля со стороны государства и стимулирующими мерами;
• возможная угроза общественной безопасности;
• сложности с контролем на уровне общественных институтов (а не в лабораториях и исследовательских центрах);
• появление новых мошеннических схем, сложных для выявления (например, технология дипфейк);
• рост объёма недоброкачественного (вредного, не соответствующего нормам законодательства, опасного для некоторых категорий пользователей) контента;
• невозможность оценить релевантность контента, сгенерированного ИИ (как минимум без значительных потерь времени), в ряде случаев такая информация может нести потенциальные риски;
• системные изменения на рынке труда (некоторые профессии могут стать ненужными, что спровоцирует рост безработицы и социальную напряжённость);
• появление принципиально новых схем цифрового мошенничества;
• возможное нарушение этических норм.

Об инструментах противодействия, как технических, так и юридических, сейчас говорить рано. Технологии ИИ развиваются, единые стандарты отсутствуют, программно-аппаратные средства контроля ещё не вышли за стены лабораторий. Единственный условно рабочий инструмент, доступный уже сегодня, — обязательная маркировка контента, созданного (сгенерированного) искусственным интеллектом.

Политика открытого информирования общества

Можно предположить, что со временем будут разработаны действительно эффективные методы противодействия угрозам, созданным с использованием технологий ИИ. Но проблема в том, что такие инструменты рассчитаны исключительно на уже существующие риски. Методы, применяемые мошенниками и преступниками, также совершенствуются. Поэтому добиться паритета, используя юридические или программно-аппаратные системы, будет сложно.

Эксперты считают, что избежать «гонки вооружений» можно только через повышение уровня знаний в обществе. Хороший пример — рекомендации специалистов по безопасности, касающиеся работы с электронной почтой. Так, если вы получаете e-mail от неизвестного адресата с вложением, такое письмо нужно сразу удалять. Для постоянных пользователей интернет-сервисов традиционно рекомендуются мощные средства сетевой защиты (фаервол, проактивные технологии). А всем владельцам банковских карт эксперты советуют не проводить транзакции через сайты, использующие собственные платёжные платформы (когда оплата сделки происходит не через портал самого финансового учреждения).

Понимание принципов работы ИИ, разумные меры предосторожности и эффективные юридические инструменты, гарантирующие права пользователей, способны обеспечить достаточный (хотя и не абсолютный) уровень защиты. Полностью исключить риски в любом случае не получится, но значительно снизить их реально.

Базовая осторожность поможет справиться даже с технологией Deepfake (deep learning «углублённое обучение» + fake «подделка»). Например, типичный случай: вы принимаете видеозвонок от якобы «знакомого», который просит у вас деньги. Отличить подделку от оригинала может быть довольно трудно. Но эффективный и доступный метод проверки есть. Просто задайте собеседнику вопрос, ответ на который знает только он.

Мошенники способны сгенерировать идеальную визуальную копию, но они в принципе не могут знать, как вы познакомились, кто преподавал у вас математику в институте или какая кличка у собаки. Вся эта информация есть в открытом доступе, но мошенники обычно избегают таких сложных схем, предпочитая искать жертвы «попроще».

Заключение

Может показаться, что для противодействия мошенничеству, основанному на ИИ, проще всего использовать силовые и специальные ведомства. Но практика показала, что эффективность таких методов не очень высока, особенно если исключён прямой контакт между преступником и его жертвой.

Прогресс остановить нельзя, технологии искусственного интеллекта — это уже наше настоящее. Они проникают в жизнь, делают её проще и комфортнее. Пока не разработаны действенные меры контроля ИИ, стоит проявлять разумную осторожность и базовые правила безопасности во всех сферах, связанных с деньгами, конфиденциальной информацией, корпоративными секретами.

Дополнительную информацию по теме вы можете получить на индивидуальной консультации.