Расшифровка подкаста: Цифровые двойники человека, дипфейки и риски кибермошенничества
Профессор МГУ Лариса Лапидус и эксперт Елена Пронина о технологической эволюции ИИ, экономике данных и правовом вакууме цифровой эпохи
В недавнем выпуске эксклюзивного интервью эксперты детально разобрали, как стремительное развитие технологий генеративного искусственного интеллекта трансформирует бизнес-модели, в каких отраслях цифровые аватары приносят реальную экономическую выгоду, где проходит грань между прогрессом и подлогом и как защитить свои биометрические данные от трансграничного перетока.
Основные темы выпуска:
- Генеративно-состязательные нейросети и архитектура автокодировщиков – как создаются неотличимые цифровые копии голоса и образов.
- Применение аватаров в маркетинге, киноиндустрии и медицине, а также причины, по которым более 90% дипфейков сегодня создаются в негативных целях.
- Понятия «воспринимаемого» и «реального» качества, разрывы в ожиданиях клиентов и риски чрезмерного «улучшения» карточек товаров.
- Трансграничная передача данных: почему ведущие ученые запрещают ИИ обучаться на своих лекциях и книгах.
- Почему рынок дипфейков вырастет до 2 триллионов долларов и как бизнесу защититься от неизбежного всплеска киберпреступности.
Ознакомьтесь с материалом в удобном для вас формате! Полная видеоверсия дискуссии доступна на наших платформах:
Для профессионального сообщества мы подготовили подробную текстовую адаптацию беседы.
Эксперты дискуссии:
Ведущая: Пронина Елена Васильевна — директор Центра правовой поддержки в энергетике и цифровых технологий, главный редактор журнала «Мегаватты права».
Гость: Лапидус Лариса Владимировна — доктор экономических наук, профессор кафедры экономики инноваций экономического факультета МГУ имени М. В. Ломоносова, автор первого в России учебника по цифровой экономике.
Елена Васильевна (ЕВ): Добрый день, уважаемые подписчики и гости моего канала! На этом канале мы обсуждаем вопросы энергетики, цифровизации и не только. И сегодня у меня в гостях доктор экономических наук, профессор МГУ имени М.В. Ломоносова Лапидус Лариса Владимировна. Лариса Владимировна, добрый день! Я очень рада видеть вас снова в нашей студии.
Лариса Владимировна (ЛВ): Спасибо, Елена Васильевна, за приглашение! Всегда рада быть с вами и обсуждать самые актуальные темы, которые сегодня волнуют всех.
ЕВ: Напомню, что мы уже снимали с вами совместные подкасты, и темы, которые мы поднимали, были на острие не только науки, но и общественных интересов. Ссылки на эти видео мы прикрепим внизу, поэтому всем, кому интересно, предлагаю их посмотреть.
Сегодня для дискуссии мы выбрали очень интересную тему, посвященную цифровым двойникам человека. Я занимаюсь цифровыми двойниками в энергетике, а здесь речь пойдет именно о цифровых двойниках людей. Сейчас цифровизация воспринимается обществом двояко: как негативно, так и позитивно. Для нас с вами, как людей из этой области (вы смотрите с точки зрения науки, я отчасти тоже, плюс профессия), цифровизация – это безусловный прогресс и наша работа, в которой мы видим позитивные стороны. Но, к сожалению, общество не всегда хорошо относится к технологическому прогрессу.
Тема цифровых двойников человека выбрана нами неслучайно: в первую очередь мы хотим донести до людей, что этого не нужно бояться, и рассказать, что же такое цифровой двойник человека и так называемые дипфейки. Поэтому, Лариса Владимировна, поделитесь, пожалуйста, вашим профессиональным, научным взглядом: что такое цифровой двойник человека? Опасен ли он для общества? Каковы его позитивные и негативные стороны?
ЛВ: Да, Елена Васильевна, вы очень правильно отметили, что за каждым явлением цифровой экономики, всем, что связано с цифровизацией, цифровой трансформацией и появлением новых технологий, всегда можно наблюдать две стороны: позитивную и негативную. К сожалению, наверное, это так.
Любое явление в цифровой экономике всегда нужно рассматривать с двух сторон. С одной стороны, оно несет блага для общества: например, бизнес может использовать технологии для повышения конкурентоспособности и улучшения стратегической устойчивости. С другой стороны, бизнес несет риски, а люди могут подвергаться негативному воздействию. Каждый такой трансформационный процесс необходимо анализировать через призму критического мышления на предмет его влияния на общество. Поэтому в цифровой экономике предстоит много работы всем: юристам, экономистам, психологам, педагогам.
Возвращаясь к нашей теме, дипфейки – это одна из тех тем, которая за последние годы приобрела негативный окрас. Первые видео, названные дипфейками, имели отрицательную коннотацию: мы понимали, что это некий подлог, подмена. А когда мошенники начали активно использовать эту технологию, стало очевидно, что она несет угрозу для общества.
Но если посмотреть на это системно, я бы начала с определения: что же такое дипфейк? Цифровые двойники людей, аватары или дипфейки... Само слово «дипфейк» состоит из двух английских слов: deep (от deep learning – глубокое обучение) и fake (подделка, фальсификация). То есть это создание того, чего не существует в природе.
Глубокое обучение – это передовой метод искусственного интеллекта, представляющий собой многократное использование алгоритмов машинного обучения по уровням. С их помощью из необработанных, в том числе неструктурированных, входных данных вычленяются высокоуровневые признаки. Например, из фотографий или видео с изображением лица человека. Мы часто видим это в дипфейках, когда воссоздается образ человека в определенном контексте на видеофрагменте. Для этого, конечно, используются технологии искусственного интеллекта.
С технической точки зрения здесь применяются два основных метода. Первый – это генеративно-состязательные нейросети. В этом случае создаются две нейросети: генератор и дискриминатор. Генератор на основе данных обучается и воссоздает фейк. А дискриминатор оценивает, насколько этот фейк соответствует реальности, пытается проконтролировать качество и указывает генератору на недостатки, если подделка создана недостаточно хорошо. В итоге работа такой генеративно-состязательной сети, фактически включающей в себя антагонистов, приводит к тому, что в какой-то момент дискриминатор перестает отличать реальность от фейка. На этом генерация останавливается – на этом принципе и основано создание дипфейков.
Второй метод – это автокодировщики. Архитектура автокодировщиков позволяет взять изображение и снизить его размерность: использовать математические векторы вместо пикселей, фактически сжимая картинку. Затем она разворачивается и воссоздается уже в новой реальности, образуя дипфейк.
На этих же алгоритмах основано синтезирование речи и голоса, которое сейчас активно используют мошенники. Такое синтезирование достигло уровня, когда человеческое ухо не способно отличить сгенерированный искусственным интеллектом голос от настоящего.
Если смотреть на техническую сторону, то это, безусловно, прогресс. Технологии прошли свою эволюцию: дипфейки появились не сразу, считается, что первые их образцы стали появляться только к 2017 году благодаря разработкам ученых. Но, как мы уже сказали, любое явление имеет две стороны. И начну я, пожалуй, с хорошей, позитивной.
Актуально по теме: разоблачение мифов об искусственном интеллекте (прошлый выпуск подкаста)
ЕВ: То есть, если говорить о том, для чего они изначально создавались: вряд ли разработчики дипфейков специально задумывали их для того, чтобы технологией пользовались мошенники. Наверное, все-таки изначально предполагалась какая-то иная цель?
ЛВ: Вообще, для разработчиков, которые решают подобные технические задачи, зачастую действительно стоит какая-то конкретная цель. Именно так появляются новые бизнесы, бизнес-модели и цифровые платформы. Но, с другой стороны, ими может двигать и просто желание попробовать свои силы в решении сложной задачи.
Генеративно-состязательные сети как раз появились из-за того, что ученые пытались понять: как создать, например, фотографию, на которой было бы то же самое лицо, но в совершенно ином обличии? И только постепенно они пришли к выводу, что необходимо иметь вторую, состязательную сеть, которая будет перепроверять первую, и тогда результат будет гораздо более высокого уровня.
Если мы посмотрим, как это сегодня применяется, например, в рекламе или при генерации карточек товаров на маркетплейсах, то увидим, что искусственный интеллект используется не для злонамеренной подмены конкретного лица. Там воссоздаются вымышленные персонажи – несуществующие в реальности лица, которые помогают предпринимателям экономить на услугах фотомоделей. Мы также можем видеть использование подобных аватаров на определенных видеопоказах мод, что тоже в значительной степени позволяет экономить на реальных моделях.
Если продолжить говорить о положительной стороне, то эта технология получила очень хороший отклик в кинопроизводстве. Начну сразу с конкретного примера – фильма «Диверсант». Новые серии снимали уже после ухода из жизни Владислава Галкина, и тогда решался вопрос: как воссоздать образ нашего талантливого российского актера, чтобы зрители смогли увидеть его в продолжении? Для этого нейросеть обучили на многочисленных видеофрагментах, фотографиях и голосовом контенте, чтобы суметь воспроизвести его в виде дипфейка. Хотя в данном случае, возможно, правильнее использовать слово «аватар» – этот термин имеет менее отрицательную коннотацию и в науке выступает как полноценная категория. Как бы то ни было, технология была применена, и сериал получил продолжение.
Если же мы посмотрим на сферу маркетинга и рекламы, то там эта технология тоже нашла очень интересное применение. Ведь если в техническом плане разработчиками часто движет желание решить сложную задачу, принять вызов и выйти на новый технологический уровень (что и приводит к появлению инноваций), то в маркетинге и бизнесе во главу угла ставятся экономические выгоды. А также экологические или социальные эффекты.
Именно поэтому в маркетинге дипфейки сразу возымели успех: стало понятно, что можно существенно экономить на производстве рекламных видеороликов. Во-первых, это прямой экономический эффект. Были случаи, когда рекламный ролик создавался с помощью технологии дипфейка и озвучивался сгенерированным голосом знаменитого актера или актрисы. Это позволило сократить расходы на четверть – очень серьезная выгода. Более того, сократились сроки. Продакшн такого видеоролика занял не месяцы, а всего лишь одну неделю. И, конечно, учитывая, что человеческим глазом заметить подмену практически невозможно, это оказалось крайне привлекательным для бизнеса. В этом плане дипфейки отлично работают именно в позитивной коннотации.
Следующий пример – индустрия развлечений. Телевизионное шоу «Аватар», которое идет у нас на экранах, тоже полностью построено на использовании технологий дипфейка. Или недавний концерт группы ABBA, который был полностью виртуальным, на аватарах. И все билеты на него были распроданы!
Меня, честно говоря, это очень удивило. Когда знаешь технологию создания, не совсем понимаешь, зачем вообще идти на такой концерт. Но преданные фанаты ABBA посчитали, что это здорово. А другая часть людей, наверное, подумала, что это отличный шанс побывать на таком необычном мероприятии и посмотреть, что же в этом нового. Да, и все это в совокупности привело к колоссальному успеху такого шоу.
ЕВ: То есть, если это происходит с согласия самих потребителей, если они заранее знают, что перед ними аватары или дипфейки, то почему бы и нет. Другое дело, когда они об этом не подозревают. Обязательная маркировка контента, созданного с использованием искусственного интеллекта, появится у нас только с 2027 года. А до этого обычным потребителям будет очень сложно понять, где ИИ, а где нет.
Насколько мне известно, на маркетплейсах уже возникали недовольства: потребители видят товары, изображения которых были приукрашены с помощью искусственного интеллекта, а по факту им приходит товар совершенно иного вида. Так что здесь, конечно, есть свои негативные моменты.
ЛВ: Вы знаете, Елена Васильевна, что касается подобного приукрашивания – это очень опасная для бизнеса вещь. В управлении качеством есть такие научные категории, как «воспринимаемое качество» и «реальное качество». Воспринимаемое качество – это то представление о продукте, которое формируется у нас в голове на основе определенной информации.
То есть мы используем определенную информационную модель – ту информацию, которую где-то увидели: отзывы, рекламные кампании и так далее. На этой основе у нас формируется воспринимаемое качество. Затем наступает «момент истины» – точка получения товара или фактического оказания услуги, когда мы уже можем оценить качество реальное.
И самое опасное здесь – это возникающие разрывы. Если, сопоставляя реальное качество с воспринимаемым, мы видим сильное расхождение, то на выходе получаем неудовлетворенного клиента.
ЕВ: Который не понимает, что вообще получил.
ЛВ: Именно. И если посмотреть на шкалу оценки потребительской удовлетворенности и лояльности, то это крайне опасная ситуация. Бизнес сразу прочувствует это на себе: упадет уровень удовлетворенности, за ним снизится лояльность, и в итоге даже постоянный клиент постепенно потеряет доверие. Все это неизбежно отразится на повторных покупках. Ведь именно наращивание и удержание качества, когда воспринимаемое качество соответствует реальному, стимулирует клиента возвращаться снова. За это и борется бизнес, потому что постоянный, лояльный клиент – это самый ценный клиент. И на маркетплейсах я тоже замечала эту проблему чрезмерного улучшения картинок.
ЕВ: Улучшение или, например, визуальное укрупнение какой-то вещи при покупке.
ЛВ: Да, визуальное укрупнение.
ЕВ: Это вообще часто бывает: на картинке вещь кажется большой, а потом приходит заказ, и он словно для домика Барби. Это правда.
ЛВ: Совершенно верно! Заказываешь дуршлаг, который казался большим, а он оказывается крошечным, буквально для трех ягод.
ЕВ: Да, и это касается даже продуктов. Буквально вчера я тоже стала своеобразной жертвой дипфейка. Оформляла доставку, накидала в корзину разные продукты, в том числе молоко. Смотрю на картинку – молоко как молоко, выглядит обычно. А привозят мне в итоге крошечную детскую упаковку с трубочкой, знаете, вот такого маленького размера. Я, конечно, над этим посмеялась. Шутки шутками, но это все равно неприятно.
ЛВ: Конечно, это не цифровые двойники людей, но явление из той же самой серии.
ЕВ: Тем не менее, да. А вот возвращаясь к цифровым двойникам людей, есть очень интересная тема по поводу всевозможных фильтров-«улучшателей». Это ведь тоже некий дипфейк, правильно?
ЛВ: Да, получается подмена. Использование таких «улучшателей» – это тоже дипфейк. Любая визуальная подмена является дипфейком. Собственно, эта технология и была направлена на то, чтобы создавать нечто приближенное к реальности, но измененное. Это может быть помещение человека в измененный контекст или видео, либо же изменение его собственного облика в личных целях. И мы все чаще наблюдаем это в последнее время.
ЕВ: Например, в анкетах при приеме на работу или при знакомствах. Говорят, доходит до того, что людей просто не узнают на свиданиях, потому что на фото была представлена их сильно «улучшенная» версия.
ЛВ: Да, совершенно верно. И это, кстати, вопрос, который пока еще не обсуждается на каком-то высоком уровне.
ЕВ: На более высоком уровне. Но, наверное, уже пора, потому что...
ЛВ: Да, пора, потому что, на мой взгляд, это неэтично – отправлять резюме с фотографией, сгенерированной с помощью технологий дипфейка. Когда я слышу от образованных людей: «Я создал себе фотографию с мягким взглядом с помощью определенного сервиса, но что-то она мне не очень понравилась», – в этот момент я думаю: «Интересно, как на той стороне HR-специалисты на это смотрят?».
Если бы спросили меня, я бы ответила, что такое резюме даже не стала бы рассматривать и сразу отложила бы в сторону, потому что это подлог. Фотография в резюме несет определенную информацию, и наличие реального снимка – это как минимум жест честности.
ЕВ: Лариса Владимировна, вы знаете, я, как человек, который часто набирает персонал, могу сказать следующее. Возможно, дипфейк, если он не на сто процентов меняет взгляд, нос и вообще облик человека, а дает лишь небольшое визуальное улучшение, это даже хорошо по сравнению с тем, с чем мы сталкивались до появления этих технологий.
Я вам рассказываю реальные истории: люди крепили к анкетам фотографии со своих свадеб. Девушка прямо в свадебном платье. Или мужчины – часто видно, что это свадебный костюм, потому что в петлице цветок. Присылали даже фото в купальниках! А ведь мы рассматриваем резюме на должности юристов, экономистов, секретарей и так далее. Это же не кастинг моделей для съемки на Wildberries, чтобы присылать фото в купальнике. Но очень часто шли в ход именно свадебные фотографии. Я так понимаю, люди просто решили, что красивее всего они выглядели именно в день своей свадьбы.
ЛВ: Вы знаете, кстати, что касается цифровых двойников или так называемых аватаров. Считается, что когда человек создает себе аватара, обычно видно, что это искусственно сгенерированный образ. Но сам человек ассоциирует себя с ним, он же сам его для себя выбирает. Возможно, он подсознательно желает быть похожим на этого аватара. Есть даже такой психологический парадокс.
ЕВ: Примеряет роль на себя, получается? Выбирает эту роль и принимает её, правильно?
ЛВ: Да, и в дальнейшем старается быть на него похожим. Но я бы все-таки рекомендовала людям относиться к этому осторожнее и внимательнее. На мой взгляд, при приеме на работу для соискателей подобные вещи не совсем допустимы.
ЕВ: Абсолютно согласна. Когда на собеседование приходит совершенно другой человек, это пугает. Чего от него ожидать дальше, если уже на этапе первого знакомства он предоставляет подделку и совершает подлог, как вы это назвали.
ЛВ: Да, это потом очень сильно бросается в глаза. Даже в социальных сетях мы сегодня видим множество людей, которые создают свои дипфейки и, на их взгляд, таким образом приукрашивают фотографии. Если раньше говорили: «Вот, использовали фотошоп», и это уже воспринималось как-то негативно, то сегодня дипфейк – это полностью перерисованное лицо. И если ты хорошо знаешь человека в жизни, возникает резонный вопрос: зачем он это делает?
Если есть интерес просто к самой технологии – это еще можно объяснить. Если есть желание показать себя с лучшей стороны – вопрос «зачем?» остается открытым. Наверное, в этих причинах должны разбираться психологи и социологи. Меня же как экономиста больше интересует использование этих технологий бизнесом: где здесь кроется реальная бизнес-ценность и в каких отраслях она применима.
Если посмотреть на положительные примеры, я бы в первую очередь назвала медицину и здравоохранение. Сегодня дипфейки можно использовать для создания симуляций поведения пациентов с определенными, в том числе редкими, заболеваниями. Использовать реальных больных для таких съемок неэтично, да никто этого и не будет делать. А вот воссоздавать обучающие видео с виртуальными пациентами через технологии дипфейков – это замечательная идея. Это позволяет массово применять качественный обучающий контент, который ничему не противоречит и не ущемляет ничьих прав. Поэтому, я думаю, в здравоохранении цифровые двойники будут использоваться все активнее.
А вот если посмотреть на сферу образования, то здесь сложнее найти этот водораздел: где позитив, а где негатив. Что, собственно, произошло за последние годы? Сами технологии и сервисы, позволяющие генерировать дипфейки, стали крайне доступными. Если раньше это были очень дорогостоящие платформы или индивидуальные разработки, то сегодня существуют сервисы, где за 13 долларов в месяц по подписке любой желающий может создавать дипфейки.
Это породило целую волну новых возможностей и, соответственно, новых проблем. Я думаю, вскоре должны появиться решения, которые будут ограничивать использование таких сервисов для бытовых нужд. Здесь просто необходимо определенное регулирование. Если технология применяется в профессиональных целях, это можно описать на юридических основаниях: понятно, где, кем и для чего будет использован этот дипфейк. И если это делается во благо, имеет подтвержденную бизнес-ценность, никого не обманывает и находится в рамках этики и права – почему бы и нет? Мне кажется, в этой сфере должен появиться некий контроль за тем, как используются эти сервисы.
ЕВ: И кем используются.
ЛВ: Да, и кем используются. Потому что к применению таких технологий обычными физическими лицами возникает очень много вопросов. Здесь явно требуются какие-то ограничения. Я смотрела статистику: на сегодняшний день более 90% дипфейков создается именно в негативных целях.
Если взять бизнес, то он будет рассматривать новые технологии для того, чтобы использовать их во благо. Для бизнеса они имеют ценность не как инструмент обмана или фальсификации, а как способ сократить расходы на создание контента.
Или, например, в искусстве есть такой процесс, как атрибуция картин. Во-первых, нужно установить авторство полотна, и существуют работы, создателей которых до сих пор не могут определить до конца. В этом направлении уже работают ученые и эксперты, чтобы с помощью генеративных моделей понять, кто же все-таки написал ту или иную картину. Во-вторых, это воссоздание утерянных частей картин. И с этим очень хорошо справляются технологии, которые в бытовой риторике принято называть дипфейками. На самом деле это генеративно-состязательные нейросети. После обучения на определенных массивах данных – по мазкам, силе нажима и многочисленным специфическим признакам, которые использовал конкретный художник при написании своих работ, можно восстановить утерянную часть картины. Это замечательная идея, и на практике такое уже активно используется.
Но если вернуться к образованию, я не договорила, для меня здесь проходит очень тонкий водораздел. Приведу личный пример. Несколько лет назад, как человек прогрессивный и занимающийся цифровой трансформацией, я задумалась о цифровых двойниках людей и о том, что было бы, если бы я создала себе такого двойника.
Я, конечно, никогда в жизни не рассматривала использование искусственного интеллекта для полной замены себя. Я считаю, что это неэтично, это подрывает доверие к профессии, имеет негативные последствия и в конечном итоге отражается на качестве обучения. Я всегда придерживаюсь позиции, что преподаватель — это человек, который сам ежедневно проходит несколько циклов дообучения, находится на острие самой актуальной информации и научных разработок, и выходит в аудиторию именно с этими передовыми знаниями.
Но для чего же я тогда рассматривала создание своего цифрового двойника? Я веду два межфакультетских курса в МГУ: в осеннем семестре и в весеннем. Осенний курс называется «Цифровая экономика: управление электронным бизнесом и электронной коммерцией», а весенний – «Прикладной искусственный интеллект и цифровая трансформация бизнеса». Оба курса очень популярны. Первый я веду уже 12 лет (сейчас будет 13-й осенний семестр), а весенний более новый, ему 5 лет.
И представьте: на каждом курсе у меня учится по 500 студентов. Обязательным элементом является домашняя работа – это масштабный проект, который идет сквозным образом через все темы. Изучая каждую новую тему, студент выполняет соответствующую часть проекта на примере конкретной организации, которую он сам выбирает. Работа достаточно сложная.
Мне казалось отличной идеей создать своего цифрового двойника исключительно для консультирования студентов по выполнению этой домашней работы и ответов на их многочисленные вопросы. Я планировала обучить его на массивах собственных данных: на всех своих статьях, монографиях, видеоконтенте и видеозаписях лекций. Обученный на таком ограниченном, но выверенном массиве, без информационного шума и полностью отвечающий требованиям моего курса – этот цифровой двойник был бы невероятно полезен.
Но когда я проконсультировалась со специалистами, мне ответили: «Лариса Владимировна, лучше этого не делать».
ЕВ: А почему?
ЛВ: Вопрос – создавать своего двойника или нет – остается для меня открытым. Мне это было нужно именно для понятных целей: чтобы уделить внимание всем студентам, с которыми я встречаюсь очно только каждую среду по два часа, и это исключительно лекционная часть. А вся остальная коммуникация проходит онлайн: если возникают вопросы, я всегда отвечаю и в личных сообщениях во «ВКонтакте», и в нашем специальном чате.
Но возник серьезный вопрос, преимущественно в юридической плоскости. Если я фактически передаю права на свой голос и образ, загружаю на платформу все свои данные, то как они будут использоваться дальше? В каких еще целях впоследствии может быть задействован мой цифровой двойник? Именно это меня в большей степени и остановило.
ЕВ: Да, пока нет правовой регуляторики, которая защищала бы права оригинала (автора оригинала, назовем это так), создавать что-то подобное очень рискованно. Кстати, сейчас в США формируется очень обширная судебная практика по этому поводу: люди, в том числе ученые, прямо запрещают генеративному искусственному интеллекту обучаться на их открытых видеолекциях.
Вы же помните: одно время, после ковида, многие стали снимать видеоролики для привлечения внимания и интереса к себе, к науке или к своей профессиональной деятельности. Всё это массово выкладывалось в сеть. А сейчас в США идут целые открытые дискуссии, где ученые, профессионалы и консультанты заявляют: «Мы против того, чтобы искусственный интеллект использовал наши видеолекции для обучения, потому что это прямое нарушение авторских прав». А ведь ИИ сейчас встроен повсюду, он есть и в наших российских браузерах, не говоря уже о зарубежных.
ЛВ: Я абсолютно согласна. И здесь есть еще такой момент...
ЕВ: Они же и книги читают!
ЛВ: Да.
ЕВ: Нейросети прекрасно обучаются на книгах и любой другой информации, выложенной в открытый доступ. А потом возникает главное: внимание, вопрос – для каких целей они будут это использовать?
ЛВ: Совершенно верно. Елена Васильевна, вы знаете, если взять даже самые знаменитые модели искусственного интеллекта, то раньше об этом молчали, но в последние годы начали говорить открыто: качественных данных для обучения не хватает. И за эти годы выяснилось, что существуют определенные договоренности среди разработчиков, из-за которых данные, загружаемые в одну модель, трансгранично перетекают в другие.
И тогда возникает глобальный вопрос: где в итоге оказываются все эти загруженные нами данные? Получается, что трансгранично на них обучаются уже совершенно разные модели. Происходит «обучение на обучении»: одна модель обучилась на массиве данных и начинает обучать другие. Видимо, происходит именно так. Идет прямая передача данных, которые затем используют уже сторонние разработчики.
ЕВ: Да, передача.
ЛВ: И в целом этот вопрос пока совершенно не отрегулирован. Здесь остается очень много открытых проблем. Поэтому я бы рекомендовала всем: прежде чем предпринимать какие-то шаги и загружать свой контент на подобные сервисы, обязательно изучите вопрос. Если правовой аспект до конца не ясен, нигде не прописан и вы юридически не защищены, то лучше туда не идти. Именно это в свое время остановило меня от создания собственного цифрового двойника.
ЕВ: Кстати, о цифровых двойниках человека – у вас ведь есть научный труд, который вы даже можете нам сейчас показать. Подскажите, где можно почитать действительно качественный экспертный материал, а не контент, сгенерированный искусственным интеллектом?
ЛВ: Да, покажу их в камеру. В рамках серии «Прикладной искусственный интеллект и цифровая трансформация бизнеса» у меня вышли книги. В первой монографии – она называется «Эпоха цифровой экономики, экономики данных и трансформации индустрии Х.0» как раз есть раздел, в котором описаны аватары и цифровые двойники людей.
В то же время там есть большой раздел, посвященный цифровым двойникам, используемым в разных отраслях. Это крайне интересная тема, потому что промышленные цифровые двойники, которые применяют наши компании, сегодня отлично работают и обладают высокой бизнес-ценностью. Например, цифровые двойники месторождений в «Роснефти» или «Газпром нефти».
ЕВ: Да, в добывающем секторе.
ЛВ: Или, например, цифровые двойники инфраструктуры Московского центрального кольца у РЖД, а также цифровые двойники атомных станций.
ЕВ: У нас в электроэнергетике.
ЛВ: Да, у «Росатома». Понятие цифрового двойника описано и официально закреплено у нас в ГОСТе 2021 года. Кстати, Россия была первой страной, закрепившей определение цифрового двойника на уровне ГОСТа. И в книге этот индустриальный аспект подробно разобран. О цифровых двойниках людей, аватарах и дипфейках, там тоже написано, хотя и не так широко. Но сразу оговорюсь: в нашем ГОСТе понятия «дипфейк», конечно, нет.
Вторая книга называется «Искусственный интеллект и трансформация роботизации в отраслях экономики» – здесь всё посвящено роботам, в том числе гуманоидным. Я думаю, это как раз станет темой нашей следующей беседы.
А вот в третьей книге – «Технологические тренды: стратегии лидерства и профессии будущего» – я уже предметно раскрываю технологические тренды и пишу о дипфейках именно в контексте того, чего нам ждать в будущем и что будет происходить с этой сферой.
ЕВ: Как мы будем жить дальше, как говорится.
ЛВ: Это точно.