Шумиха вокруг быстро прогрессирующих нейросетей заставляет отдельно взятых людей и бизнес оценивать перспективы и угрозы развития технологий. Интерес обусловлен не только упрощением доступа и получением быстрого результата от использования искусственного интеллекта (ИИ), но и культурным опытом. Вольно или невольно, но участники дискуссии в рамках проекта РБК Петербург «Клуб Winner» неоднократно вспоминали опасности ИИ, которые прогнозируют писатели и кинорежиссеры. Между тем, сами бизнесмены не верят в разрушительное влияние нейросетей — просто призывают быть осторожными и, возможно, несколько ограничить их применение.
Молоток и терминатор
Если раньше «Терминатор» казался полноценной фантастикой, то сейчас воспринимается почти как реальность. Да и «Особое мнение» Филипа Дика или почти современный сериал «В поле зрения» с ИИ в роли всевидящего судьи, не добавляет оптимизма.
Генеральный директор компании «Комфортел» Дмитрий Петров, подчеркивая, что он вовсе не луддит, так обрисовал близкие перспективы: «Возможно, все произойдет вовсе не по тем сценариям, которые были представлены в фильмах, но есть множество других вариантов. К примеру, сегодня вирусные атаки человекоуправляемые, а завтра они могут выйти на другой уровень. И если раньше вирус мог привести к тому, что ваше устройство рассылает спам или зашифровалось все, что есть на ПК, то в дальнейшем вполне могут появиться вирусы, которые приведут в деструктивное состоянии не компьютер, а ИИ. Робот-пылесос не нанесет большого ущерба, но есть ИИ-системы другого уровня — например, применяемые военными. А так как уровень ИТ-грамотности милитаризованных структур во всем мире зачастую оставляет желать лучшего, жертвами ИИ неизбежно станут живые люди. Так что инцидентов ждать стоит — возможно, масштаб их будет не планетарным, но они будут».
Конечно, многое зависит от того, в чьих руках окажется ИИ, и кто его будет обучать. Если нейросети «скармливать» данные с ошибками, то и в ее решениях будут ошибки. Отсюда, к примеру, и расизм в решениях ИИ-судьи или скоринговой нейросети — такие прецеденты уже есть.
«Молотком можно дом построить, а можно и что-нибудь разрушить, — говорит Александр Бухановский, директор мегафакультета трансляционных информационных технологий, руководитель центра «Сильный искусственный интеллект в промышленности» ИТМО. — Мы рады, что ИИ воспроизводит наши базовые когнитивные функции, изображает, рисует, сочиняет. Но ведь не это его основная задача. Если мы хотим, чтобы нейросети приносили пользу, надо применять их там, где человек не справляется или тратит на решение задачи много времени и сил. Например, ИИ идеально подходит для работы с большими объемами данных: он без труда выявит закономерности, найдет ошибки и при необходимости дополнит пробелы».
Время получать вторую профессию
Но восстание машин — далеко не самая пугающая перспектива. В числе тех, которые заставляют задуматься о будущем человечества, возможность уничтожения целых профессий из-за развития ИИ. И в этом случае речь не про отдаленное будущее и даже не о перспективе нескольких лет — ситуация на рынке труда уже меняется.
Вице-президент, директор макрорегионального филиала «Северо-Запад» компании «Ростелеком» Александр Логинов уверен, что определенные типы профессий исчезнут. Причем, речь идет в том числе о тех, которые раньше считались неподверженными цифровой трансформации. «Например, некоторых руководителей, как оказалось, вполне можно заменить ИИ. У нашей компании в Петербурге есть армия монтеров, которые занимаются подключением к сети. Их маршруты раньше выстраивали начальники, а сейчас эта профессия просто исчезла — ИИ решает задачу лучше. Или творческие профессии, которые из-за креативной составляющей считались неподверженными влиянию технологий, теперь вдруг оказались заменимыми ИИ — дизайнер, копирайтер и т.д.», — говорит эксперт.
Руководитель группы аналитической отчетности департамента анализа и обработки данных компании «СберКорус» Алексей Кудрявцев считает: чтобы быть уверенным в завтрашнем дне, стоит обзавестись второй профессией уже сейчас. Изменятся даже те профессии, которые сегодня считаются перспективными — например, аналитики. «Руководители, вместо того чтобы звонить секретарю с запросом на отчет за прошлый год в определенном разрезе, просто обратятся к голосовому помощнику или текстовому боту с ИИ. И за несколько минут такой отчет будет сгенерирован. Срок появления такого сервиса от 3 до 5 лет в зависимости от зрелости отдельно взятой компании. Это не значит, что я и мои коллеги потеряем работу: кто-то должен будет ИИ настраивать, обучать, поддерживать и развивать. Т.е. работа будет, но уже другой: люди станут наставниками для ИИ».
Но необходимость искать новую сферу деятельности и адаптироваться под новые реальности грозит социальным кризисом. «Я как руководитель вижу, что люди чрезвычайно инертны и не хотят переучиваться. Те, кто старше 40, зачастую понимают, что мир меняется и от них требуются новые умения и навыки, но хотят заниматься привычным делом. Для них даже переезд — стресс, что уж говорить про смену профессии, — подчеркивает директор по региональному развитию РБК, глава РБК Петербург Евгений Зинин. — Так что я от развития ИИ жду не только позитивных, но и негативных, в первую очередь, социальных последствий. Быстро большое количество людей снабдить новым интересным занятием очень трудно».
Ложка меда
Но останавливать прогресс не целесообразно, убеждены многие эксперты — слишком велика польза от ИИ, причем не только ожидаемая, но и реальная. Как рассказал директор корпоративного бизнеса Западного региона ПАО «ВымпелКом» Константин Машков, ИИ уже сегодня может помогать искать пропавших людей, оказывать медикам поддержку в принятии решений. Например, специалисты цифровой лаборатории билайна и Сеченовского университета создали модель ИИ, которая позволяет прогнозировать развитие патологии тазобедренного сустава на основе снимков МРТ с точностью более 80%. «Мы часто слышим, что данные — новая нефть. Как и в случае с нефтью, мы не сразу поняли, как извлекать максимальную пользу из них. Но ИИ уже помогает нам в этом, причем делает это во многом заметно быстрее и эффективнее, чем человек», — подчеркнул эксперт.
Готовы использовать нейросети и представители города. Например, заместитель председателя Комитета по информатизации и связи Дмитрий Кузьмин заметил, что для обработки такого объема информации, с которым приходится сталкиваться в процессе работы, ИИ пригодился бы. Более того, нейросети позволили бы решить и ряд других проблем — в их числе кадровую. «Уже несколько лет мы активно цифровизируем рабочие процессы. Поэтому накопилось много данных, обработать которые в ручном режиме практически невозможно. Нагрузка на сотрудников велика в госсегменте, а ИИ мог бы упростить эти задачи. К тому же мы сейчас развиваем цифровую модель города, и чтобы определить, как вводить новые районы, распределять транспортные потоки и инфраструктуру под них с горизонтом планирования 15 лет, нужен ИИ», — отметил Дмитрий Кузьмин.
При этом границы применения ИИ четко не очерчены — об этом говорят даже сами разработчики. «На рынке мы сталкиваемся с огромным количеством разноплановых задач, которые можно решить при помощи ИИ. 80% — это типовые задачи. Необходимо сделать удобный и простой инструмент профильного аналитика для работы с ИИ, — говорит технический директор и совладелец Baum AI Андрей Гантимуров. — Сейчас очень много практических задач, связанных с поддержкой принятия решений и предиктивной аналитике сложных технических систем».
Границы сдерживания
Чтобы минимизировать угрозы, необходимы правила использования и развития ИИ. Идти по пути запрета отдельных быстроразвивающихся нейросетей, как уже делают некоторые страны, эксперты не считают целесообразным. А вот вводить определенные ограничения в законодательство необходимо, и как можно быстрее.
По мнению экспертов, вопросы регулирования в разных сферах применения ИИ неодинаковы. В случае с физлицами основная проблема — дискриминация и некорректность предложений, возникающих из-за того, что ИИ учили не на релевантных данных. Если мы говорим про СМИ, то остро стоит вопрос интеллектуальной собственности и авторского права: чьими должны считаться фото, видео и тексты, сгенерированные ИИ.
«Давайте пофантазируем. Мы не знаем, на чем учился ИИ, давали ли разрешение на это владельцы этого контента. Не окажемся ли мы через пару лет в ситуации, когда государство введет инструменты регулирования, которых сейчас нет, и нужно будет удалять или доплачивать за все, созданное ИИ без соблюдения прав на использованные им авторские произведения?» — выражает обеспокоенность Евгений Зинин.
Дмитрий Кузьмин добавляет, что это палка о двух концах: если обращений будет много (а ИИ быстро генерирует контент, поэтому объемы будут расти колоссальными темпами), то при их обработке придется задействовать тот же самый ИИ.
В случае с корпоративным применением первые указанные проблемы не стоят, зато возникают другие — например, проблема ответственности, связанная с обладанием ИИ правом эту ответственность нести, считает Александр Бухановский: «ИИ работал в условиях неопределенности, как и мы. И раз человек в таких условиях имеет право ошибиться, то ИИ тоже может. И кто будет в этом виноват? Разработчик, заказчик, которого предупредили о вероятности ошибки или кто-то другой? Например, сейчас на основе кодекса этики в сфере ИИ в ИТМО разработан специальный корпоративный документ, который определяет, как измерять качественные характеристики ошибок ИИ, как определить меру ответственности и как апеллировать в спорных случаях — он может стать основой для нормотворчества в будущем».
Андрей Гантимуров подсветил и еще одну проблему, связанную с корпоративным применением ИИ. Например, при использовании алгоритмов машинного обучения для борьбы с утечками из корпоративной сети необходимо будет анализировать все, что по ней передают пользователи. Как быть в случае, если там какие-то персональные или личные данные, фото и т.д., а ИИ маркирует их и требует от специалиста их аналитики? Но, по мнению эксперта, пока это можно решить внутрикорпоративными правилами — регулирования на законодательном уровне не нужно.
Кодекс этики в сфере ИИ экспертами оценивается как нужная инициатива. «Кодекс — прекрасная база для начала, — соглашается Алексей Кудрявцев. — Но сформировать на его основе закон необходимо. Потому что развитие ИИ неизбежно, и рано или поздно мы встретимся с конфликтом человека и ИИ, и придется разбираться, кто прав, кто виноват. Без законодательной базы это определить невозможно. Так что в ближайшие 5 лет придется работать в этом направлении и с учетом того, что целью должно быть сохранение безопасности жизни и здоровья граждан и государства».
Дмитрий Петров уверен, что сейчас надо обратить внимание и на регулирование вопроса обучения нейросетей: «ИИ от человеческого не отличается: он учится на ошибках и том опыте, который ему дается. И переучить, если что, его будет сложно — слои данных уже сохранены. Поэтому учителя очень важны, иначе рано или поздно ИИ попадет в плохие руки. Вполне реальна перспектива того, что года через 3 найдутся мошенники, которые научат ИИ с помощью социального инжиниринга обманывать бабушек и вытягивать деньги со счетов».
