«Основной риск в использовании ИИ — недостаток критического мышления»
Использование моделей на основе искусственного интеллекта всё активнее проникает в нашу жизнь. Банковская сфера — один из лидеров процесса: обширные потребности в области работы с большими данными заставляют банковских специалистов разрабатывать всё новые модели на основе ИИ, помогающие как сотрудникам банка, так и его клиентам. Руководитель департамента анализа данных и моделирования, старший вице-президент ВТБ Максим Коновалихин в интервью «Известиям» рассказал о том, с чего началась для него работа с ИИ-моделями и куда она приведет финтех в ближайшие годы.
«Сегодня искусственный интеллект избыточно очеловечивают»
— Насколько сегодняшние возможности цифровых помощников и систем искусственного интеллекта соответствуют тому образу, который формируется в медиа? Есть ли здесь разрыв между ожиданиями и реальностью?
— Разрыв, конечно, есть. Медийный образ ИИ часто обещает почти человеческий уровень понимания и полную автоматизацию сервиса, в то время как на практике роль человека в ИИ-процессах остается по-прежнему существенной. Сегодня искусственный интеллект, на мой взгляд, избыточно очеловечивают. На самом деле это всё еще программы, работу которых обычный пользователь не всегда замечает. Кроме того, эти программы не так всемогущи, как многие думают. У них есть определенные ограничения, связанные с их техническими возможностями, с доступными мощностями, а также, собственно, с теми данными, с которыми работает ИИ. Эти данные не всегда отличаются высоким качеством, и поэтому нередко бывает так, что мы не можем получить от ИИ того, к чему стремимся. Так что разрыв, конечно, существует, но со временем он сокращается.
— Сколько, на ваш взгляд, потребуется времени, чтобы этот разрыв преодолеть? И готовы ли для этого технологические инструменты?
— Да, нужные инструменты существуют. И технология уже достаточно развита, чтобы преодолеть разрыв. Правда, здесь есть свои риски. Генеративный искусственный интеллект, большие языковые модели в принципе не детерминированы. Да, они в состоянии поддерживать беседу, но невозможно гарантировать, что эта беседа будет проходить в нужном русле и на том уровне, качество которого нас устраивает. Это тот самый пример, в котором наши ожидания обгоняют имеющиеся возможности.
Подсознательно пользователь отдает им не только компетенцию, но и ответственность, снижается критичность отношения. А это как раз ключевой риск. Опасность здесь в ложной уверенности, поскольку уверенность, беспристрастный и четкий стиль формулировок ИИ-модели никак не зависит от реальной правдоподобности текста. Она не рефлексирует, и в этом подвох. Как корректно определить ответственность, как научить людей осмотрительно и критически пользоваться инструментом, как научить ИИ-модель явным образом выражать степень уверенности в представленной информации — это основные вызовы.
Удастся ли нам преодолеть эти ограничения, насколько быстро и качественно, зависит от многих факторов, и в первую очередь от качества обучения, которое получает ИИ, от того, кто и как будет обучать эту языковую модель.
С другой стороны, оптимизм внушает тот факт, что сегодня боты — голосовые помощники, например, — уже работают вполне адекватно по сравнению с тем, какими они были три-четыре года назад. Поэтому тут действительно много составляющих, которые в первую очередь зависят от обучаемости, от обучения. Но в целом я думаю, что в самом ближайшем будущем мы сможем получить то качество, которое нас действительно устраивает.
— Где искусственный интеллект сегодня выступает однозначно как помощник человека, а в каких сферах он уже сейчас создает реальные риски и угрозы?
— Как однозначный помощник ИИ выступает там, где нужно быстро агрегировать большой объем информации, структурировать ее и представить пользователю в читаемом виде. Так работают, например, современные поисковики, использующие ИИ-функции: когда мы хотим получить информацию о действии лекарств, об особенностях того или иного продукта и др. Такие операции позволяют существенно экономить время, поэтому люди активно ими пользуются. При этом однозначно не стоит забывать о рисках получения искаженной или неполной информации. Чтобы нивелировать эти риски, пользователь должен критически смотреть на результаты ИИ-поиска и перепроверять источники информации.
Реальные же риски на данном этапе технологического развития может нести в себе, например, автопилотирование автомобиля при помощи ИИ, что может приводить к реальным человеческим жертвам. Но нужно принимать во внимание и противоположные случаи, когда автопилот автомобиля на основе данных радара и системы предупреждения столкновений в туман предотвращал тяжелые ДТП. О таких случаях мы чаще всего не знаем, и их может быть больше. Поэтому вести подсчеты и делать выводы нужно крайне осмотрительно.
«Национальный ИИ-инструмент необходим, и он должен быть в свободном доступе»
— В мире сегодня развиваются так называемые универсальные большие языковые модели — на английском языке, а также модели национальные — на китайском, на русском языках и др. Насколько важно, по вашему мнению, развивать большие языковые модели именно на национальных языках, а не полагаться на универсальные?
— Это важно. Есть такое понятие — национальная идентичность, о котором не следует забывать. Национальный инструмент необходим. Он позволяет сохранять национальную идентичность, укреплять культурные связи в рамках какого-то определенного региона, страны и др. И уже на этой основе должны складываться модели универсальные. Они способствуют взаимному всестороннему обогащению представителей различных социальных и национальных групп, этносов — социальному, культурному, лингвистическому и др. Благодаря своему универсальному подходу и вовлеченности большого числа пользователей они постоянно совершенствуются и легко обучаются. Таким образом универсальные модели будут появляться именно там, где это нужно и полезно людям, они не будут искусственными, а значит, окажутся востребованными.
— Как вы считаете, будущее все-таки за национальными моделями, которые учитывают культурный контекст, или за глобальными универсальными решениями?
— Я считаю, что они должны развиваться параллельно. Развитие одной ИИ-модели тянет за собой развитие другой. Сейчас, в наше непростое время, дружественные страны, несмотря ни на что, стремятся к объединению. И нормально, если инструменты ИИ будут этому способствовать. С другой стороны, необходимо внимательно анализировать геополитические риски: если их уровень высок, я бы поостерегся инвестировать в такие проекты. И всё же ИИ — это очень мощный инструмент, способный влиять и на человеческое общение, и на культуру в целом. Поэтому к развитию тех или иных моделей ИИ следует подходить индивидуально и очень взвешенно.
— Какие ключевые возможности и главные риски несет распространение ИИ для молодого поколения?
— Основной риск — это недостаточность критического мышления. Модели на основе искусственного интеллекта, с одной стороны, сегодня не идеальны и совершают ошибки, а с другой — умеют качественно навязывать свое мнение. Но если не осмысливать их ответы критически, есть риск сильно ошибиться с выбором решения — в любой сфере. Кроме того, ИИ — это так удобно и доступно, что легко поддаться соблазну и вообще не задумываться, а просто пользоваться предлагаемой информацией. В итоге можно вообще потерять способность к критическому мышлению — как часто сейчас говорят, молодежь перестанет думать и будет только кнопки нажимать.
Но если подходить к информации от ИИ критически, если осмысливать и проверять ее, пользоваться этим инструментом там, где он действительно нужен, — для отбора гипотез, для поиска необходимых фактов, — то ИИ станет мощным подспорьем. У нас работает много молодых людей, и на их примере я вижу, как много может дать такое его использование.
— Насколько необходимо обучать людей старшего поколения основам взаимодействия с ИИ — например, для защиты от мошенничества и просто чтобы оставаться в контексте современной жизни?
— Тут вопрос к самим людям: силой ведь никого ничему не научишь. Но, насколько я знаю, большинство людей в любом возрасте интересуется этой темой. И освоить ИИ-инструменты на уровне овладения цифровой грамотностью сегодня, я считаю, необходимо каждому. Моему дяде 90 лет, он с успехом освоил мессенджеры, мы с ним переписываемся. Так что когда есть интерес, почему нет?
В то же время ИИ сервисы не должны становиться каким-то сложным инструментом, взаимодействию с которым требуется кропотливое обучение. Это не должно быть похожим на программирование, которому необходимо специально обучать человека. Сервисы с ИИ должны быть нативными, легкими в использовании.
Говоря же об их использовании людьми старшего поколения, какие-либо отдельные рекомендации тоже привести сложно, потому что они универсальны и для молодежи, и для пенсионеров, и для всех остальных возрастных групп — сохранение уровня критического мышления м осторожное восприятие новой информации.
«Мы придем к тому, что сегмент — это не группа клиентов, а один клиент»
— В чем за последние 10–15 лет ИИ принципиально изменил банковскую отрасль? Что было самым значимым?
— Изменения действительно очень заметны. Двадцать лет назад, в 2005 году, мы запустили в ВТБ-24 один из первых в стране кредитных конвейеров. И он в каком-то смысле стал для нас основной точкой, базовой моделью, на основе которой мы занимались созданием новых ИИ-моделей — советников и прочих. И технология эта стала раскручиваться очень быстро: уже в 2015 году мы занимались поведенческими моделями, поведенческими скорингами, начали разрабатывать рекомендательные ИИ-системы.
Причем на Западе эта тема начала развиваться примерно в то же время, но, что характерно, отнюдь не в банковской области, а в соцсетях. А в России крупные банки имеют дело с действительно большими массивами данных, так что ИИ-технологии нам правда нужны. И вот, начав со скоринга, 20 лет спустя мы видим, что на ИИ основаны сотни банковских процессов, вплоть до компьютерного зрения, которое еще недавно было фантастикой.
Периметр применения ИИ постоянно расширяется. Те процессы, до которых еще он не дошел по причине высоких модельных рисков, вероятнее всего, будут покрыты ИИ-технологиями в будущем.
Развитие технологий искусственного интеллекта и анализа данных позволяет банкам создавать всё более персонализированные сервисы. Мы это наблюдаем вокруг себя сегодня. Банки могут ориентироваться не на какие-то штампы в потребностях потенциальных клиентов, как это было ранее. А на анализ закономерностей среди сотен различных параметров. В конечном счете это дает банку возможность предлагать клиенту те услуги, в которых он действительно нуждается, на тех условиях, которые ему действительно подходят. В этом заключается принципиальное изменение в банковской отрасли за последнее время.
— Каким вы видите банк под влиянием ИИ через 5–10 лет, что в нем изменится кардинально для клиента?
— Главной тенденцией уже сейчас становится — и будет становиться в еще большей степени — гиперперсонализация. Сейчас мы делим клиентов на сегменты по социодемографическим данным, но в конце концов мы придем к тому, что сегмент — это не группа клиентов, а каждый клиент персонально. И в случае его согласия на обработку персональных данных мы имеем возможность делать уникальные персонализированные предложения. Поэтому персонализация, на мой взгляд, станет главной тенденцией, которая всё более явно будет проявляться со временем. Ну и, кроме того, вероятно, будет использоваться опыт Китая, где уже сегодня банковские отделения, обслуживаемые роботами, работают в режиме 24/7. Это удобно, выгодно и технически реализуемо, так что, думаю, мы скоро к этому придем.
— Когда вы лично для себя осознали, что ИИ — это не просто академическая дисциплина, а технология, способная сильно изменить жизнь миллионов людей?
— Больше 10 лет назад на примере андеррайтинга. Мы тогда впервые применили ИИ-модель «Андеррайтер» — она была сложнее скоринговой и кардинально изменила актуальное на тот момент положение дел, качественно улучшила продукт. И по реакции андеррайтеров мы поняли, что наша модель стала для них просто спасением. Тогда я и понял — вот оно, будущее.
