В столице Татарстана прошел международный форум Kazan Digital Week 2026. В рамках него состоялась конференция на тему «Безопасный и доверенный искусственный интеллект: что это и как применять?». Проблема острая, ведь компании активно внедряют ИИ, но при этом боятся рисков: ошибки алгоритмов, утечки данных и репутационные скандалы. Так что дискуссия шла не про волшебство нейросетей, а про то, как сделать их по-настоящему надежными и понятными в такой чувствительной сфере, как финансы.
КОДЕКС ЭТИКИ И ГДЕ БЕЗ ЧЕЛОВЕКА НЕ ОБОЙТИСЬ
А все ли знакомы с кодексом этики в сфере разработки и применения ИИ на финансовом рынке? С этого вопроса и началась конференция. И речь не об абстрактных лозунгах, а о наборе правил «как можно и как нельзя». Не законы с наказаниями, а добровольные принципы, которые помогают применять ИИ честно, безопасно и с пользой для людей.
- Например, искусственный интеллект не должен дискриминировать клиентов - отказывать в кредите из-за пола, возраста или места жительства. Также за действия ИИ всегда отвечает конкретная организация и люди - нельзя взять и спрятаться за алгоритмы. Сами они должны тестироваться, чтобы не навредить клиентам и рынку. А в таких важных решениях, как крупный кредит, блокировка счета, последнее слово всегда остается за человеком, - указала на проблематику модератор конференции Марианна Данилина, руководитель управления стратегии, исследований и аналитики Ассоциации ФинТех.
После этого первым вступил в дискуссию Святослав Соловьев, директор по искусственному интеллекту в ИТ Альфа-Банка. Он рассказал, в каких процессах люди полностью отдаются ИИ, а когда прибегают к помощи человека:
- Пример простой и понятный каждому: если человеку отказали в кредите, банки никогда не ставят критерии по национальности и так далее. Здесь процесс этики полностью соблюдается. Что касается современного ИИ, то модель обучают под конкретную задачу. А вот агенты ИИ, в отличие от классических моделей, могут выполнять много ролей - и это меняет правила.
По его словам, агент способен сам планировать шаги, вызывать инструменты, обращаться к другим системам и принимать промежуточные решения. Он действует не по жесткому сценарию, а в пространстве вариантов. И именно здесь возникает ключевой, так сказать, водораздел: чем больше свободы у системы, тем важнее заранее определить границы ее автономии.
- Есть классы задач, где человеку логично полностью довериться ИИ. Это процессы с высокой повторяемостью, большим объемом данных и быстрой обратной связью: скоринг типовых заявок, антифрод, маршрутизация обращений, подбор рекомендаций, рутинная сверка документов. Здесь машина работает быстрее и стабильнее, а ошибка дешева и обратима - ее можно поймать на следующем шаге, - отметил Соловьев.
Но тут же спикер указал на то, что есть зоны, где без человека не обойтись. Во-первых, это решения с высокой ценой ошибки и необратимыми последствиями: крупные кредиты, блокировка счета, медицинские и юридические заключения. Во-вторых, ситуации неопределенности, когда данных мало или они противоречивы: модель уверенно выдает ответ там, где должна признать, что не знает.
В-третьих, всё, что касается этики, справедливости и репутации: объяснение отказа, работа с уязвимыми клиентами, соблюдение регуляторных требований. И, наконец, ответственность - ее нельзя делегировать алгоритму, за решение всегда отвечает человек или организация.
КОМПАНИИ ОБЕЩАЮТ МАКСИМАЛЬНУЮ НАДЕЖНОСТЬ, ЛИШЬ БЫ ПРОДАТЬ УСЛУГУ
Высказался на конференции и директор по развитию технологий ИИ Т-Банка Алексей Шпильман:
- Нет никакого доверенного ИИ! Это вопрос чисто психологического характера. Люди не доверяют искусственному интеллекту. Бизнесмены, которые продают услугу, обычно говорят: «Мы вам сделаем самый доверенный ИИ, только деньги нам заплатите». Так что глупо рассуждать о том, что мы сделаем этику и искусственный интеллект поменяется. Нет, он не поменяется.
По его мнению, рынок часто спекулирует на теме доверенного ИИ. Компании обещают клиентам максимальную надежность, лишь бы продать услугу.
- Однако если бы была услуга - дать ИИ‑агенту свою банковскую карту, я бы дал, - при этом признался Шпильман.
В этот момент Марианна Данилина отреагировала коротко, но иронично:
- Все о деньгах, а мы про этику.
Шпильман же подчеркнул, что пока нейросеть работает на человека, он будет ей пользоваться. И уровень доверия тут не играет роли.
- Никто не доверяет искусственному интеллекту, но все им пользуются, - акцентировал спикер.
КАК НЕ ДАТЬ ОШИБИТЬСЯ ИЛИ НАВРЕДИТЬ
В свою очередь Даниил Капустин, главный эксперт кибербезопасности компании «ХайвТрейс», поднял на конференции тему о механизмах защиты, настаивая на строгом контроле ИИ.
- Действительно, а можем ли мы доверять ИИ? Мы должны смотреть доверительные интервалы. Нет ли выдуманных цифр, которые отсутствуют в исходном документе. А еще важный аспект - мониторинг в продакшене. Это суперважно и нужно. Плюс фильтрация токсичного контента, - сказал спикер.
По его мнению, без этого даже самая умная модель может нанести вред. Например, выдать ложные данные или оскорбительные формулировки.
А директор по развитию ИИ «Свордфиш Секьюрити» Юрий Шабалин сравнил ИИ-агентов с новыми кадрами:
- Мы научились минимизировать ошибки ИИ-агентов. По сути это такие же сотрудники. Но их нужно контролировать так же, как и обычных людей.
Шабалин при этом добавил, что компании не дают новичкам полный доступ сразу. Точно так же нужно поступать и с агентами. У них тоже есть учетные записи, полномочия и модели угроз. Если агента взломали, злоумышленник может сделать с ним все что угодно. Поэтому в случае инцидента учетную запись агента отключают так же, как у человека.
- Мы научились минимизировать ошибки агентов. В основном это скрытые промпт-инъекции, то есть попытки обмануть ИИ с помощью хитро составленных запросов. Защита от таких атак - обязательная часть системы безопасности, - подчеркнул спикер.
КАК ДОКАЗАТЬ, ЧТО ИИ БЕЗОПАСЕН?
На конференции в Казани замруководителя направления «Т1 Искусственный интеллект» ИТ-холдинга Т1 Сергей Карпович объяснил, как финансовые организации могут доказать заказчику, что ИИ-система действительно надежна. Хотя, по его словам, нельзя создать систему, которой можно доверять на 100%, - это сценарий риска. Вместо этого компании переходят к этапу воспроизводимости результата, чтобы любой тест можно было повторить и получить тот же ответ.
- Для этого нужен полный пакет документов: описание архитектуры, сценарии работы, тест-кейсы, процедуры приемки и сдачи. Главное - показать критерии неуспешных тестов, - указал Карпович.
Как он добавил, заказчик должен понимать, как система ведет себя не только в идеальных условиях, но и когда что-то пошло не так. Только тогда можно говорить о реальном доверии.
ВЗГЛЯД РЕГУЛЯТОРА
Антон Степанов, начальник Центра экспертизы искусственного интеллекта Центрального банка РФ, подтвердил: доверие финансового рынка актуально и для ИИ. Банк России каждый год проводит опрос практики его внедрения, которые показывают, что клиенты сталкиваются с проблемой доверия.
- Ключевая концепция для регулятора - это доверие на основе этических норм, а главный инструмент - кодекс этики. В нем как раз и сформулированы основные принципы, - отметил спикер.
Не забыл он упомянуть и про главный тренд - ИИ-агентов. По его прогнозам, в скором времени клиент будет обращаться за финансовыми услугами именно к ним.
- Вы ведь знаете, что, звоня в банк, уже общаетесь с ИИ? Задача отрасли - сделать так, чтобы это взаимодействие было не только удобным, но и безопасным, этичным и понятным, - напомнил Степанов.
Про мониторинг соблюдения кодекса спикер подтвердил, что многие организации его давным-давно чтят. Поэтому следующий шаг - это формирование лучших практик.
Что ж, получилась простая картина. Оказывается, доверие к ИИ не магия и не маркетинг. Это кропотливая работа: этические кодексы, технические меры защиты, прозрачные процессы и постоянный контроль. И только когда все эти элементы работают вместе, искусственный интеллект становится по-настоящему доверенным инструментом для бизнеса и клиентов. Но пока правила отлаживаются, люди не доверяют ИИ, хотя и продолжают активно им пользоваться.