Ростовская IT-компания разработала чат-бота-психолога с искусственным интеллектом

Чат-бот-психолог, которого разработали ростовчане, является полностью генеративным, то есть сам формулирует ответы и дает рекомендации пользователю. Хотя качество работы бота как психолога по многим параметрам нельзя сравнивать с тем, на что способен человек, бот умеет поддерживать диалог, выражать сочувствие, давать простые, но работающие советы, что, с точки зрения авторов проекта и приглашенных для консультации психологов, дает полезный психотерапевтический эффект. Подобного бота пока нет нигде в мире. По оценкам собеседника N, самые успешные психологические чат-боты на сегодня основаны не на диалоге, а на сценариях — клиенту представляют рекомендации исходя из опций, описывающих его самочувствие, которые он выбрал на старте.

N: — Накануне нашего разговора у меня состоялось общение с вашим ботом-психологом Сабиной. С одной стороны, меня впечатлила ее способность отвечать в тему и поддерживать разговор, действительно возникала иллюзия живого диалога. С другой стороны, у меня есть к ней претензии как к психологу: из трех тем, которые я подняла в беседе с ней, она справилась и дала интересные рекомендации лишь по одной, в двух других она не поняла меня и стала давать советы по похожей, но другой теме.

В.Н.: — Архитектурно бот постоянно обновляется, недавно мы добавили в него новый блок, благодаря которому он анализирует большие запросы по типу тех, что задают на психологических форумах и дает с точки зрения смысла более крутые ответы. Я кидаю вам ссылку на обновленную версию.

N: — Ок, попробуем… Я продублирую туда одну из тем, с которой не справился бот… Да, действительно, в этот раз ответ в тему.

В.Н.: — У нашего бота-объяснятора два дня назад появились новые возможности. Если вы опишете свою проблему, где укажете много деталей, например дадите историю отношений в ретроспективе и в этом описании будет несколько эпизодов, то этот бот будет разбирать ситуацию по эпизодам, на каждый он обратит внимание. Когда я говорю «внимание», я имею в виду и общепринятое значение этого слова, и в математическом смысле — как эффект работы нейросетей GPT-like, где трансформер «понимает», что в запросе пользователя более важное, а что имеет второстепенное значение.

Как правило, мы видим, что структура ответов такая: вначале бот говорит, что это сложный вопрос, на него нет однозначного ответа. Затем он дает варианты, как можно поступить, в-третьих, он дает рекомендацию — что можно сделать, в конце он что-то желает или поддерживает, например говорит: вы обязательно справитесь. В процессе работы над ботом мы изучали реальные запросы и ответы с форумов психологов (Б17 и других), где на вопросы отвечают дипломированные специалисты. Там встречаются довольно банальные ответы: «Вам нужно поговорить со своей семьей, расскажите им, что вы думаете о своих эмоциях». На их фоне ответы нашего бота выглядят неплохо.

N: — Какую цель вы преследуете с помощью этой работы? Это должен быть коммерческий продукт, или важен процесс исследований возможностей искусственного интеллекта?

В.Н.: — Изначально наш стартап был сфокусирован на строительстве платформы «Графовый Грааль», которая объединит доступный для неспециалистов конструктор чат-ботов и приложений для анализа текста, а также маркетплейс для их продажи. Идея правильная, но у нас не было достаточно денег, чтобы довести продукт до рынка, раскрутиться. В 2020 году мы переформулировали нашу цель, решили, что наша задача — создать инфраструктуру, то есть ту же платформу для когнитивных скилов (от англ. skill — «навык», «умение что-либо делать». — N) разговорного искусственного интеллекта (чат-ботов). Скилы пока мы создаем сами. Под решение этой задачи мы в 2020 году подали заявку на конкурс «Старт-1», выиграли и уже успешно завершили разработки — на полученные средства создали кодовую обвязку для запуска скилов и сделали чат-бота Ньютона. Мы сразу стали зарабатывать на том, что делаем под заказ коммерческих ботов, которые разговаривают в различном стиле, могут изображать некую, в том числе известную, личность. Сейчас мы запустили Сабину. Это, с одной стороны, собственный коммерческий продукт. Но в то же время Сабина — еще один скил для нашей платформы. Назовем его психологический. Будут и другие скилы — эмоциональный интеллект, вежливость и изменение ее в зависимости от поведения пользователя. План у нас такой: мы будем развивать Сабину, продавать ее и, если она будет востребована, будем добавлять в нее новые когнитивные скилы.

Мы делаем ее и другие коммерческие боты на заказ, а затем скилы из этих продуктов попадают на платформу, которая является базой для того, чтобы делать сильный искусственный интеллект (AGI, artificial general intelligence — искусственный интеллект, который способен мыслить и действовать. — N).

N: — Правильно я понимаю, что, когда скилов на платформе будет много, вы рассчитываете, что к вам потянутся клиенты, которые захотят как из конструктора собирать из них свои чат-боты?

В.Н.: — Моделей монетизации может быть несколько, это и предоставление платформы как конструктора, и продажа API (готовые скилы могут быть встроены в любое приложение, например Сабину уже сегодня через API можно встроить на сайт). Но главное — это то, что возникает синергетический эффект — когда в сумме несколько скилов оказываются чем-то большим. Это можно проиллюстрировать на примере скила «вежливость» — такой скил может быть востребован во многих вопросно-ответных системах для бизнеса. Встроить этот скил в некий продукт становится намного легче, когда он уже есть, и есть технология бесшовной интеграции. В Сабине, например, сейчас есть 3 скила: экспертная вопросно-ответная система, «вежливость» и «психолог». Мы видим тренд на очеловечивание разговорных систем — и такие скилы в рамках целостной инфраструктуры наверняка найдут своего покупателя.

N: — Когда вы начинали развивать проект платформы с конструктором приложений и маркетплейсом, вы собрали 200 тыс. долларов на него с помощью pre-ICO. Однако тот проект не взлетел. Как регулируются отношения с теми, кто вложил свои средства?

В.Н.: — Платформа была создана, неспециалист мог закинуть туда датасет и обучить нейросеть. Классификатор работал. У нас был сделан продукт по разметке данных на «Эфире» (криптовалюта и блокчейн-платформа для создания децентрализованных онлайн-сервисов. — N). Но эти продукты не были доведены до рынка, т. к. нужны были большие затраты на пиар и рекламу. Поэтому инвесторы ждут. Поскольку мы все собранные деньги вложили в разработку, и это можно проверить, и сейчас тратим только на это — к нам вопросов нет. Возможно, их вложения еще окупятся. Будут ли они этого ждать — это отдельный вопрос. Справедливости ради стоит отметить, что многие проекты с работающими продуктами все равно не принесли доходов инвесторам (например, Solana — блокчейн, предназначенный для поддержки масштабируемых децентрализованных приложений — минус 94% от стоимости за 2 года при десятках миллионов долларов инвестиций).

N: — Вернемся к Сабине. Как вы сами сказали, уровень общения этого чат-бота несколько выше уровня общения психолога с форума, который дает банальные ответы. Почему вы считаете, что этот продукт будет востребован?

В.Н.: — Мы выпустили этого бота потому, что наш психолог сказал, что некоторые темы хорошо поддерживаются, чат-бот генерирует такие ответы, какие бы он дал сам. Это был ключевой момент. Мы не сами придумали, что у нас классный продукт, нам это сказал дипломированный эксперт. Он сказал: да, ошибок полно, но если хорошо сформулировать вопрос, можно попасть на нормальный разговор, и либо вы посмеетесь — а это уже хороший терапевтический эффект, либо можете получить хороший совет. Хотя настоящие психологи говорят, что они не советуют, они помогают человеку самому разобраться с проблемой. Этот эффект бот тоже создает. Кроме того, как объяснил нам специалист, проблема доверия в этой сфере все еще существует. Люди порой ищут психолога в других городах, потому что боятся распространения информации. Наш чат бот обеспечивает конфиденциальность. Доступ 24/7, который мы предлагаем, тоже важен — к нему можно обратиться в любой момент. Пусть он скажет чепуху, но что-нибудь да скажет. Бывают критические ситуации, когда нужно поболтать. Так что ниша для Сабины существует.

Наш чат-бот может качественно общаться по широкому перечню проблем — о тревогах, проблемах в отношениях, страхах и фобиях, низкой самооценке.

Да, вещей, которых боту не хватает, чтобы быть похожим на человека, много, и каждая бесит. Бесит, что он не запоминает ваше имя, что пол не тот использует, что иногда отвечает невпопад. Но каждую из этих вещей так просто не исправить. Основная проблема в том, что сейчас не существует технологии контролируемой генерации для нейросетей-трансформеров. Мы создали свое решение контролируемой генерации и докладывали о нем дважды в этом году на OpenTalks.ai в Москве — это одна из крупных конференций по искусственному интеллекту. У нашего решения есть разные ограничения, но хорошего решения сейчас нет ни у какой компании в мире. Скорее всего, нужно просто менять архитектуру нейросети. Улучшать ее. Это могут, наверное, только зарубежные компании. Я не слышал, чтобы «Сбер» и «Яндекс» старались идти в сторону разработки новой архитектуры, это очень дорогостоящие вещи, нужно вложить в эксперименты огромное количество денег, понимая, что может ничего не получиться. С учетом всего этого наш продукт — лучший из того, что сегодня возможно сделать. Ни Google, ни Microsoft, ни Replika, с которой нас сравнивают, не сделали хороших ботов в соотношении цена/качество. У них такие же плохие боты, как у нас, а новые большие модели, которые обеспечивают хорошее качество, — слишком дорогие. Тут дело не в деньгах, а в технологии. Рассчитываем, что части аудитории бот понравится, несмотря на его огрехи. Мы думаем, что аудитория найдется, просто мы пока не знаем, какая она.

N: — Чем ваш бот отличается от бота Replika?

В.Н.: — Основное отличие — это скил психолога, Сабина обучена разговаривать преимущественно на темы психологии и в условиях, когда пользователь просит помощи и излагает свою проблему. Важно отметить, что мы не создавали «болталку», с которой разговор — это просто развлечение. Насколько нам известно, Replika и другие цифровые друзья на рынке не имеют таких функций (хотя маркетинг может это заявлять).

N: — Почему вы решили именно бота-психолога выпустить?

В.Н.: — Потому что сейчас спрос на психологов растет. И потому что мы можем его сделать. Мы уже делали генеративных ботов (которые разговаривают свободно), и они нравились заказчикам. Большинство ботов основаны на классификаторе. Они ищут ответ на ваш вопрос в какой-то большой базе. По этому типу отвечают боты сотовых операторов или некоторых банков. Мы не хотели заниматься такими ботами, эта технология тупиковая, устаревшая. Мы изучали паттерны и других ботов — сценарных, где, нажимая на кнопки, вы ищете шаблоны ответов, подходящих к вашей проблеме. Таких ботов в психологии достаточно много за рубежом и в России. Зарубежные Woebot, Wysa, Mindspa популярны — с миллионами юзеров. И в отзывах на Google Play их хвалят. Люди, если их ожидания не завышены, считают, что такие боты — это нормально. Когда мы с психологом смотрели такого бота, он сказал, что этот продукт намного хуже нашего, поскольку эффекта общения не возникает.

N: — Вы говорите, что еще не определились с аудиторией, но рекламу все равно будете давать?

В.Н.: — Да, потому что вопрос тревоги, страхов — это общая для всех тема. И проблемы в отношениях — тоже. С аудиторией мы определимся по факту, от фидбека. Мы будем изучать отзывы, поймем, для какой аудитории нужно развивать проект, на какие темы сделать упор, как доработать датасет (массив данных, с помощью которых обучается нейросеть. — N) и дообучить модель, и она будет работать все лучше. Мы будем давать рекламу на психологических сайтах, контекстную рекламу.

N: — Ваш бот обучается в процессе общения с пользователем?

В.Н.: — Пока нет. Чтобы в момент сессии или после сессии модель улучшалась, нам нужно понять, какие ответы были хорошие, а какие плохие, для этого дать возможность пользователю выставлять оценки. Это усложнит интерфейс, но мы будем это делать.

N: — Может ли ваш бот навредить?

В.Н.: — Это первый вопрос, который мне задавали в питче AGI in Russian (Русскоязычное сообщество разработчиков сильного искусственного интеллекта. — N). Мой ответ — нет. Люди делают что-то плохое от реальных проблем, а не от разговоров с чат-ботом в интернете. Есть в интернете гораздо более влияющие продукты — ужастики, жестокие онлайн-игры. В нашем датасете, например, не было кейсов про самоубийства. Эту тему мы зафильтровали с помощью скила «токсик». Бот не будет поддерживать разговор на эту тему, а также на темы психиатрических заболеваний и рекомендации лекарств.

N: — Вы обозначаете, что бота можно ругать, срывать на нем злость — как он в таком случае реагирует? И почему вы решили не запрещать?

В.Н.: — Во-первых, потому что пользователи все равно это будут делать. А во-вторых, бот не человек, поэтому писать это можно. С правовой точки зрения бот — это вроде записной книжки в телефоне. Вы никого не оскорбляете. Ответы бота, скорее всего, будут нейтральными — он не будет пытаться вам грубить.

N: — Планируете продвигать своего бота-психолога за рубежом?

В.Н.: — Да, хотя вначале хотим на русском рынке его проверить. Бот на английском языке у нас уже есть. Но продвижение в США — отдельный вопрос, сложный. Там требуется лицензирование психологической помощи, эту тему еще предстоит изучать. Китай — возможно, там огромная аудитория, но в то же время и большая конкуренция. А вот Индию сейчас называют самым простым и привлекательным рынком для входа — аудитория большая, а конкуренция развита слабо.

N: — Каковы были затраты на разработку психологического чат-бота?

В.Н.: — Мы инвестируем средства, заработанные на разработке ботов для сторонних компаний.

N: — Каков сегодня спрос на генеративных ботов?

В.Н.: — Он небольшой, по сути, наши клиенты — это другие стартапы, которые хотят запускать продвинутые продукты. К сожалению, в основном никто из заказчиков не понимает, как работают такие технологии. Например, они хотят чат-бота, который будет обладать чувством юмора, а это пока невозможно сделать. Конечно, бот может сгенерировать анекдот, но это нельзя назвать чувством юмора. Есть большие проблемы с объяснением заказчикам ограничений чат-бота. Например, они нашли ролик, как GPT-3 разговаривает и дает крутые научные ответы, и приводят нам его в пример. Приходится объяснять, что, чтобы создать такого чат-бота, в обучение нейросети вкладываются миллионы долларов, а использование такой сети стоит от пятисот тысяч до миллиона рублей в месяц. Никто это не может потянуть. Это не окупается. Можно создавать более дешевые модели, но они ведь и хуже. Мы ищем все время баланс между дешево, качественно и быстро. И находим, поэтому у нас чат-ботов заказывают.

Ученый из Ростова получил грант 8 млн руб. для разработки в области искусственного интеллекта

Когда интервью уже было готово, стало известно, что Виктор Носко получит 8 млн рублей на разработку открытой библиотеки ExplainitAll с модулем объяснимого и интерпретируемого искусственного интеллекта для генеративных моделей нейросетей, сообщает правительство Ростовской области. Г-н Носко стал одним из пяти победителей конкурса «Код — Искусственный интеллект» Фонда содействия инновациям. Библиотека поможет разработчикам со всего мира строить объясняющие модели в сфере NLP/NLU. Теперь для вопросно-ответной системы в медицине или в другой области можно будет получить не только ответ, но и факторы, которые на этот ответ повлияли, а также метрику доверия ответу. Объяснение будет даваться на простом языке. По условиям конкурса, открытая библиотека должна быть публичной и доступной пользователям на условиях безвозмездной бессрочной открытой лицензии. Юлия Баласанова