ДИТ Москвы: CheckSynthesisFraud_bot

Основные статьи:

• Распознавание речи (технологии, рынок)
• Речевые технологии: на пути от распознавания к пониманию
• Fraud Detection System (фрод, система обнаружения мошенничества)

2025: Представление сервиса по защите

Столичный Департамент информационных технологий приглашает москвичей протестировать бесплатный сервис по защите от кибермошенников. Теперь проверить подозрительное сообщение на наличие признаков обмана можно с помощью бесплатного телеграм-бота информационного проекта «Перезвони сам». Как рассказали в ДИТ Москвы, сервис работает в пилотном режиме и поможет распознать попытку мошенничества в текстовых и голосовых сообщениях. Об этом ДИТ сообщил 21 января 2025 года.

С развитием технологий приемы мошенников также становятся все более изощренными: они звонят от лица банков или официальных организаций, присылают заманчивые предложения о работе и выгодных распродажах, рассылают просьбы помочь со взломанных аккаунтов друзей и знакомых, а также применяют другие уловки. Мы запустили бесплатный инструмент, который поможет проверить полученные сообщения. Телеграм-бот анализирует присланные скриншоты переписки, текстовое или голосовое сообщение и помогает определить, есть ли в нем признаки мошенничества. Сервис работает с применением искусственного интеллекта, включая большие языковые модели и технологии оптического распознавания текста и распознавания речи, — рассказала Валентина Шилина, руководитель проекта «Перезвони сам» столичного Департамента информационных технологий.

На январь 2025 года бот работает в пилотном режиме, который продлится до 27 февраля. Ответ, который он предоставляет — это не окончательный вердикт, а предварительный результат проверки, на который пользователям рекомендуется обратить внимание. Специалисты ДИТ Москвы проанализируют результаты, полученные в период тестирования, и доработают сервис с учетом этой информации и пожеланий пользователей. Планируется, что весной 2025 года проект заработает полноценно.«Трансформация 2.0». Опыт роста технологической зрелости ритейлера «Лента» представлен на TAdviser SummIT 23.8 т

Бот умеет распознавать несколько типов информации. Если прислать текстовое сообщение или его скриншот, он проанализирует его содержание по различным критериям: проверит имя пользователя, определит, есть ли в послании эмоциональное давление, манипуляции срочностью, попытки получить персональную информацию или просьбы о денежном переводе, наличие подозрительных ссылок. Все это может быть признаком мошенничества. По итогам обработки информации сервис сообщит о проценте вероятности обмана в сообщении и отметит подозрительные сигналы, которые должны насторожить.

При обработке аудиофайлов бот имеет две функции. Первая позволяет оценить вероятность мошенничества на основе содержания: пересланного аудиосообщения или пересказа телефонного разговора с подозрительными лицами. Пользователь может записать голосовое сообщение и рассказать о деталях беседы: кто звонил, какие сведения запрашивали, не было ли давления срочностью или авторитетом. Например, к боту можно обратиться, если звонивший представился сотрудником банка и сообщил о попытке снятия средств с карты, а после предложил как можно быстрее перевести деньги на безопасный счет во избежание кражи. Сервис сообщит, какие манипуляции и уловки были применены в разговоре, а также процент вероятности того, что звонивший был злоумышленником.

Вторая функция бота при работе с аудиофайлами – проверка на наличие признаков синтезированной речи. Мошенники научились применять высокие технологии для создания дипфейков – сообщений, в которых генерируется голос отправителя. Если прислать боту полученное от друга подозрительное голосовое сообщение с просьбой помочь, перевести деньги или сообщить персональные данные, сервис также сможет проверить, есть ли в файле признаки синтезированной речи.

Для аналитики сообщений используются большие языковые модели (LLM), а для обработки скриншотов и изображений – оптическое распознавание символов для перевода изображения в текст. Каждое аудиосообщение анализируется в два этапа: сначала с помощью технологий анализа аудиодипфейков определяется наличие синтезированной речи, затем текстовая расшифровка сообщения проверяется на признаки мошенничества с использованием LLM. За счет анализа и обработки полученных от пользователей обращений применяемая в боте нейросеть будет постоянно обучаться и дополняться новыми данными, что позволит повысить точность распознавания обмана и расширить сведения о применяемых мошенниками схемах.

Сервис создан при участии Управления инноваций ДИТ Москвы специально для информационного проекта «Перезвони сам».

Информационный онлайн-проект «Перезвони сам» создан в 2022 году Правительством Москвы совместно с Главным управлением Министерства внутренних дел России по городу Москве. Он помогает. Он помогает горожанам уберечь себя и близких от телефонного и интернет-мошенничества.