После того как голос, созданный с помощью технологии «дипфейк», обманул её деда, эта основательница немедленно приступила к действиям

Когда поступил звонок, дедушка Тарини Падманабхуни решил, что разговаривает со своим братом. Голос на другом конце провода сообщил, что его брата похитили и что единственный способ вернуть его — заплатить выкуп. Её дед заплатил, но позже выяснилось, что его брат находился совсем в другом месте и даже не подозревал о происходящем. Как оказалось, голос был «дипфейком» — созданной с помощью искусственного интеллекта имитацией голоса его брата.

«Что меня поразило, так это не деньги, — говорит Падманабуни об этом инциденте. — А то, что у него не было возможности это проверить».

Это было около двух лет назад. Сегодня, по её словам, DetectifAI — компания из Сан-Франциско, которую она основала, — ставит перед собой цель обеспечить, чтобы других не могли обмануть таким же образом.

Это серьезная и растущая проблема, а рынок соответствующих решений развивается не менее быстро. По данным ФБР, в прошлом году американцы потеряли почти 900 миллионов долларов из-за мошенничества с использованием ИИ, что на 24 % больше, чем в 2024 году. Люди в возрасте 60 лет и старше потеряли в два раза больше, чем те, кому от 50 до 59 лет.

Конкуренция в сфере обнаружения поддельных голосов с помощью технологии «дипфейк» не испытывает недостатка: среди участников рынка такие компании, как Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (которая также принадлежит Microsoft). Однако, как утверждает Падманабхуни, современные продукты для обнаружения работают в облаке на удаленных серверах, поэтому производители телефонов не могут встраивать их непосредственно в свои устройства, в результате чего у человека, ставшего целью мошенников, практически нет средств защиты.

Вместо того чтобы сжимать крупные облачные модели, чтобы они помещались на телефоне, как это делают некоторые компании, DetectifAI заявляет, что с самого начала разрабатывает компактные модели ИИ, которые достаточно малы, чтобы работать внутри операционной системы смартфона. Цель состоит в том, чтобы мгновенно определять, является ли голос сгенерированным ИИ во время звонков, в голосовых сообщениях и в других аудиозаписях, при этом аудиоданные никогда не покидают устройство.

DetectifAI в первую очередь продает свои решения производителям телефонов, предоставляя лицензии на свои программные инструменты, чтобы функция обнаружения поставлялась в качестве встроенной функции операционной системы телефона. Она приводит в качестве аналогии роль AT&T при запуске первого iPhone, когда эксклюзивное соглашение оператора выделило его среди конкурентов: по её мнению, первый производитель телефонов, который начнёт поставлять устройства с DetectifAI, получит преимущество перед конкурентами, а обнаружение дипфейков станет стандартной характеристикой, как разрешение камеры.

Основой продукта является набор средств разработки программного обеспечения (SDK) DetectifAI — пакет кода, который другие компании могут интегрировать в свои продукты и лицензировать через существующие каналы. Падманабхуни отмечает, что вторичный источник дохода будет формироваться за счет лицензирования технологии предприятиям и компаниям, занимающимся предотвращением мошенничества.

Между тем, по словам Падманабхуни, стартап уже получает первые доходы и обрабатывает более 100 000 звонков в месяц для финансовых учреждений в Индии. Эти звонки осуществляются голосовыми ИИ-агентами, которые занимаются взысканием задолженности и отслеживанием кредитной документации, при этом при каждом звонке проводится проверка на наличие дипфейков и верификация говорящего (подтверждение того, что звонящие действительно являются теми, за кого себя выдают). Она отказалась называть клиентов, сославшись на соглашения о конфиденциальности.

Падманабхуни рассказывает, что начала заниматься машинным обучением в 12 лет, а позже изучала киберфизические системы (технологии, связывающие программное обеспечение с физическим оборудованием) в Технологическом институте Манипала в Индии, где, по её словам, стала самым молодым руководителем команды в том, что она описывает как первый индийскийпервого в Индии подразделения по созданию беспилотных гоночных автомобилей в рамках «Формулы Студент» — международного студенческого инженерного конкурса.

Отвечая на вопрос о самом значимом для стартапа моменте на данный момент, она упоминает небольшое бета-тестирование в WhatsApp, в ходе которого пользователи пересылают подозрительные голосовые сообщения и получают оценку их подлинности. Один из тестировщиков, чьи родственники стали жертвами мошенников, позвонил и сказал, что готов без колебаний заплатить за эту услугу. ««У моего деда такого не было», — говорит она.

На данный момент DetectifAI привлек небольшую стартовую сумму от инвесторов Джоша Констина (бывшего редактора TechCrunch) и Манохара Камата, директора консалтинговой компании KM Growth. Эта компания — один из стартапов, отобранных редакционной командой TechCrunch для участия в престижном конкурсе Startup Battlefield, который пройдет в рамках конференции TechCrunch Disrupt с 13 по 15 октября в центре Сан-Франциско.

Когда вы совершаете покупку по ссылкам в наших статьях, мы можем получить небольшую комиссию. Это не влияет на нашу редакционную независимость.