«Человеческий фактор используется диктатурами в разы чаще, чем любые технологии»

Победителями посвященного свободе в интернете хакатона DemHack в этом году стали три команды разработчиков: textgericht, vox-harbor и 418. ForkLog поговорил с ними, чтобы узнать, в чем суть их проектов, как они помогут свободомыслящим гражданам авторитарных государств и почему не стоит бояться того, что диктатуры тоже умеют пользоваться передовыми технологиями. 

ForkLog: В чем суть вашего проекта?

textgericht: Создать интерактивный интерфейс для автоматической проверки текстов на предвзятость и манипуляцию читателем. Использовать методы обработки естественного языка, нейронные сети и чат-ботов, чтобы, опираясь на контекст, выделить эмоциональную манипуляцию, логические ошибки, стигматизирующую лексику и прочие признаки предвзятости.

vox-harbor: Мы индексируем миллионы сообщений и постов в Telegram, чтобы выявлять манипуляции общественным мнением. Наш сервис анализирует все сообщения от пользователя в публичных чатах (в идеале — всех). Таким образом мы выявляем ботов, фабрикующих искусственное мнение. Также мы анализируем реакции к постам и автоматически ищем накрутки.

418: Мы реализуем задачу, поставленную «ОВД-Инфо». Работаем над VPN, максимально простым в развертывании на сервере и установке и настройке на клиентских устройствах. У него есть возможность «умной» маршрутизации, то есть одновременного доступа к ресурсам сегмента .RU напрямую с клиентского устройства и незаблокированным ресурсам, а также через прокси для заблокированных ресурсов.

ForkLog: Расскажите про техническую сторону реализации. 

textgericht: Мы создали коллекцию промптов для ChatGPT3.5-turbo, которые обрабатываются через OpenAI API. Текст на вход получаем либо через веб-интерфейс, реализованный на Flask, либо через Telegram-бота. Плюс есть простая база данных на SQL, в которую записали предварительно собранные с помощью tchan и newspaper3k тексты и метаданные сообщений из Telegram-каналов.

vox-harbor: Мы написали сервис, в котором множество Telegram-ботов распределяются по чатам и каналам. Они собирают всю необходимую информацию и выгружают индексы сообщений в нашу базу (ClickHouse). Далее, если мы хотим проверить конкретного пользователя, мы берем выборку из его сообщений и дополнительные признаки (в каких каналах он пишет, как часто, с какой периодичностью и т. д.). Этот слепок мы отдаем на вход зафайнтюненной модели ChatGPT3.5-turbo, которая делает итоговый вердикт. Накрутку реакций мы ищем с помощью анализа двойной производной графика на выбросы.

418: Техническая реализация представляет собой сервер 3X-UI, основанный на xray-core, поддерживающем самые актуальные на данный момент протоколы проксирования. В оригинальном исполнении взаимодействие пользователя в сервером реализовано с помощью веб-интерфейса, распространение конфигураций пользователям ложится на администратора сервера. Мы изучили API 3X-UI и реализовали Telegram-бота, который обращается к API и может создавать или удалять пользователей (функционал администратора) и по запросу пользователя высылать ему конфигурацию (ссылку) для подключения к прокси (функционал пользователя). Дополнительно к этому мы исправили некоторые особенности исходного варианта (незащищенный доступ по HTTP к веб-панели по умолчанию), подготовили скрипт для развертывания 3X-UI и бота с помощью одной команды, подготовили документацию для настройки пользовательских клиентов прокси.

ForkLog: Будете развивать проект? 

vox-harbor: Да!

418: Да, мы планируем довести проект до изначального замысла. В рамках хакатона удалось реализовать не все задуманное.

textgericht: Да, мы уже составили план дальнейших действий и связались с несколькими командами, которые помогают нам в разработке.

418: Мы видим нишу для нашей разработки — это некоммерческие организации и гражданские инициативы, которым нужен VPN для своих команд, работающих в странах с высоким уровнем государственной цензуры и ограничением гражданских свобод, таких как Россия. Критерии такого VPN:

• высокая устойчивость к блокировкам (то есть должна быть реализована обфускация/маскировка трафика);
• легкость управления;
• простота использования;
• небольшая стоимость.

Сейчас только Outline наиболее близок к этим требованиям, за исключением первого и основного — устойчивость к блокировкам. Мы хотим популяризировать решение на базе самых современных протоколов VPN с обфускацией и маскировкой трафика, такое как XRay. Для этого нужно упростить технические преграды использования этого решения. Именно в этом цель нашей разработки.

Мы надеемся, что если мы ее достигнем, то сможем предложить нашу разработку некоммерческим организациям и гражданским инициативам. Мы хотим сподвигнуть техническое сообщество на развитие XRay и создание простых коробочных клиентских приложений для семейства протоколов, его поддерживающих.

ForkLog: Есть ли планы по внедрению вашей разработки в массовое пользование? 

vox-harbor: Да!

textgericht: Да, мы планируем работать с медиа и образовательными проектами.

ForkLog: Кто-то из уже работающих проектов заинтересовался интеграцией?

textgericht: На данный момент мы на связи с четырьмя организациями, которые хотят попробовать проект в своей работе.

vox-harbor: Издание SOTA воспользовалось превью нашего сервиса для демонстрации накрутки голосов в голосовании о поддержке аннексии украинских территорий. В целом, мы надеемся, что наш сервис будет полезен как независимым медиа, так и обычным пользователям.

418: «ОВД-Инфо» заинтересован в использовании этого решения, а также несколько дружественных инициатив.

ForkLog: Как и какие, на ваш взгляд, технологии могут способствовать демократизации общества в России и мире прямо сейчас? 

textgericht: Инструменты создания онлайн-сообществ и рекомендации материалов, которые помогали бы бороться с разобщенностью и эффектом информационного пузыря. 

vox-harbor: Web3. И, наверное, криптография в целом как направление. 

418: Это в первую очередь технологии коллективного действия и сопутствующие им, которые помогают людям работать вместе. VPN, конечно, является одной из таких. Он позволяет людям в России не только продолжать получать информацию, но и делать что-то вместе с помощью инструментов, которые недоступны без средств обхода блокировок.

Один из ярких примеров технологии для коллективного действия — «Дятел». Это сервис, который помогает людям отправлять жалобы в те или иные инстанции, как например, в недавней кампании по спасению Игоря Барышникова. Подобные разработки позволяют солидаризировать гражданское общество для работы над общей целью.

ForkLog: Не чувствуете ли вы разочарования из-за того, что некогда прорывные идеи вроде блокчейна в итоге стали мощным инструментом авторитарных режимов? Как, на ваш взгляд, этого можно было избежать? 

textgericht: Гонка вооружений — неизбежная цена прогресса. Законодательное регулирование — хорошая идея, но не в странах, где законы служат интересам меньшинства. И все равно человеческий фактор используется диктатурами в разы чаще, чем любые технологии. 

Одним из способов борьбы является обучение активистов, чтобы люди могли свободно использовать инструменты в собственных проектах, составляя конкуренцию командам, спонсируемым государством. Однако часто разработки упираются в нехватку финансирования и, соответственно, вычислительной мощности. Здесь помогает: 1) участие в международных инкубаторах вроде AI for Social Good; 2) популяризация альтернативного, демократического, использования технологий, чтобы активировать краудфандинговые возможности сообществ; 3) связь с экспертами-волонтерами в академии и индустрии.

vox-harbor: У армии Александра Великого были крайне длинные копья, которые для своего времени стали прорывной инновацией. Но даже если бы их копья были еще в три раза длиннее, Македонская империя развалилась бы точно так же — не по техническим, а политическим причинам. Так что разочарования нет, блокчейн диктаторам не поможет.

418: Использование диктатурами блокчейн-технологий никого не должно пугать, потому что они, кроме всего прочего, уравнивают государство с обычным человеком. Долгое время анонимизация финансов была доступна только спецслужбам, чиновникам и олигархам, а блокчейн дал эту возможность всем, кто готов разобраться в вопросе. Любая регуляция или ограничение этой отрасли в первую очередь ударит по тем, кто хочет сбежать от диктатур, а не по самим диктатурам. Власть всегда найдет коррупционный способ обойти запреты, а людям это снова станет недоступно.

ForkLog: За какими разработками следите сегодня наиболее внимательно и хотели бы поучаствовать в их создании?

textgericht: Следим за классными командами AskRobot и vox-harbor, исследовательской группой Преслава Накова и проектами «Теплицы социальных технологий».

vox-harbor: vox-harbor.