Как работает Palantir — компания, вооружившая спецслужбы алгоритмами для массовой слежки
Одна из самых загадочных компаний современности. Секретный разработчик ПО для спецслужб. Фирма, которая знает о вас все. Так различные СМИ называли американскую софтверную компанию Palantir Technologies, работающую с анализом данных.
Среди ее клиентов — армия, полиция, спецслужбы, банки, а с недавних пор и Министерство здравоохранения США, которое поручило Palantir работать над платформой для борьбы с коронавирусом.
Чем компания заслужила нелюбовь правозащитников, какие услуги предоставляет американским силовикам, как на ее создание повлияли атаки русского хакера на PayPal и почему ее обвиняют в способствовании отслеживанию иммигрантов, разобрался ForkLog.
- Palantir предоставляет свои продукты широкому кругу заказчиков, однако основные ее клиенты — спецслужбы и правительственные организации.
- ПО Palantir позволяет сопоставлять данные из множества источников, находить между ними взаимосвязи и визуализировать их в виде различных диаграмм.
- Правозащитники считают, что сотрудничество Palantir с некоторыми американскими госструктурами может нарушать права человека.
Основанная в 2003 году Palantir получила свое название от камней-палантиров в легендариуме Дж. Р. Р. Толкина. С их помощью можно было видеть происходящее или произошедшее в другом месте.
Palantir — детище известного предпринимателя и инвестора Питера Тиля, поэтому отсылка к «Властелину колец» не удивительна. Он часто черпает вдохновение в толкиеновской вселенной — названия как минимум пяти компаний, сооснователем которых является Тиль, взяты из произведений Толкина.
Тиль известен как «дон мафии PayPal». Именно в ходе работы в PayPal у него зародилась идея создания Palantir. И поспособствовал этому русский хакер.
В своей книге «От нуля к единице. Как создать стартап, который изменит будущее» Тиль рассказал о проблеме, с которой PayPal столкнулась в середине 2000-х — компания не могла отслеживать большое количество переводов и из-за мошенничеств с кредитными картами теряла более $10 млн ежемесячно.
Изначально созданный математиками автоматический алгоритм для отслеживания транзакций не работал — мошенники быстро подстраивались под него и меняли тактику. Позже в PayPal переписали программу, используя гибридный подход — «компьютер отмечал наиболее подозрительные транзакции в пользовательском интерфейсе, а люди-операторы уже принимали окончательное решение о том, мошенническая она или нет».
«Мы назвали эту гибридную систему «Игорь» — в честь интернет-мошенника из России, похвалявшегося, что мы никогда не сможем справиться с ним», — пишет Тиль.
Благодаря новому решению первый квартал 2002 года оказался первым прибыльным в истории PayPal. Решением заинтересовалось ФБР, которое попросило разрешения использовать «Игорь» для раскрытия финансовых преступлений.
После продажи PayPal Тиль продолжил думать о решении и поделился со своим сокурсником Алексом Карпом идеей нового стартапа — симбиозом человека и алгоритмов при анализе данных для поиска террористических сетей и финансовых мошенников.
Впоследствии эта идея воплотится в создании компании по производству ПО, позволяющего извлекать максимум информации из разрозненных источников данных. Ее назовут Palantir, а Карп займет должность СЕО.
***
Помимо Карпа, к созданию Palantir Тиль привлек экс-инженера PayPal Натана Геттингса и двух выпускников Стэнфорда Джо Лонсдейла и Стивена Коэна. Они должны были разработать алгоритм.
Несмотря на заинтересованность ФБР в решении «Игорь», правительственные организации не сразу обратили внимание на Palantir, который предлагал похожий алгоритм с легким в использовании интерфейсом.
Изначально разработку полностью финансировал сам Тиль. Алексу Карпу, которому поручили найти финансирование, не везло — десятки инвесторов отказали стартапу.
Однако вскоре Palantir все же заинтересовались — компания получила $2 млн от венчурного подразделения ЦРУ In-Q-Tel.
«Инвестиции In-Q-Tel предоставили Palantir нечто более важное, чем деньги: одобрение ЦРУ. Когда двери в Вашингтоне начали открываться, Palantir стал привлекать поклонников из разведки и организаций национальной безопасности», — пишет Intelligencer.
Впоследствии среди клиентов Palantir были различные правительственные службы, включая ФБР, Министерство внутренней безопасности США, АНБ, военно-воздушные силы США и другие.
Среди заказчиков Palantir был и Департамент полиции Лос-Анджелеса.
Профессор социологии Техасского университета в Остине Сара Брэйн (Sarah Brayne) провела более двух лет, изучая как полицейские Лос-Анджелеса используют систему. Результаты ее исследования не только приоткрыли завесу над тем, как именно работает Palantir, но и заставили многих обеспокоиться последствиями.
В базе данных Palantir содержалась стандартная информация о гражданах — имя, пол, место обучения и тому подобное. Дополнительные сведения поступали в систему от госучреждений, например, от Департамента транспортных средств США. Она также наполнялась данными, купленными у частных компаний.
В систему попадали не только правонарушители, но и их контактные лица.
«Я бы предостерегла от мысли, что если вам нечего скрывать, вам нечего бояться. Эта логика основана на предположении, что информацию [в систему] вводят без ошибок или предрассудков», — заявила Брэйн.
ПО Palantir просматривает разные источники данных — финансовые документы, информацию о бронировании авиабилетов, данные мобильных телефонов, сообщения в соцсетях — и ищет связи, которые могут пропустить аналитики, сообщил Bloomberg. Затем оно представляет обнаруженные связи в легко интерпретируемой графике, которая выглядит как паутина.
Журналисты изучили пользовательское руководство к приложению Palantir Gotham, которым пользуются правоохранительные органы.
Согласно ему, полиция могла получить обширную информацию о человеке, практически не обладая данными о нем — к примеру, зная только имя или номер машины.
Некоторые источники данных — например, сведения о браке, разводе, рождении и коммерческой деятельности — также включали данные о других людях, которые связаны с человеком. Сара Брэйн назвала это вторичной сетью наблюдения.
«Когда полиция заинтересовалась кем-то, она не просто собирает номера телефонов, сведения о деловых отношениях, путешествиях подозреваемого и тому подобное. Она также собирает информацию о людях, связанных с ним», — пишет Vice.
Специальный инструмент позволял полиции фильтровать, сортировать, отображать, анализировать и экспортировать различные данные. Найденные взаимосвязи визуализируются с помощью диаграмм, гистограмм или временных шкал — инструмент подбирал лучший вариант исходя из анализируемых данных.
Когда человек появлялся в системе, полицейский мог «подписаться» на него, следует из исследования Брэйн взаимодействия правоохранителей Лос-Анджелеса с Palantir.
К примеру, полицейский мог получать уведомление на телефон, когда машина заинтересовавшего его человека оказывалась в «подозрительном» районе. Реализовать это удалось с помощью интеграции данных с камер уличного видеонаблюдения в систему Palantir.
«Без общественного надзора или регулирования Palantir помогла полиции Лос-Анджелеса создать обширную базу данных с именами, адресами, номерами телефонов, автомобильными номерами, сведениях о дружеских и романтических отношениях — виновных, невиновных и тех, кто посредине», — пишет BuzzFeed.
Еще одним заказчиком Palantir была Иммиграционная и таможенная полиция США (ICE). В 2014 году она заключила с фирмой контракт на $41 млн на создание и обслуживание системы отслеживания.
Правозащитники убеждены, что именно Palantir сыграла ключевую роль в депортациях нелегальных мигрантов. В компании же настаивали, что не работают с департаментом ICE, отвечающим за задержание иммигрантов без документов и депортацию.
Однако заверения Palantir не убедили правозащитников. Организация Amnesty International раскритиковала контракты компании с ICE и заявила, что Palantir «не выполняет свои обязательства по соблюдению прав человека».
Palantir Briefing Report by ForkLog on Scribd
Особенное внимание к сотрудничеству Palantir и ICE приковано и из-за связей Питера Тиля с президентом США Дональдом Трампом, который известен своей анти-иммигрантской риторикой. Тиль — едва ли не единственный представитель Кремниевой долины, открыто поддержавший Трампа.
Карп, который в 2015 году резко критиковал Трампа, сразу после избрания последнего президентом был замечен на встрече с ним среди руководителей крупных технологических компаний.
Работа Palantir с ICE вызвала внутреннее недовольство со стороны сотрудников компании. Карп же заявил, что сотрудничество с властями продолжится.
“Silicon Valley is telling the average American ‘I will not support your defense needs’ while selling products to countries that are adversarial to America. That is a loser position.»
— Palantir (@PalantirTech) July 18, 2019
«Кремниевая долина говорит рядовому американцу: «Я не собираюсь поддерживать твою потребность в обороне», в то время, как сама продает разработки враждебным Америке странам. Это позиция лузеров», — заявил Карп.
Такая патриотичность является едва ли не основополагающей идеей Palantir. В документах, поданных компанией к выходу на биржу, говорится, что она «не работает с клиентами или правительствами, чьи позиции или действия несовместимы с миссией по поддержке западной либеральной демократии и ее стратегических союзников».
Тот факт, что основными клиентами Palantir являются именно силовые структуры и спецслужбы США, полностью отражает приверженность компании этой миссии.
Как писал Bloomberg, по некоторым сведениям, система Palantir даже помогла устранить террориста Усаму бен Ладена. Компания не подтверждает и не развенчивает эти слухи. Тиль в своей книге лишь заявил, что «ничего не может рассказать о той операции».
Он отметил, что с помощью программ, созданных Palantir, аналитики смогли предсказать, «в каких местах афганские мятежники планируют устроить взрывы».
В то же время Palantir пытается ослабить свою зависимость от госконтрактов и расширить клиентскую базу. Коммерческие клиенты работают с Palantir Foundry — платформой для интеграции данных.
Одним из первых корпоративных клиентов компании стал финансовый холдинг JPMorgan. Однако изначально это сотрудничество омрачилось скандалом.
В 2009 году специалисты Palantir работали с группой по выявлению инсайдерских угроз банка, сообщает Bloomberg.
ПО Palantir анализировало электронную почту, историю браузера, расшифровки телефонных разговоров, выявляя ключевые слова и модели поведения сотрудников банка.
Например, алгоритм Palantir предупреждал команду инсайдерских угроз JPMorgan, когда сотрудник начинал приходить на работу позже обычного, что было признаком потенциального недовольства.
Работники были шокированы тем, что «никто из банка или Palantir не установил никаких ограничений», пишет издание.
Эта история закончилась тем, что топ-менеджеры банка узнали, что за ними тоже следят.
«Платформа, разработанная для войны с террористами, была использована против обычных американцев», — резюмирует Bloomberg.
Чтобы выполнить свои обязательства по обеспечению конфиденциальности и безопасности, Palantir каталогизирует и маркирует данные пользователей системы — все его действия записываются.
В компании также пытаются следовать определенным «этическим нормам» — для сотрудников Palantir создана горячая линия под названием Batphone по вопросам этики. С ее помощью они могут анонимно сообщать руководству Palantir о работе на клиента, которую считают неэтичной.
Появилась горячая линия после скандала с WikiLeaks. В 2011 году стало известно, что один из сотрудников обсуждал в электронных письмах возможности слежки за информаторами WikiLeaks, чтобы не допустить разглашения организацией документов из Bank of America.
Карп принес публичные извинения и заявил, что Palantir поддерживает право на свободу слова и неприкосновенность частной жизни.
Сам Карп считает, что компания сможет найти баланс между защитой личной жизни и обеспечением безопасности.
«Я не подписывался на то, чтобы правительство знало, когда я выкуриваю косяк или [с кем] у меня роман», — цитирует Карпа Forbes.
В своем письме Карп практически напрямую обвинил компании из Кремниевой долины, вроде Facebook и Google, в продаже персональных данных и вмешательстве в частную жизнь.
«Программные проекты с оборонными и разведывательными агентствами нашей страны, чьи задачи заключаются в обеспечении нашей безопасности, стали противоречивыми, в то время как компании, основанные на рекламных деньгах, стали обычным явлением», — пишет Карп.
Он отметил, что инженерная элита Кремниевой долины, возможно, знает о создании ПО больше, чем кто-либо другой, но «не знает больше о том, как должно быть организовано общество и чего требует справедливость».
Но, как указывает Intelligencer, его аргумент игнорирует тот факт, что Palantir использовался для анализа данных из социальных сетей, включая публикации в Facebook.
***
В 2020 году Palantir провела прямой листинг своих акций на Нью-Йоркской фондовой бирже (NYSE).
We’re excited for @PalantirTech to list on the NYSE today. pic.twitter.com/cz91Acipwt
— NYSE 🏛 (@NYSE) September 30, 2020
Согласно раскрытым Комиссии по ценным бумагам и биржам США документам, в первом полугодии 2020 года у компании было 125 клиентов. Выручка Palantir за этот период достигла $481,2 млн.
Из документов также следует, что выручка от государственных контрактов выросла на 76%, а от коммерческих — лишь на 27%. Совокупно с июня 2019 года она выросла почти вполовину.
В то же время Palantir несет убытки каждый год с момента своего основания, указала сама компания в разделе, посвященном рискам. Значительная часть выручки приходится на ограниченное число клиентов.
Кроме того, как пишет Bloomberg Businessweek, инвесторы не смогут практически никак повлиять на управленческие решения, так как «Palantir создан таким образом, что Тиль, Карп и третий соучредитель Стивен Коэн бессрочно контролируют половину голосующих акций через траст».
Издание отмечает, что компания может себе это позволить отчасти потому, что ее ПО «почти идеально подходит для решения проблем, связанных с пандемией коронавируса».
В конце апреля Министерство здравоохранения и социальных служб США (HHS), которое ответственно за борьбу с пандемией в Соединенных Штатах, заключило с Palantir контракт на $25 млн. Компания должна контролировать работу платформы HHS Protect по сбору и анализу данных.
«Сделка была одной из более сотни, которые Palantir заключил в первые дни пандемии — 83 из них пришлось на период с марта по начало апреля, — и это одна из причин улучшения финансовых показателей компании в этом году», — отмечает Bloomberg Businessweek.
На фоне этой сделки сразу несколько членов Конгресса поинтересовались, какие именно данные будет собирать HHS Protect и как их будут использовать, вспомнив скандал с ICE.
«У нас есть опасения по поводу того, как существующая система Palantir, использовавшаяся для отслеживания и арестов иммигрантов, будет дополнена персональной информацией о здоровье, поступающей с HHS Protect», — говорится в письме.
Развертывание масштабных систем отслеживания граждан в период пандемии серьезно беспокоит правозащитников. Особенно, когда компании, создающие подобные системы, тесно связаны с властями.
Еще в 2011 году Питер Тиль рассказал Bloomberg, что сторонники гражданских свобод должны приветствовать создание Palantir:
«Мы не можем позволить себе еще одно 11 сентября. Тот день «открыл двери» для всех видов безумных злоупотреблений и драконовской политики».
По его мнению, лучший способ избежать подобных сценариев в будущем — предоставить правительству передовые технологии и обеспечить защиту от их неправомерного использования.
Однако после множества разоблачений отслеживания граждан со стороны властей мир, кажется, уже не верит в непогрешимость сотрудников спецслужб или правительственных организаций в вопросах вмешательства в частную жизнь.
С момента откровений Эдварда Сноудена прошло много лет, а системы отслеживания продолжают развиваться и масштабироваться, о чем свидетельствуют многочисленные исследования.
Агрегирование данных, собираемых этими системами, в одной базе чревато созданием инструмента, который в буквальном смысле будет знать о вас все. Но где в таком случае останется место для приватности?
Автор: Алина Саганская.
Подписывайтесь на новости ForkLog в Telegram: ForkLog Feed — вся лента новостей, ForkLog — самые важные новости и опросы.
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!