Кто такая Мередит Уиттакер?
Чем известна Мередит Уиттакер?
Американская исследовательница технологий Мередит Уиттакер — первый президент Signal Foundation. Эту должность учредили в сентябре 2022 года.
До того Уиттакер два года входила в совет директоров фонда, а еще раньше 13 лет работала в Google. В 2017 году она вместе с ученой Кейт Кроуфорд основала при Нью-Йоркском университете институт AI Now. Он изучает, как искусственный интеллект меняет общество.
Больше всего Уиттакер известна как критик ИИ-индустрии. Нейросети она называет технологией слежки, веру в сверхразум сравнивает с религией, а ИИ-агентов считает угрозой приватности.
Как Уиттакер попала в Google?
Мередит Уиттакер выросла в Лос-Анджелесе, а гуманитарное образование получила в Калифорнийском университете в Беркли. Она изучала риторику и английскую литературу, читала Деррида, Фуко и Лакана — мыслителей, для которых язык не просто средство передачи мысли, а предмет критического анализа. Внимательное чтение Уиттакер до сих пор называет главным навыком, на котором строится все остальное. Тот, кто отдает тексты на пересказ нейросетям, рискует его утратить и оказаться во власти любой системы, которая обещает сделать работу за него, считает она.
В 2006 году Уиттакер устроилась в Google временной сотрудницей службы поддержки. Позже перешла в технический отдел и стала соосновательницей M-Lab, глобальной системы для замеров качества интернет-соединения. Идея проекта выросла из обсуждений, которые в 2008 году начал Винт Серф, соавтор протоколов TCP/IP.
M-Lab собрал один из крупнейших в мире открытых массивов данных о работе сети. Позже Уиттакер основала в Google группу Open Research. Ее команда вместе с университетами и разработчиками открытого ПО изучала сетевой нейтралитет, приватность и социальные последствия ИИ.
Руководя масштабным проектом замеров, Уиттакер убедилась, насколько трудно получить данные, которые можно выдавать за надежное отражение реальности. Даже техническое измерение на нижнем уровне сети упирается в решения людей и ограничения инфраструктуры. Скорость соединения, например, зависит от того, где стоит тестовый сервер и по какому маршруту идет трафик. Поэтому данные для нее — всегда неполный и субъективный срез, а не синоним фактов. С таким опытом к возрождению глубокого обучения в начале 2010-х она отнеслась настороженно.
«И тут появляется ИИ, тогда мы называли это машинным обучением. И я подумала: подождите, вы берете странные социальные данные, созданные замерами, чтобы отвечать на вопросы рекламодателей. По ним вы строите модели типов людей, доступ к которым продаете рекламодателям. […] И говорите, что это синоним интеллекта. Что на этом можно строить модели мира», — говорит Уиттакер.
Почему Уиттакер ушла из Google?
Первый громкий конфликт Уиттакер с руководством Google разгорелся вокруг сотрудничества компании с Пентагоном. В 2017 году Министерство обороны США запустило Project Maven, программу, которая должна была автоматизировать анализ записей с военных беспилотников. Алгоритмы распознавали на видео объекты и отмечали возможные цели, а проверяли их аналитики. Google предоставляла для этого технологии машинного обучения. Руководство компании оценивало контракт примерно в $9 млн.
В 2018 году Уиттакер стала инициатором открытого письма гендиректору Сундару Пичаи. В апреле его подписали более 3100 сотрудников Google. Авторы требовали прекратить работу над Maven и пообещать, что компания никогда не будет создавать военные технологии. Подписанты опасались, что улучшенный анализ видео с дронов поможет выбирать цели для ударов. В июне Google объявила, что не продлит контракт после его истечения в 2019 году. Работу над Maven продолжила Palantir.
Для самой Уиттакер дело было не только в военном применении. Ее пугала сама связка: корпорация с беспрецедентным объемом данных о жителях всей планеты становится подрядчиком армии одной страны.
Осенью 2018 года начался новый конфликт, уже по другому поводу. Уиттакер стала одной из организаторов всемирной акции протеста сотрудников Google. Больше 20 000 человек вышли из офисов, узнав, что создатель Android Энди Рубин, которого обвиняли в домогательствах, получил при уходе $90 млн.
Весной 2019 года Уиттакер была среди сотрудников, которые добились роспуска совета Google по этике ИИ. После этого, по ее словам, руководство компании начало на нее давить. Уиттакер возглавляла группу Open Research, и ей сообщили, что ее роль «радикально изменят». Чтобы остаться в Google, ей пришлось бы оставить работу над этикой ИИ и в AI Now. В компании это отрицали, сославшись на обычные перестановки. В июле 2019 года Уиттакер покинула корпорацию.
Следующие два года она посвятила AI Now, а с ноября 2021 года почти год консультировала по вопросам ИИ председателя Федеральной торговой комиссии США Лину Хан. В сентябре 2022 года Уиттакер возглавила Signal.
Почему Уиттакер называет ИИ технологией слежки?
В сентябре 2023 года на конференции TechCrunch Disrupt президент Signal назвала ИИ технологией слежки по своей сути. Первый ее довод — происхождение. Главная особенность современного ИИ — небывалые массивы сведений о людях и вычислительные мощности для их обработки. Накопили их компании, которые с конца 1990-х зарабатывают на рекламе, долгие годы паразитировавшей на личных данных пользователей. ИИ продолжает эту бизнес-модель и помогает ее укрепить, считает Уиттакер.
Второй довод: ИИ не только использует собранные данные, но и создает о людях новые. В том же выступлении на TechCrunch Disrupt Уиттакер привела в пример камеры с «псевдонаучным» распознаванием эмоций. Система смотрит на лицо и выносит вердикт: человек счастлив, печален, лжет или у него «плохой характер». Такие системы продают тем, у кого есть власть над людьми: работодателям, правительствам, пограничным службам. По их выводам решают, возьмут ли человека на должность и пропустят ли через границу без лишних вопросов.
Примеры таких систем уже были. Видеоинтервью американской HireVue используют работодатели при найме. До марта 2020 года алгоритм компании оценивал кандидатов в том числе по выражению лица: следил, как человек хмурится и улыбается. От функции HireVue отказалась после критики ученых: мимика не универсальна, а ее связь с качествами работника научно не доказана.
В 2018 году ЕС испытывал на границах Венгрии, Латвии и Греции систему iBorderCtrl. Виртуальный пограничник задавал путешественнику вопросы через веб-камеру, а алгоритм искал в микровыражениях лица признаки лжи. Тех, кого система сочла подозрительными, отправляли на дополнительную проверку.
Почему вера в ИИ похожа на религию?
В беседе, которую AI Now опубликовал в феврале 2026 года, Уиттакер заметила, что половина технологической индустрии «молится небесному богу, который живет на чипе Nvidia».
В октябрьском интервью журналу A Rabbit’s Foot исследовательница развила эту мысль. По ее мнению, вера в появление сверхразума отчасти напоминает религиозную. Такое убеждение отвечает на глубокую потребность человека соприкасаться с тем, что больше его самого. Раньше эту роль во многом выполняла религия, теперь на нее претендуют технологии.
Но Уиттакер предлагает посмотреть, во что именно нас призывают верить. Современные нейросети — не сверхъестественные существа и не самостоятельный разум. За ними стоят оплачиваемый и бесплатный труд людей, данные, которые лишь приблизительно описывают жизнь, и дорогая вычислительная инфраструктура. Возможности моделей имеют вполне материальные основания и пределы.
Образ сверхразума, напротив, превращает технологию в нечто почти божественное, и выгодно это прежде всего корпорациям, которые ее создают. Если убедить общество, что машины мыслят и решают лучше человека, разработчики получают дополнительный авторитет. Им становится проще обосновывать право определять, как работают институты и распределяются ресурсы. В этом Уиттакер видит сходство с религиозной властью. Духовный авторитет помогает священнослужителю влиять на паству и уходить от проверки, а обещание сверхразума приносит технологическим компаниям доверие и влияние.
Что не так с «открытым» ИИ?
Самым популярным ответом на концентрацию власти в ИИ стала «открытость», но Уиттакер сомневается и в ней. В 2023 году она вместе с Дэвидом Виддером и Сарой Майерс Уэст опубликовала препринт Open (For Business). В ноябре 2024 года его версия вышла в журнале Nature.
Авторы признают, что «открытые» модели прозрачнее. Но обучающие выборки часто держат в секрете, лицензии ограничивают применение, а без мощностей бигтеха не обойтись. Когда такие модели выдают за открытые, это называют опенвошингом (openwashing).
В феврале 2026 года исследовательница назвала открытый ИИ «нарративным арбитражем»: ореол демократизации, заслуженный свободным софтом, механически переносят на нейросети.
В программировании открытость имела точный смысл. Лицензии разрешали брать чужой код, менять его и использовать заново, и это, по мнению Уиттакер, в какой-то мере рассредоточивало власть. С ИИ, по ее словам, так не выходит. Открытые веса полезны: модель можно запустить на своих серверах и не отправлять в облако конфиденциальную информацию. Но и такой модели нужны огромные массивы данных, человеческий труд и инфраструктура, поэтому концентрацию власти открытый ИИ не подрывает, подчеркнула она.
Популярность лозунга Уиттакер объясняет политикой. Полюсами силы в ИИ стали США и Китай, и остальные страны тревожатся за свою независимость. Слово «открытость» в такой ситуации звучит привлекательно, но модель с открытыми весами не избавляет от зависимости: данные, чипы и облака остаются у тех же корпораций. Поэтому Уиттакер считает, что «такой суверенитет на самом деле не суверенен».
Чем опасны ИИ-агенты?
В марте 2025 года на фестивале SXSW Уиттакер объяснила, почему считает ИИ-агентов угрозой приватности. Она взяла пример, которым рекламируют таких помощников: агент сам находит концерт, покупает билеты, планирует вечер и сообщает друзьям, что все готово. Для этого ему нужен доступ к браузеру, банковской карте, календарю и мессенджеру.
Ограничить его права, по ее словам, не получится. Чтобы связать четыре сервиса в одну цепочку, агенту нужно действовать во всей системе с привилегиями, похожими на root-доступ, то есть открывать данные любого приложения. Читать их он будет, скорее всего, в незашифрованном виде: моделей, которые работают с зашифрованными данными, нет. Обрабатывать запросы, вероятно, будет облачный сервер, а не телефон. По словам Уиттакер на SXSW, такие агенты угрожают разрушить барьер между уровнем приложений и уровнем операционной системы.
С похожей проблемой Signal уже столкнулся на Windows. В апреле 2025 года, почти через год после анонса, Microsoft открыла функцию Recall для всех компьютеров Copilot+ на Windows 11. Запуск откладывали из-за критики специалистов по безопасности. Recall каждые несколько секунд делает снимки экрана и складывает их в базу с поиском, куда могла попасть и переписка в Signal. Отдельной настройки, чтобы разработчики могли исключить свое приложение, Microsoft не предусмотрела. Поэтому в мае Signal Desktop начал по умолчанию помечать свое окно в Windows 11 тем же DRM-флагом, которым фильмы защищают от копирования. Скриншот переписки теперь получается пустым.
В июне 2026 года в интервью Bloomberg Уиттакер прокомментировала идею главы Microsoft AI Мустафы Сулеймана. Тот говорил Bloomberg, что уже в 2026 году рождественские подарки можно будет покупать через Copilot. В версии Уиттакер это звучит как «Эй, Copilot, я не хочу жить своей жизнью. Проживи ее за меня».
К доступу к приложениям здесь добавляется право действовать от имени человека. В примере Уиттакер агенту пришлось бы читать групповой чат с братьями и сестрами, чтобы понять, что понравится семье. Ему понадобились бы доступ к ее Signal, домашний адрес и право писать родным от ее имени. Такая система, по словам Уиттакер, получает обширные права во множестве приложений и сервисов и для Signal стала бы «своего рода бэкдором».
Сам протокол Signal никто не взламывает: сообщения по-прежнему защищены в пути. Но агент читает их на устройстве уже расшифрованными и может отправлять новые от имени пользователя. Еще в январе 2026 года в Давосе Уиттакер объясняла, что в таком случае шифрование остается математически надежным, но перестает защищать на практике.
Что ответить тому, кому «нечего скрывать»?
На предупреждения о слежке часто отвечают: «Мне нечего скрывать». Уиттакер называет такую реакцию самоуспокоительным заблуждением и предлагает скептикам мысленный эксперимент:
«Представьте, что каждое сообщение, которое вы когда-либо написали, хранится где-то в базе данных. Вас заводят в комнату и говорят: „Вот ссылка“. По ней открывается вся ваша переписка со всеми адресатами, и доступна она любому, кто нажмет. К базе подключена языковая модель, так что искать можно по именам, по темам, по тому, когда вы говорили о том или другом. Там все: каждая ваша ложь, каждая мелкая гадость, каждый раз, когда вы выпускали пар, каждое „ненавижу начальника“ в чате с коллегой. На что бы вы только не пошли, чтобы это не разослали всем вашим знакомым?»
Дело не в том, что люди плохие, объясняет она. Просто у каждого много разных отношений, взгляды меняются, а иногда нужно выговориться. С лучшим другом человек говорит не так, как с психотерапевтом или онкологом, и это часть достойной, полноценной жизни.
Приватность в ее определении — возможность общаться так, чтобы разговор не обратили против вас те, у кого есть над вами власть.
Пользуется ли Уиттакер чат-ботами?
Только для рутины. В интервью Bloomberg Уиттакер рассказала, что иногда просит нейросети отформатировать документ, но вопросов им не задает.
Друзьями чат-ботов она не считает. Удаление переписки, по ее словам, ничего не гарантирует: решает тот, кто управляет сервисом. Диалоги можно хранить и анализировать, а ответы подстраивать под тех, кто платит. На просьбу найти дешевый авиабилет бот может предложить рейс рекламного партнера, хотя тот вовсе не самый выгодный.
В феврале 2026 года OpenAI начала тестировать показ объявлений в ChatGPT. В компании уверяют, что на ответы она не влияет, но, как и с удалением переписки, правила здесь задает владелец сервиса.