Мередит Уиттакер из Signal: взломать шифрование при сохранении конфиденциальности — это «волшебное мышление»
Signal, имеющая десятки миллионов пользователей по всему миру, является одним из ведущих приложений для обмена сообщениями, предлагающим шифрование для защиты сообщений от шпионов. В результате он также стал целью законодателей, стремящихся подорвать технологию.
Президент Signal Мередит Уиттакер, которой поручено руководить работой чуть более 40 сотрудников небольшой некоммерческой организации, обеспечивает работу приложения, является голосом компании, когда дело доходит до борьбы с политиками, которые угрожают конфиденциальности пользователей. И в последнее время недостатка в рисках не было. Недавно Signal присоединился к критикам, в том числе к Meta, и призвал к внесению изменений в законопроект Великобритании о безопасности в Интернете, который, как ожидается, вскоре будет вынесен на окончательное голосование. Законопроект введет сканирование на стороне клиента, технологию, которая сканирует личные сообщения людей на их устройствах, чтобы сопоставить их с базой данных контента, который считается нежелательным.
Известный исследователь искусственного интеллекта, ранее работавший в Google, прежде чем стать соучредителем исследовательского института AI Now, Уиттекер также является ведущим голосом, предупреждающим о потенциальном вреде технологии для гражданских свобод. CyberScoop поговорил с Уиттакером о глобальных угрозах шифрованию и о том, как ИИ может подпитывать «волшебное мышление» о том, как правительства пытаются обойти зашифрованные технологии.
Этот разговор был отредактирован для ясности и длины.
Некоторые люди говорят, что мы вступаем в новый этап шифровальных войн. Как бы вы описали момент, в котором мы находимся?
Угроза очень реальна и очень непосредственна. В свое время я не видел большей угрозы. И я думаю, что необходимо, чтобы мы отодвинулись и уточнили условия. Теперь, я не думаю, что если мы собираемся представить это как войну, я не думаю, что это война, которую мы когда-либо окончательно выиграем. Потому что то, с чем мы имеем дело, — это не непонимание того, как работает технология, по крайней мере, оно не основано на непонимании.
Мы не собираемся убеждать власть имущих в том, что они должны отказаться от своей погони за информационной асимметрией в качестве инструмента власти, что фактически и создает слежка для тех, кто осуществляет слежку за теми, за кем ведется слежка. Желание централизовать власть пришло вместе с волей к управлению, наблюдению, социальному контролю над населением, и я не думаю, что такое ядро исчезнет. Но сейчас я думаю, что мы находимся в довольно важном моменте. Очень важно, чтобы мы продолжали уточнять условия и продолжали в конечном итоге выигрывать в этом, иначе мы можем столкнуться со сценарием, в котором возможности для частной цифровой связи практически ограничены.
Что вы имеете в виду, когда говорите «уточнить условия»?
Существует волшебное мышление, которое утверждает, что такие технологии, как сканирование на стороне клиента, каким-то образом смогут отслеживать все сообщения от имени правительства, и некоторая смесь частных лиц определяет, считаются ли эти сообщения приемлемыми или нет, и принять меры в соответствии с этим определением.
И как-то сделать это в частном порядке. Я думаю, мы должны четко понимать, что нет никакого способа реализовать безопасный бэкдор. Искусственный интеллект — во что бы вас ни убеждал маркетинг этих компаний — на самом деле не способен на магию.
Заявления о том, что возможно с помощью этого типа наблюдения, на самом деле не основаны на реальности. Есть некоторое разрушение мифов и некоторое снижение ажиотажа, которое должно произойти. И затем я думаю, что необходимо поместить это в более обоснованный исторический контекст, который действительно признает ставки создания системы, которая позволяет правительству постоянно эффективно контролировать частное общение каждого. Предлог для такого мониторинга может измениться. Но это то, что нам действительно нужно подчеркнуть — насколько опасным может быть такой режим.
Теперь мы пост-Доббс. Мы уже видели Джессику Берджесс, мать из Небраски, которую обвинили в уголовном преступлении за то, что она помогла своей дочери получить доступ к репродуктивной помощи после того, как штат внезапно запретил репродуктивную помощь.
И предоставленными доказательствами, которые привели к этому обвинению, были сообщения в Facebook. У нас есть представление о том, как это можно использовать в мире, где личности людей криминализованы, а доступ людей к информации криминализирован. Это действительно должно быть гораздо большей частью дебатов.
Как вы думаете, какие угрозы шифрованию представляются наиболее серьезными?
Я, конечно же, внимательно слежу за положениями о шифровании в британском законопроекте о безопасности в Интернете. Я должен четко понимать, что сам законопроект представляет собой своего рода сборник различных положений, и некоторые из них хороши. Я думаю, что исследователи, имеющие доступ к данным технологических компаний, действительно положительны, и мы не должны их выбрасывать. Тем не менее, там есть некоторые действительно тревожные положения, которые дадут британскому органу по регулированию телекоммуникаций и конкуренции возможность обязать использовать утвержденную правительством технологию сканирования на каждом устройстве, которая будет реализовывать режим массового наблюдения, который будет проверять сообщения людей до того, как они будут отправляется в непрозрачную базу данных неприемлемой речи с использованием, скорее всего, какого-то варианта искусственного интеллекта или машинных моделей для обнаружения недопустимого контента и принятия мер на основе этих обнаружений.
И это абсолютно неприемлемо. И это было бы полным потрошением права на неприкосновенность частной жизни в дополнение к простому установлению чрезвычайно дорогого и неработоспособного режима.
Вы уже упоминали, что сканирование на стороне клиента получило широкое распространение в качестве обходного пути для шифрования. Как вы думаете, почему он стал популярным?
Этому способствует момент, в котором мы находимся, когда так много необоснованной шумихи вокруг ИИ. На сцену выходят технические руководители, говорящие, что они верят в то, что эти системы обладают сознанием. У нас есть много-много разных компаний и много-много разных «отцов ИИ», делающих заявления о возможностях этих систем, которые просто не имеют под собой реальной основы. Таким образом, создается атмосфера, в которой нетрудно понять, почему кто-то, не знакомый с материальными деталями этих технологий, может полагать: «О, я думаю, если ИИ может думать лучше человека, почему клиентская сторона не может сканирование делает невозможное, сканируя контент в частном порядке?» а я думаю есть приостановка недоверия, потому что мы завалены необоснованными заявлениями.
Так почему бы и этому другому необоснованному утверждению не быть правдой?
В США мы видели антишифровальную риторику, особенно в отношении материалов о сексуальной эксплуатации детей (CSAM). Вы видите ухудшение ситуации в США?
Безусловно, некоторые правоохранительные органы всегда стремились взломать или подорвать шифрование. Это не ново. Я отслеживаю потенциальное возрождение закона EARN IT и закона о безопасности детей в Интернете. Я думаю, что счета проверки возраста действительно касаются. Чтобы подтвердить чей-то возраст, вы должны иметь информацию о его личности, вы должны быть в состоянии подтвердить эту личность, и вы должны эффективно создать своего рода базу данных наблюдения.
Основное внимание уделяется Великобритании, потому что она находится дальше всех. И что мы знаем из технической политики, так это то, что прецедент чрезвычайно силен. Прецеденты довольно быстро копируются и вставляются правительствами по всему миру, потому что регулирование новых технологий считается сложным и рискованным.
Частично негативная реакция на шифрование связана с идеей, что оно облегчает CSAM. Как вы отреагируете на такой эмоциональный, интуитивный аргумент против шифрования?
Я думаю, вам нужно смириться с этим. Не то чтобы я не мог этого избежать или сказать: «Мы говорим не об этом, мы говорим о математике». Это не совсем решение проблемы. Но это очень быстро становится рамкой, где почти все жестокое обращение с детьми вызвано онлайн [активностью]. Таким образом, рама проблемы внезапно становится технологической. Так что каркас решения, конечно же, технологический, да? И все это игнорирует тот факт, что в реальном мире есть дети, страдающие и нуждающиеся в помощи.
В большинстве случаев жестокое обращение происходит в семьях, а когда это не происходит в семьях, оно в основном совершается взрослым, который является авторитетной фигурой, которой поручено в той или иной форме заботиться о ребенке. Это не происходит онлайн. Это происходит в реальном мире.
Здесь есть очень, очень мрачная динамика, которой нам нужно смотреть в лицо, если мы собираемся решить эту проблему. И я думаю, что в каком-то смысле абстрагирование этого онлайна и превращение его в проблему технологии и «технологического пугала» — это способ фактически избежать того, чтобы смотреть на эту динамику в лицо.
Службы обмена зашифрованными сообщениями объединились, чтобы противостоять закону Великобритании. Как вы относитесь к солидарности с такой компанией, как Meta, у которой совсем другая бизнес-модель, чем у Signal?
Чрезвычайные угрозы вызывают необычные коалиции. Солидарность — это особая практика. Не знаю, солидарность ли это. Но в данный момент, столкнувшись с этими угрозами, у нас есть общие интересы. В то же время это не означает, что я менее критично отношусь к методам слежки Меты. Это не означает, что я не собираюсь обвинять WhatsApp в том, что они рекламируют себя как действительно частные, когда они продолжают собирать метаданные, которые можно легко объединить с данными Facebook.
Сейчас мы находимся в реальной угрозе возможности общаться в частном порядке. И одна из немногих хороших вещей, которые сделала Meta, — это то, что она не вырвала протокол Signal, интегрированный в WhatsApp, прямо перед тем, как он был продан Meta.
Если они борются за то, чтобы историческая норма конфиденциальности оставалась доступной для человеческого общения, даже несмотря на то, что многие наши сообщения перешли в онлайн, то мы тоже ведем эту битву. Но это не означает ничего другого.
Администрация Байдена расправится с «мусорными» планами медицинского страхования, неожиданное выставление счетов
ВАШИНГТОН — В пятницу администрация Байдена объявила о новых инициативах, которые могут сократить расходы на здравоохранение, хотя ни одна из них не вступит в силу немедленно.
Изменения включают предлагаемое правило, которое сократит срок действия краткосрочных планов медицинского страхования и потребует от компаний, предлагающих эти планы, большей прозрачности в отношении того, что покрывается, а что нет.
Администрация сообщает больницам, что пациенты либо входят в сеть, и расходы на их медицинское обслуживание подпадают под ограничения выставления счетов в Законе о доступном медицинском обслуживании, либо это лечение вне сети, а расходы на выставление счетов покрываются федеральный закон, известный как Закон об отсутствии сюрпризов.
Белый дом также запрашивает информацию о кредитных картах с особенно высокими процентными ставками, которые могут быть предложены в кабинетах врачей, чтобы помочь людям оплачивать свое медицинское обслуживание.
Президент Джо Байден, выступая из Восточного зала Белого дома в пятницу днем, сказал, что краткосрочные полисы медицинского страхования — это мошенничество, которому необходимо положить конец.
«Американцы думали, что покупают временную страховку, которая обеспечит реальное покрытие», — сказал Байден. «Вместо этого многие были обременены тысячами долларов медицинских счетов, которые эти ненужные сборы не покрывают. И я думаю, что это возмутительно».
Советник Белого дома по внутренней политике Нира Танден заявила во время телефонного разговора с журналистами в четверг, что предлагаемое правило, которое может быть окончательно доработано в конце этого года, поможет американцам понять разницу между планами медицинского страхования, предлагаемыми в соответствии с Законом о доступном медицинском обслуживании, и так называемыми «мусорная страховка».
Эти краткосрочные планы медицинского страхования, по словам Тандена, «предназначены для предоставления временного покрытия, когда люди переходят от одного источника страхового покрытия к другому, например, когда мы между работами».
При администрации Трампа эти краткосрочные планы, которые не должны обеспечивать тот же тип медицинского страхования, что и другие страховые планы, могли действовать до трех лет, сказала она.
«ACA помогла десяткам миллионов американцев получить доступ к высококачественному и доступному медицинскому страхованию, которое защищает американцев от дискриминации из-за ранее существовавших заболеваний», — сказал Танден.
«К сожалению, некоторые виды страховых планов, такие как краткосрочное страхование с ограниченным сроком действия, не обеспечивают полного покрытия. Важно отметить, что им не нужно соблюдать критически важные меры защиты ACA».
Краткосрочные планы оставили некоторых людей с тысячами долларов медицинского долга, в том числе мужчину в Монтане, у которого было 43 000 долларов медицинских счетов после того, как краткосрочный план отказал в покрытии рака, заявив, что это было ранее существовавшее заболевание, она сказал.
В дополнение к ограничению этих краткосрочных планов медицинского страхования тремя месяцами с возможностью продления на один месяц, предлагаемое правило «требует, чтобы планы, которые дискриминируют на основе ранее существовавших условий и не предлагают всесторонние льготы, раскрывали свои ограничения. четко для потребителей», — сказал Танден.
Сенатор-демократ от Висконсина Тэмми Болдуин отпраздновала этот шаг в письменном заявлении, заявив, что краткосрочные планы страхования часто предлагаются по более низкой цене, чем другие планы, хотя это сопряжено с подводными камнями.
«Более низкая цена этикетки вводит американцев в заблуждение, заставляя покупать медицинскую страховку, которая не должна покрывать ранее существовавшие заболевания, отпускаемые по рецепту лекарства, уход за беременными и множество других основных потребностей, в то же время привязывая пациентов к огромному счету для оплаты из карман, когда им действительно нужна медицинская помощь», — сказал Болдуин.
Неожиданные медицинские счета
В связи с неожиданным выставлением счетов за медицинские услуги Министерство здравоохранения и социальных служб рассылает инструкции больницам, которые, как надеются представители администрации Байдена, сократят или исключат людей, получающих тысячи медицинских счетов, которых они не ожидали.
«В соответствии с этим новым руководством мы ясно даем понять, что планы и поставщики не могут обойти правила неожиданного выставления счетов, просто изменив условия, которые они используют в своих контрактах», — сказал Танден.
«Например, некоторые планы медицинского страхования заключают контракты с больницами, а затем пытаются заявить, что технически они не «в сети», — добавила она.
«Честно говоря, то, что они делают, — это игра с системой. Это недопустимо, и, как будет описано в нашем руководстве, этому должен быть положен конец».
Высокопоставленный представитель администрации, рассказывая о подробностях руководства, сказал, что следует разъяснить, что нет пробела между защитой от внесетевых расходов, покрываемых в соответствии с федеральным законом, известным как Закон об отсутствии сюрпризов, или защитой в Законе о доступном медицинском обслуживании для внутрисетевых расходов.
«Мы говорим, что здесь нет серой зоны», — сказал чиновник. «Это либо защита Закона об отсутствии сюрпризов, либо защита наличных расходов».
Байден сказал во время своего выступления, что больницам, взимающим «безумно возмутительные цены, нужно положить конец».
Третья инициатива администрации, обнародованная в пятницу, требует от населения информации о кредитных картах и некоторых видах кредитов, которые часто предлагаются людям для оплаты медицинских услуг.