Когда упадет: Прогноз курса доллара на июнь 2023 года: что будет с долларом по мнению экспертов

90 014

90 005

90 029

9002 9

900 13

90 013

900 14

ИИ уже причиняет непреднамеренный вред.

Что происходит, когда он попадает не в те руки? | Дэвид Эван Харрис

Ранее в этом году материнская компания Facebook, Meta, предоставила исследователю доступ к невероятно мощному программному обеспечению искусственного интеллекта, и он слил его миру. Как бывший исследователь гражданской честности Меты и ответственных команд ИИ, я в ужасе от того, что может произойти дальше.

Хотя Meta была нарушена утечкой, она вышла победителем: исследователи и независимые программисты теперь соревнуются, чтобы улучшить или развить LLaMA (Large Language Model Meta AI — фирменная версия Meta большой языковой модели или LLM, тип программного обеспечения, лежащего в основе ChatGPT), многие из которых открыто делятся своей работой со всем миром.

Это может позиционировать Meta как владельца центральной части доминирующей платформы искусственного интеллекта, во многом так же, как Google контролирует операционную систему Android с открытым исходным кодом, которая создается и адаптируется производителями устройств по всему миру. Если бы Meta закрепила за собой это центральное положение в экосистеме ИИ, у нее были бы рычаги для формирования направления ИИ на фундаментальном уровне, контролируя как опыт отдельных пользователей, так и устанавливая ограничения на то, что другие компании могут и не могут делать. Точно так же, как Google получает миллиарды от рекламы Android, продаж приложений и транзакций, это может настроить Meta на очень прибыльный период в пространстве ИИ, точная структура которого еще предстоит выяснить.

Компания, по-видимому, выпустила уведомления об удалении, чтобы вывести утечку кода в автономный режим, поскольку предполагалось, что он будет доступен только для исследовательских целей, но после утечки главный научный сотрудник компании Янн ЛеКун сказал: «Платформа, которая победит будет открытой», предполагая, что компания может просто использовать модель с открытым исходным кодом в качестве конкурентной стратегии.

Хотя Bard от Google и ChatGPT от OpenAI можно использовать бесплатно, они не имеют открытого исходного кода. Bard и ChatGPT полагаются на команды инженеров, модераторов контента и аналитиков угроз, работающих над предотвращением использования их платформ во вред — в своих текущих итерациях они (надеюсь) не помогут вам построить бомбу, спланировать террористическую атаку или создать подделку. контент, направленный на срыв выборов. Эти люди и системы, которые они создают и обслуживают, поддерживают ChatGPT и Bard в соответствии с конкретными человеческими ценностями.

LLaMA от Meta с полуоткрытым исходным кодом и его дочерние большие языковые модели (LLM), однако, может запускать любой, у кого достаточно компьютерного оборудования для их поддержки — последнее потомство можно использовать на имеющихся в продаже ноутбуках. Это дает любому — от недобросовестных политических консультантов до хорошо обеспеченного ресурсами разведывательного управления ГРУ Владимира Путина — свободу запуска ИИ без каких-либо систем безопасности.

С 2018 по 2020 год я работал в команде социальной защиты Facebook. Я посвятил годы своей жизни борьбе с интернет-вмешательством в демократию из многих источников. Мои коллеги и я играли в длительные игры в «убей крота» с диктаторами по всему миру, которые использовали «скоординированное недостоверное поведение», нанимая группы людей для ручного создания фальшивых учетных записей для продвижения своих режимов, наблюдения и преследования своих врагов, разжигания беспорядков и даже способствовать геноциду.

«После нескольких раундов увольнений я боюсь, что способность Меты бороться с «операциями влияния» была подорвана». Фотография: ZUMA Press, Inc./Alamy Stock Photo/Alamy Live News.

Я предполагаю, что команда Путина уже находится на рынке отличных инструментов искусственного интеллекта, чтобы сорвать президентские выборы в США в 2024 году (и, возможно, в других странах тоже). Я могу придумать несколько лучших дополнений к его арсеналу, чем появляющиеся в свободном доступе LLM, такие как LLaMA, и программный стек, который строится вокруг них. Его можно использовать, чтобы сделать поддельный контент более убедительным (большая часть российского контента, развернутого в 2016 году, имела грамматические или стилистические дефекты) или для производства гораздо большего его количества, или его можно было бы даже перепрофилировать в качестве «классификатора», который сканирует платформы социальных сетей на наличие особенно зажигательный контент от настоящих американцев, который усиливается фальшивыми комментариями и реакциями. Он также мог бы написать убедительные сценарии для дипфейков, которые синтезируют видео с политическими кандидатами, говорящими вещи, которые они никогда не говорили.

Ирония всего этого в том, что платформы Meta (Facebook, Instagram и WhatsApp) станут одними из крупнейших полей сражений, на которых будут развернуты эти «операции влияния». К сожалению, группа по вопросам гражданской ответственности, в которой я работал, была закрыта в 2020 году, и после нескольких раундов увольнений я боюсь, что способность компании бороться с этими операциями была подорвана.

Еще более тревожным, однако, является то, что мы сейчас вступили в «эру хаоса» социальных сетей, и распространение новых и растущих платформ, каждая с отдельными и гораздо меньшими командами «честности» или «доверия и безопасности», может иметь еще меньше возможностей, чем Meta, для обнаружения и пресечения операций влияния, особенно в последние дни и часы выборов, когда скорость имеет решающее значение.

Но меня беспокоит не только эрозия демократии. После работы в группе по вопросам гражданской честности в Facebook я стал руководить исследовательскими группами, работающими над ответственным ИИ, ведя хронику потенциального вреда ИИ и ища способы сделать его более безопасным и справедливым для общества. Я увидел, как собственные системы искусственного интеллекта моего работодателя могут способствовать дискриминации в сфере жилья, создавать расистские ассоциации и лишать женщин возможности видеть списки вакансий, видимых мужчинам. За пределами компании системы искусственного интеллекта несправедливо рекомендовали более длительные сроки тюремного заключения для чернокожих, не смогли точно распознать лица темнокожих женщин и вызвали бесчисленное количество дополнительных случаев причинения вреда, тысячи из которых занесены в базу данных инцидентов искусственного интеллекта.

Самое страшное, однако, то, что инциденты, которые я описал выше, по большей части были непреднамеренными последствиями масштабного внедрения систем ИИ. Когда ИИ находится в руках людей, которые преднамеренно и злонамеренно злоупотребляют им, риск несоответствия возрастает в геометрической прогрессии, усугубляясь еще больше по мере расширения возможностей ИИ.

Было бы справедливо спросить: не станут ли LLM неизбежно становиться открытым исходным кодом? После утечки LLaMA к гонке присоединились многие другие компании и лаборатории, некоторые из которых публикуют LLM, которые конкурируют с LLaMA по мощности с более либеральными лицензиями на открытый исходный код. Один LLM, созданный на основе LLaMA, с гордостью рекламирует свой «бесцензурный» характер, ссылаясь на отсутствие проверок безопасности как на особенность, а не на ошибку. Тем не менее, Meta сегодня выделяется своей способностью продолжать выпускать все более и более мощные модели в сочетании с готовностью отдать их в руки любому, кто в них нуждается. Важно помнить, что если злоумышленники смогут получить доступ к коду, им вряд ли будет интересно, что написано в лицензионном соглашении.

Мы переживаем момент такого стремительного развития технологий искусственного интеллекта, что даже задержка их выпуска — особенно их выпуска с открытым исходным кодом — на несколько месяцев может дать правительствам время для принятия важных правил. Именно к этому призывают такие руководители, как Сэм Альтман, Сундар Пичаи и Илон Маск. Технологические компании также должны установить гораздо более строгий контроль за тем, кто квалифицируется как «исследователь» для получения особого доступа к этим потенциально опасным инструментам.

Небольшим платформам (и выдолбленным командам на более крупных) также требуется время, чтобы их группы доверия и безопасности/честности осознали последствия LLM, чтобы они могли выстроить защиту от злоупотреблений. Компании, занимающиеся генеративным ИИ, и коммуникационные платформы должны работать вместе, чтобы внедрить водяные знаки для идентификации контента, созданного ИИ, и цифровые подписи для проверки подлинности контента, созданного человеком.

Гонка на выживание в области безопасности ИИ, которую мы сейчас наблюдаем, должна прекратиться. На слушаниях в Конгрессе США в прошлом месяце Гэри Маркус, эксперт по ИИ, и Сэм Альтман, генеральный директор OpenAI, призвали к созданию новых международных руководящих органов специально для ИИ — по аналогии с органами, регулирующими ядерную безопасность.