AI как опасно!

Что произошло

Белый дом объявил о подписании президентом Байденом исполнительного указа, регламентирующего развитие технологий в сфере искусственного интеллекта. 111-страничный документ призван в числе прочего «установить новые стандарты в сфере безопасного развития ИИ, защитить частную жизнь американцев, помочь в продвижении равенства и гражданских прав, защитить интересы потребителей, способствовать развитию инноваций и конкуренции».

Замруководителя аппарата Белого дома Брюс Рид назвал указ «самым решительным набором мер» из всех, что когда-либо были предприняты правительствами для безопасного развития ИИ.

Предшествующее подписанию указа заседание экспертной комиссии, состоявшееся в прошлый четверг в Овальном кабинете Белого дома, вместо отведенных 30 минут продлилось более часа, несмотря на известие о массовой стрельбе в штате Мэн, войну на Ближнем Востоке и выборы нового спикера Палаты представителей Конгресса США.

читайте также

Чат-бот, который всех напугал

На какой стадии сегодня находится развитие искусственного интеллекта и стоит ли нам опасаться восстания машин

Анна Игнатенко21 мая 2023

читайте также

Чат-бот, который всех напугал

На какой стадии сегодня находится развитие искусственного интеллекта и стоит ли нам опасаться восстания машин

Анна Игнатенко21 мая 2023

Как указ будет работать

Указ состоит из восьми частей, исполнять которые поручено конкретным федеральным ведомствам при содействии компаний отрасли. Министерству торговли предстоит разработать и внедрить руководство по маркировке и нанесению водяных знаков на контент, созданный с помощью ИИ, чтобы потребители могли легко его распознать. Национальному институту стандартов и технологий поручено создать стандарты для тестирования безопасности инструментов ИИ перед их выходом на рынок. Министерства энергетики и внутренней безопасности рассмотрят потенциальные угрозы со стороны ИИ критически важной инфраструктуре и предложат способы их устранения. Также администрация США обязуется разработать инструменты для адаптации рынка труда к последствиям развития ИИ,

Ведущие разработчики систем на основе ИИ, значимых с точки зрения национальной безопасности, экономики и здравоохранения, теперь обязаны делиться с правительством результатами проводимых тестов на безопасность своих продуктов. Реализовать установленные указом меры планируется в течение года.

Что предшествовало подготовке указа

В июле Байден встретился в Белом доме с руководителями семи крупнейших компаний в сфере искусственного интеллекта, включая Amazon, Google, Meta, Microsoft и OpenAI. В ходе беседы топ-менеджеры взяли на себя комплекс добровольных обязательств, который отчасти и лег в основу нынешнего закона. В числе прочего они обязались выполнять тестирование своих продуктов на предмет потенциальных рисков с точки зрения биологической и кибербезопасности и возможных угроз обществу. При этом такие тесты должны проводиться с привлечением сторонних экспертов — особенно болезненная мера, учитывая остроту конкуренции в отрасли. Также речь шла о более отдаленных угрозах, связанных с будущими моделями ИИ, потенциально способными самовоспроизводиться и брать под контроль физические объекты. Кроме того, топ-менеджеры согласились самостоятельно обнародовать выявленные в ИИ-системах риски и недостатки.

Почему это важно

За последние семь лет инвестиции в компании, работающие в сфере ИИ, выросли в семь раз, превысив в 2022 году 91 млрд долларов США. Американский банк Goldman Sachs прогнозирует, что к 2025 году эта сумма достигнет 200 млрд. Всплеску инвестиций сопутствуют многочисленные предостережения со стороны экспертов и лидеров бизнеса о потенциальных угрозах из-за неконтролируемого развития ИИ.

Следом за выходом в начале этого года большой языковой модели GPT-4, способной свободно поддерживать беседу, сочинять песни и писать диссертации, группа из нескольких сотен экспертов, предпринимателей и исследователей, включая Илона Маска и Стива Возняка, опубликовала открытое письмо с призывом приостановить разработку более совершенных систем, по крайней мере до появления соответствующей регуляторной базы.

«Продвинутый ИИ может повлечь за собой глубокое изменение всей человеческой истории, и его следует планировать со всей тщательностью. […]

— говорится в документе, который на момент подготовки публикации подписали более 33 тысяч человек.

По словам Джона Рида, американский президент крайне вовлечен в тему искусственного интеллекта.

«Он был впечатлен и встревожен […]. Он увидел созданные ИИ поддельные изображения самого себя, своей собаки, увидел, насколько скверная история из-за всего этого может случиться. А еще он познакомился с невероятной и пугающей технологией клонирования голоса, способной за три секунды составить из звуков вашего голоса полноценный фальшивый разговор», — сказал чиновник.