автор: Кристофер Ф. Руфо
На этой неделе президент Дональд Трамп подписал указ , фактически предписывающий его администрации воздержаться от покупки «пробуждённого ИИ». Этот указ, изданный как раз в тот момент, когда искусственный интеллект, по всей видимости, готов доминировать в технологическом будущем, создаёт для разработчиков мощный стимул создавать беспристрастные модели ИИ, служащие американским интересам.
Я наблюдал за разработкой указа изнутри и работал с представителями администрации, включая «царя» искусственного интеллекта Дэвида Сакса, чтобы определить проблему идеологического искажения искусственного интеллекта. После беспорядков, связанных с Джорджем Флойдом, в 2020 году общественность хорошо знакома с процессом идеологического захвата: «пробужденные» концепции, такие как критическая расовая теория, трансгендеризм и идеология «пробужденного», распространяются внутри института, а затем деградируют. Трамп и его администрация понимали эту динамику и подготовили пакет указов к началу его президентского срока, которые упразднили бюрократию Вашингтона, связанную с теорией «пробужденного» и прекратили финансирование государственных контрактов, продвигающих идеологию «пробужденного». Однако идеологический захват программного обеспечения — это нечто новое. Эта технология экспериментальная и быстро меняющаяся, и она требует нового подхода.
Появляется Сакс, знаменитый венчурный капиталист и «царь искусственного интеллекта и криптовалют» президента Трампа. Несколько недель назад Сакс обратился ко мне с вопросом: как определить «пробужденный ИИ» и какие принципы можно перечислить, чтобы помешать правительству закупать идеологически скомпрометированное программное обеспечение? Ответ начинается с того, что компании, занимающиеся разработкой искусственного интеллекта, намеренно выбирают ценности, заложенные в кодовую базу, которую чат-боты используют для формулирования ответов на вопросы пользователей. Например, компания Anthropic, занимающаяся разработкой искусственного интеллекта, опубликовала официальную « конституцию », в которой изложены ценности, заложенные в её программное обеспечение, включая ценности, закреплённые в Декларации прав человека ООН и в ряде концепций, заимствованных из критической теории расы. Поскольку ответы программного обеспечения фильтруются через эти ценности, Anthropic обладает, по мнению многих, наиболее левоориентированным ИИ. Выбор ценностей неизбежен. Все компании, занимающиеся искусственным интеллектом, явно или неявно заложили идеологическую формулу в свои «конституции», «системные карты», «принципы согласования» или «критерии доверия и безопасности». Вопрос не в том, будет ли система ИИ построена на определённом наборе ценностей; вопрос в том, какой набор ценностей выберут программисты.
В указе Трампа чётко указано, что, хотя все компании, занимающиеся разработкой ИИ, вольны выбирать любую рабочую идеологию, федеральное правительство будет закупать только программное обеспечение, «ориентированное на поиск истины» и приверженное принципу «идеологического нейтралитета». Другими словами, Вашингтон не будет вести бизнес с компаниями, чьи модели приведут к «сокрытию или искажению фактической информации о расе или поле; манипулированию расовым или сексуальным представительством в результатах моделирования; внедрению таких концепций, как критическая расовая теория, трансгендеризм, бессознательная предвзятость, интерсекциональность и системный расизм; а также к дискриминации по признаку расы или пола».
Теория, лежащая в основе указа, заключается в том, что Вашингтон оказывает огромное влияние на технологические компании посредством заключения контрактов. Федеральное правительство часто является крупнейшим заказчиком для крупных высокотехнологичных компаний, и поэтому требования правительства к контрактам окажут глубокое влияние на будущее искусственного интеллекта, который может стать многотриллионной индустрией. Указ президента появился в самый подходящий момент. Искусственный интеллект находится на начальном этапе развития, и в течение следующих четырёх лет его разработчикам предстоит принять важные решения о его будущем. То, что происходит сейчас, определит будущее. По мере развития искусственного интеллекта наиболее ожесточённая борьба развернётся вокруг его «соответствия». Будут ли разработчики согласовывать модели ИИ с идеологической повесткой или с национальными интересами Америки? Это непростой вопрос. Прогнозисты представляют себе мир, в котором практически вся информация о человеке проходит через алгоритмы искусственного интеллекта, а восприятие конечных пользователей — миллиардов людей по всему миру — будет формироваться на основе этой информации. Конкуренция между моделями и между странами станет ожесточённой.
Своим указом Трамп чётко обозначил свою позицию: правительство США будет поддерживать модели искусственного интеллекта, основанные на фактах, нейтральные и соответствующие национальным интересам Америки. Несомненно, впереди нас ждут новые битвы, но Трамп, Сакс и вся команда Белого дома, занимающаяся искусственным интеллектом, заслуживают огромной похвалы. Одним росчерком пера президента они изменили вектор развития искусственного интеллекта с «пробуждения» на «яркое будущее Америки».
фото: Фото Чипа Сомодевиллы/Getty Images