Несмотря на то, что многочисленные драмы на Капитолийском холме могут стать основой для интересных новостных циклов, «правительство штата — это инфраструктура нашей политической системы». Точно так же, как штаты отвечают за лицензирование медицинской деятельности, многие из них играют ведущую роль в установлении ограничений для ИИ.
автор: Майк Миллиард , главный редактор
В сентябре этого года губернатор Калифорнии Гэвин Ньюсом подписал SB 53 — Закон о прозрачности в сфере искусственного интеллекта, первый в стране закон, целью которого является продвижение инноваций в области искусственного интеллекта при одновременном обеспечении общественной безопасности за счёт того, что модели ИИ будут безопасными, надёжными и прозрачными.
Закон призван установить своего рода «ограничители здравого смысла» при разработке передовых алгоритмов, придерживаясь подхода «доверяй, но проверяй» при создании моделей. Помимо прочего, закон требует, чтобы крупные разработчики передовых «фреймворковых» моделей ИИ публиковали в открытом доступе схемы, описывающие, как они внедряют в свои разработки национальные и международные стандарты, а также лучшие отраслевые практики. Он предусматривает создание нового механизма, с помощью которого передовые компании в сфере ИИ и общественность смогут сообщать в Управление по чрезвычайным ситуациям штата Калифорния о потенциальных критических инцидентах, связанных с безопасностью, а также защищает информаторов, сообщающих о значительных рисках для здоровья и безопасности, связанных с такими моделями.
Законопроект обязывает Калифорнийский департамент технологий ежегодно рекомендовать соответствующие обновления с учётом новых стандартов, мнения заинтересованных сторон и технологических разработок. Кроме того, в рамках штата будет создан новый консорциум CalCompute для разработки системы, обеспечивающей создание и внедрение моделей ИИ, которые являются «безопасными, этичными, справедливыми и устойчивыми». «Калифорния доказала, что мы можем устанавливать правила для защиты наших сообществ, обеспечивая при этом дальнейшее процветание растущей индустрии искусственного интеллекта», — заявил Ньюсом 29 сентября. «Этот закон обеспечивает необходимый баланс. Искусственный интеллект — это новый рубеж в сфере инноваций, и Калифорния не только готова к этому, но и является национальным лидером, приняв первое в стране законодательство о безопасности ИИ, которое укрепляет доверие общества по мере стремительного развития этой новой технологии».
Согласно новому закону, «Золотой штат» теперь взял на себя роль «ведущего регулятора ИИ в США», как отметила в октябре юридическая фирма Latham & Watkins LLP. «SB 53 знаменует собой смену парадигмы в нормативно-правовом регулировании передовых разработок в области искусственного интеллекта», — заявили юристы, отметив, что компаниям, работающим в сфере ИИ, «потребуется провести серьёзную подготовительную работу по соблюдению нормативных требований» — составить карту активов модели, создать и внедрить системы управления рисками, разработать процессы мониторинга инцидентов и отчётности перед регулирующими органами и многое другое. «Штрафы очень высокие — за одно нарушение можно получить штраф в семизначном размере, поэтому крайне важно, чтобы разработчики, подпадающие под действие SB 53, тесно сотрудничали с юристами при разработке комплексной программы соблюдения требований».
Поиск баланса между инновациями и регулированием
Представители отрасли здравоохранения положительно отреагировали на то, что новый закон предусматривает некоторые меры по ограничению использования ИИ.
«Этот новый закон, принятый в Калифорнии, изменит ситуацию не только в штате, но и во всем мире, учитывая, что тысячи других компаний в своих разработках в области ИИ полагаются на передовые модели больших языковых моделей», — заявила Ли Берчелл, вице-президент по вопросам политики и связям с общественностью в Altera Digital Health, в интервью Healthcare IT News.
«Прозрачность, которая теперь будет требоваться, пойдёт на пользу разработчикам программного обеспечения — даже тем, кого закон напрямую не касается, — которые хотят убедиться, что внедряемые ими инструменты ИИ включают в себя средства защиты, необходимые для внедрения инновационных и безопасных технологий», — добавила она.
«Закон обеспечивает баланс между поддержкой инноваций и внедрением ограничений для ответственного развития систем искусственного интеллекта», — сказала Шини Паттни, руководитель юридического отдела компании Lindus Health, которая разрабатывает инструменты и стратегии для клинических исследований.
«Многие крупнейшие компании, занимающиеся искусственным интеллектом, уже документируют свои протоколы безопасности, поэтому законопроект SB 53 должен обеспечить единообразие в отрасли, а не создавать обременительную нагрузку в виде соблюдения требований. Особенно приятно видеть конкретные шаги, направленные на поощрение инноваций.»
Паттни приветствовал тот факт, что благодаря CalCompute в рамках закона будет создан «публичный кластер облачных вычислений, который будет поддерживать публичные исследования в области ИИ и демократизировать доступ к передовым вычислительным ресурсам. Это хорошая новость для стартапов, которые в противном случае не смогли бы конкурировать с мощной инфраструктурой крупных компаний».
Калифорния, конечно, тоже не закончила с регулированием ИИ. Например, только в прошлом месяце Ньюсом подписал SB 243, который позиционируется как первый в своём роде закон, посвящённый «компаньонным чат-ботам» на основе ИИ, которые обеспечивают обработку естественного языка и адаптивное социальное взаимодействие, подобное человеческому. «Закон призван защитить пользователей, особенно несовершеннолетних, от введения в заблуждение относительно характера их взаимодействия и от доступа к потенциально опасному или неприемлемому контенту», — согласно краткому изложению от Skadden, Arps, Slate, Meagher & Flom LLP. Он содержит ряд требований к раскрытию информации, протоколов безопасности и правил отчётности и может повлечь за собой «гражданские иски и потенциально крупный ущерб» для разработчиков ИИ, которые не соблюдают эти требования. Ещё прошлым летом казалось, что «Закон об одном большом прекрасном законопроекте», подписанный президентом Дональдом Трампом 4 июля, будет содержать положение запрещающее штатам регулировать ИИ в течение следующего десятилетия. Этот пункт в конечном счёте был исключён из закона после того, как штаты выступили против.
«Нужно многое выяснить»
В конце концов, именно штаты до сих пор были движущей силой в установлении некоторых ограничений для быстро развивающихся технологий искусственного интеллекта в здравоохранении и других сферах. Как недавно объяснила нам Сара Джаромин, специалист по политике в Национальной конференции законодательных собраний штатов, двухпартийной организации, представляющей все 50 штатов, округ Колумбия и территории, «штаты действительно вовлечены» в разработку законодательства, ориентированного на ИИ и направленного на решение целого ряда проблем, связанных с использованием этой технологии. По её словам, NCSL отслеживает более 1000 законопроектов, связанных с ИИ в целом по всем штатам, и более 200 законопроектов, связанных конкретно с использованием ИИ в здравоохранении. Около двух десятков из них уже приняты.
В сентябре Яромин выступил на панельной дискуссии в рамках саммита HIMSS AI Leadership Strategy Summit в Чикаго. Вместе с экспертами в области политики и законодателем из штата Теннесси он представил обзор быстро меняющейся ситуации в сфере законотворчества, связанного с ИИ. Если штаты являются «лабораториями демократии», то они также быстро становятся ключевыми испытательными полигонами для многих новых правил в сфере ИИ, в то время как Конгресс США занимается другими вопросами. «Происходит очень много событий, много изменений и поправок к каждому из законопроектов по мере их прохождения через законодательный процесс», — сказала Тина Джорос, вице-президент по политике и инновациям в Veradigm. Если говорить о тысячах законопроектов об искусственном интеллекте, которые были внесены на рассмотрение на государственном уровне, то в прошлом году их было от 500 до 700, в зависимости от того, как считать, — сказал Джорос, который также является председателем рабочей группы по искусственному интеллекту Ассоциации электронных медицинских карт. «Я имею в виду, что это просто наводнение. Мы тоже видели это на федеральном уровне, там тоже наблюдается некоторая активность. Но я думаю, что штаты реагируют следующим образом: „Мы сделаем всё возможное, чтобы позаботиться о людях, которые живут в нашем штате“. Я думаю, это хорошо. Но нужно многое выяснить. Так что там много законопроектов».
Сенатор-республиканец от штата Теннесси Бо Уотсон заявил, что законодатели штата приветствуют любую помощь, которую могут оказать эксперты в области технологий в связи с быстрым развитием инноваций в сфере искусственного интеллекта. «Тем из нас, кто занимается разработкой политики, нужна ваша помощь, чтобы определить, в какой степени и в каком объёме нам нужно применять законодательство и регулирование в развивающемся технологическом секторе», — сказал он. Уотсон обратился к руководителям в сфере здравоохранения и информационных технологий с просьбой «взять на себя ответственность и помочь своим законодателям в том штате, откуда вы приехали, чтобы мы могли принимать действительно правильные решения о том, как двигаться дальше, потому что, судя по количеству законопроектов, которые вы вносите, многие штаты придерживаются разных идей и концепций». И никаких вопросов: «Одна из действительно полезных вещей, которые делают штаты, — это то, что мы учимся друг у друга, — добавил он. — Мы обмениваемся большим количеством информации, а затем и законодательными актами между штатами». Но в целом технология «развивается быстрее, чем частный сектор может за ней угнаться, и, конечно, если частный сектор не может за ней угнаться, то и государственный сектор не сможет», — сказал Уотсон. «Мы пытаемся это выяснить».
Приоритеты политики
«Люди удивляются, когда я говорю им, что большинство законодателей в штатах работают неполный рабочий день», — сказал Джаромин. «У них есть работа на полный рабочий день вне законодательного органа. Хотя сенатор Уотсон является экспертом в этой области, многие из наших членов не являются экспертами в области искусственного интеллекта или здравоохранения. «Поэтому я прошу всех вас связаться с Национальной студенческой спортивной лигой или с вашими членами в других штатах, чтобы подумать, как вы можете их просвещать и помогать им принимать взвешенные решения». Уотсон сказал, что одна из самых больших проблем, с которой ему и его коллегам приходится сталкиваться, — это энергопотребление центров обработки данных ИИ.
Другие приоритеты связаны с планами медицинского страхования и предварительным согласованием.
«Треть законодательных актов, за которыми я слежу в этом году, связана либо с запретом, либо с контролем за использованием ИИ в процессах управления расходами плательщиков», — сказал Яромин, упомянув недавние законопроекты, которые либо запрещают использование ИИ при принятии решений о медицинской необходимости, либо требуют, чтобы окончательное решение принимали люди. «Ещё одна новинка, с которой мы сталкиваемся, — это регулирование чат-ботов, — добавила она. — В Юте и Нью-Йорке есть законы, которые требуют раскрывать информацию о том, что это не человек».
«Сейчас на рассмотрении у губернатора Калифорнии находится законопроект, в котором говорится, что использование ИИ в качестве защиты не допускается, — сказал Джорос, явно имея в виду законопроект SB 243. — Так что, если у вас есть чат-бот, ориентированный на потребителя, и этот закон вступит в силу, вы не сможете сказать: «Эй, мы просто использовали инструмент. Человек получил информацию». Извините, мы не знали, что там будет написано. Вам придётся взять на себя ответственность за это.
«Вопрос ответственности очень важен, — добавила она. — Кто будет нести ответственность, если этот чат-бот воспользуется моими данными и предоставит вам неверную информацию? Что, если это окажет серьёзное влияние на вашу жизнь, здоровье или какой-то другой аспект вашей жизни? Кто будет нести ответственность?»
«Инфраструктура нашей политической системы»
Неудивительно, что штаты берут на себя ведущую роль в регулировании ИИ, — сказал Уотсон. «Почти все лицензирование медицинских работников осуществляется на уровне штатов, — сказал он. — Если ИИ используется в сфере диагностики, то кому принадлежит эта сфера? Должны ли мы в какой-то момент в будущем вернуться к лицензированию ИИ определённым образом, потому что он использует определённую информацию для предоставления другой информации и так далее?
«Когда вы работаете в законодательном органе, лицензирование — это сфера, за которую идёт ожесточённая борьба, — добавил он. — Все хотят защитить свою территорию, но ИИ будет работать в разных дисциплинах, и в конечном счёте именно лицензия будет отвечать за решения, которые вы будете принимать с помощью ИИ». Проще говоря, «правительство штата — это инфраструктура нашей политической системы», — сказал Уотсон. «Федеральное правительство очень интересное. Это круглосуточное шоу. Но на правительства штатов и местные органы власти возложена большая ответственность». «Поэтому крайне важно, чтобы вы взаимодействовали с правительством своего штата и с законодательством своего штата, — добавил он. — Потому что в конечном счёте именно они будут принимать от 95% до 98% решений, которые повлияют на вашу бизнес-модель».
фото: Фото: Bettmann / Getty Images