Elon Musk speaks at an event in 2020. (Andrew Harrer/Bloomberg)

Группа бизнес-лидеров и ученых подписала письмо с просьбой к таким компаниям, как OpenAI, Google и Microsoft, прекратить подготовку более мощных систем искусственного интеллекта, чтобы отрасль могла оценить риски, которые они представляют.

Генеральный директор Twitter Илон Маск, ветеран-компьютерщик в области искусственного интеллекта Йошуа Бенгио и Эмад Мостак, генеральный директор быстрорастущего стартапа Stability AI, подписали письмо вместе с примерно 1000 другими представителями делового, академического и технического миров, хотя список не был проверен независимо.

“Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могли бы превзойти нас числом, перехитрить, устареть и заменить нас?”, — говорилось в письме. “Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми”.

В список не вошли топ-менеджеры OpenAI или крупных технологических компаний. В него также не вошли известные критики искусственного интеллекта, такие как бывший инженер Google Тимнит Гебру, которые месяцами и годами предупреждали о более непосредственных рисках, связанных с технологией.

Письмо было спонсировано Институтом будущего жизни, некоммерческой организацией, являющейся частью движения longtermism — философской школы, которая фокусируется на долгосрочных рисках для человечества и пользуется популярностью у технологических миллиардеров. Среди доноров группы — Маск, основатель Skype Яан Таллинн и создатель криптовалюты etherium Виталик Бутерин.

Эксперты годами беспокоились о рисках создания суперсовременных ИИ, но за последние шесть месяцев разговоры стали громче, поскольку общественности были представлены новые генераторы изображений и чат-боты, которые могут вести устрашающе человеческие беседы. Взаимодействие с недавно выпущенными чат-ботами, такими как GPT4 от OpenAI, побудило многих заявить, что искусственный интеллект человеческого уровня не за горами, но другие эксперты отмечают, что способ работы чат-ботов заключается в простом угадывании правильных слов, которые нужно произнести дальше, на основе их обучения, которое включало чтение триллионов слов онлайн. Боты часто переходят в причудливые разговорные циклы, если их запрашивать достаточно долго, и выдают выдуманную информацию за фактическую.

Искусственный интеллект — это не магия и не зло. Вот как распознать мифы об искусственном интеллекте — https://www.washingtonpost.com/technology/2023/03/22/ai-red-flags-misinformation/?itid=lk_interstitial_manual_11

Исследователи этики искусственного интеллекта неоднократно заявляли в последние месяцы, что сосредоточение внимания на рисках создания ИИ с интеллектом человеческого уровня или выше отвлекает от более насущных проблем, которые уже создала технология, таких как привнесение сексистских и расистских предубеждений в новые технологические продукты. Гебру и другие утверждают, что продвижение теории о том, что искусственный интеллект вот-вот станет разумным, на самом деле может иметь пагубные последствия, скрывая вред, который технологии уже наносят. Искусственный интеллект в течение многих лет использовался в алгоритмах рекомендаций, используемых платформами социальных сетей, и критики искусственного интеллекта утверждали, что, устраняя человеческий контроль над этими технологиями, алгоритмы способствовали заговорам против вакцин, отрицанию результатов выборов и ненавистническому контенту.

В письме содержится призыв к шестимесячной паузе в создании новых инструментов искусственного интеллекта, более мощных, чем GPT4 от OpenAI, который компания представила общественности ранее в этом месяце. Лаборатории искусственного интеллекта и компании, работающие в этой области, должны вместо этого разработать набор руководящих принципов для новых технологий искусственного интеллекта, которые могут быть проверены внешними экспертами. В письме содержится призыв к правительствам вмешаться и ввести “мораторий” на разработку искусственного интеллекта, если компании добровольно на это не согласятся.

Некоторые законодатели США призвали к принятию новых правил, касающихся искусственного интеллекта и его разработки, но никаких существенных предложений законодательный орган не внес. Европейский союз опубликовал подробное предложение по регулированию искусственного интеллекта в 2021 году, но оно до сих пор не было принято в качестве закона.

Источник: https://www.washingtonpost.com/technology/2023/03/29/ai-letter-pause/?utm_source=rss&utm_medium=referral&utm_campaign=wp_business-technology

от Автора: Gerrit De Vynck  —  Gerrit De Vynck is a tech reporter for The Washington Post. He writes about Google and the algorithms that increasingly shape society. De Vynck also helps lead The Post’s coverage of ransomware and misinformation. He previously covered tech for seven years at Bloomberg News. Twitter / Геррит Де Винк — технический репортер The Washington Post. Он пишет о Google и алгоритмах, которые все больше формируют общество. Де Винк также помогает вести репортаж The Post о программах-вымогателях и дезинформации. Ранее он в течение семи лет освещал технические вопросы в Bloomberg News. Twitter