Группа бизнес-лидеров и ученых подписала письмо с просьбой к таким компаниям, как OpenAI, Google и Microsoft, прекратить подготовку более мощных систем искусственного интеллекта, чтобы отрасль могла оценить риски, которые они представляют.
Генеральный директор Twitter Илон Маск, ветеран-компьютерщик в области искусственного интеллекта Йошуа Бенгио и Эмад Мостак, генеральный директор быстрорастущего стартапа Stability AI, подписали письмо вместе с примерно 1000 другими представителями делового, академического и технического миров, хотя список не был проверен независимо.
“Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могли бы превзойти нас числом, перехитрить, устареть и заменить нас?”, — говорилось в письме. “Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми”.
В список не вошли топ-менеджеры OpenAI или крупных технологических компаний. В него также не вошли известные критики искусственного интеллекта, такие как бывший инженер Google Тимнит Гебру, которые месяцами и годами предупреждали о более непосредственных рисках, связанных с технологией.
Письмо было спонсировано Институтом будущего жизни, некоммерческой организацией, являющейся частью движения longtermism — философской школы, которая фокусируется на долгосрочных рисках для человечества и пользуется популярностью у технологических миллиардеров. Среди доноров группы — Маск, основатель Skype Яан Таллинн и создатель криптовалюты etherium Виталик Бутерин.
Эксперты годами беспокоились о рисках создания суперсовременных ИИ, но за последние шесть месяцев разговоры стали громче, поскольку общественности были представлены новые генераторы изображений и чат-боты, которые могут вести устрашающе человеческие беседы. Взаимодействие с недавно выпущенными чат-ботами, такими как GPT4 от OpenAI, побудило многих заявить, что искусственный интеллект человеческого уровня не за горами, но другие эксперты отмечают, что способ работы чат-ботов заключается в простом угадывании правильных слов, которые нужно произнести дальше, на основе их обучения, которое включало чтение триллионов слов онлайн. Боты часто переходят в причудливые разговорные циклы, если их запрашивать достаточно долго, и выдают выдуманную информацию за фактическую.
Искусственный интеллект — это не магия и не зло. Вот как распознать мифы об искусственном интеллекте — https://www.washingtonpost.com/technology/2023/03/22/ai-red-flags-misinformation/?itid=lk_interstitial_manual_11
Исследователи этики искусственного интеллекта неоднократно заявляли в последние месяцы, что сосредоточение внимания на рисках создания ИИ с интеллектом человеческого уровня или выше отвлекает от более насущных проблем, которые уже создала технология, таких как привнесение сексистских и расистских предубеждений в новые технологические продукты. Гебру и другие утверждают, что продвижение теории о том, что искусственный интеллект вот-вот станет разумным, на самом деле может иметь пагубные последствия, скрывая вред, который технологии уже наносят. Искусственный интеллект в течение многих лет использовался в алгоритмах рекомендаций, используемых платформами социальных сетей, и критики искусственного интеллекта утверждали, что, устраняя человеческий контроль над этими технологиями, алгоритмы способствовали заговорам против вакцин, отрицанию результатов выборов и ненавистническому контенту.
В письме содержится призыв к шестимесячной паузе в создании новых инструментов искусственного интеллекта, более мощных, чем GPT4 от OpenAI, который компания представила общественности ранее в этом месяце. Лаборатории искусственного интеллекта и компании, работающие в этой области, должны вместо этого разработать набор руководящих принципов для новых технологий искусственного интеллекта, которые могут быть проверены внешними экспертами. В письме содержится призыв к правительствам вмешаться и ввести “мораторий” на разработку искусственного интеллекта, если компании добровольно на это не согласятся.
Некоторые законодатели США призвали к принятию новых правил, касающихся искусственного интеллекта и его разработки, но никаких существенных предложений законодательный орган не внес. Европейский союз опубликовал подробное предложение по регулированию искусственного интеллекта в 2021 году, но оно до сих пор не было принято в качестве закона.
от Автора: Gerrit De Vynck — Twitter / Геррит Де Винк — технический репортер The Washington Post. Он пишет о Google и алгоритмах, которые все больше формируют общество. Де Винк также помогает вести репортаж The Post о программах-вымогателях и дезинформации. Ранее он в течение семи лет освещал технические вопросы в Bloomberg News. Twitter