Что касается индустрии высоких технологий, трудно сказать, была ли когда-либо более шокирующая серия событий, чем те, что произошли за последние несколько дней. Дворцовая интрига и драма в зале заседаний, связанная с отстранением Сэма Альтмана правлением OpenAI (и его победоносным восстановлением в должности ранее сегодня), несомненно, войдет в историю как один из самых взрывоопасных эпизодов, когда-либо случавшихся в Кремниевой долине. Тем не менее, долгосрочные последствия этого захватывающего инцидента наверняка будут намного менее приятными, чем его первоначальное зрелище.
“Переворот”, как многие его называют, в значительной степени объясняется идеологическим разногласием между Сэмом и правлением OpenAI по поводу темпов технологического развития компании. Итак, согласно этому повествованию, правление, которое, как предполагается, имеет решающее значение в руководстве организацией, было обеспокоено темпами, с которыми Альтман продвигал коммерциализацию технологии, и решило уволить его с крайним предубеждением. Альтман, которого впоследствии поддержал влиятельный партнер и спонсор OpenAI, Microsoft, а также большинство сотрудников стартапа, впоследствии возглавил контрпереворот, вытеснив предателей и восстановив себя в качестве лидера компании.
Кажется, что большая часть драмы эпизода вращается вокруг этого спора между Альтманом и правлением по поводу “безопасности искусственного интеллекта”. Действительно, эта сложная глава в истории компании выглядит как столкновение двух противоположных личностей OpenAI — одна основана на исследованиях и ответственном технологическом развитии, а другая — на зарабатывании огромных денег. Одна сторона решительно одержала верх над другой (подсказка: это была денежная сторона).
Другие авторы уже высказывались о том, как уникальная организационная структура OpenAI, похоже, привела ее к столкновению с самой собой. Возможно, вы видели организационную схему стартапа, распространенную в Интернете, но, если вы этого не видели, вот краткое резюме: в отличие практически от любого другого существующего технологического бизнеса, OpenAI на самом деле является некоммерческой организацией, полностью управляемой своим советом директоров, который управляет коммерческой компанией и контролирует ее. Предполагается, что этот дизайн ставит во главу угла миссию организации, заключающуюся в стремлении к общественному благу, а не к деньгам. Самоописание OpenAI продвигает это идеалистическое представление о том, что его главная цель — сделать мир лучше, а не зарабатывать деньги:
Мы разработали структуру OpenAI — партнерство между нашей первоначальной некоммерческой организацией и новым подразделением с ограниченной прибылью — в качестве основы для миссии OpenAI: создания искусственного общего интеллекта (AGI), который безопасен и приносит пользу всему человечеству.
Действительно, устав правления обязан своей верностью “человечеству”, а не своим акционерам. Таким образом, несмотря на то, что Microsoft вложила в OpenAI мегатонну денег и ресурсов, правление стартапа по-прежнему (гипотетически) должно иметь последнее слово в отношении того, что происходит с его продуктами и технологиями. Тем не менее, сообщается, что стоимость компании, входящей в состав организации, составляет десятки миллиардов долларов. Как многие уже отмечали, этическая миссия организации, похоже, вступила в прямое противоречие с экономическими интересами тех, кто инвестировал в организацию. Как обычно, деньги выиграли.
Учитывая все вышесказанное, вы могли бы привести доводы в пользу того, что нам пока не следует полностью одобрять такую интерпретацию событий уик-энда, поскольку фактические причины отстранения Альтмана от должности до сих пор не обнародованы. По большей части сотрудники компании либо не говорят о причинах, по которым Сэма выгнали, либо категорически отрицают, что его увольнение имело какое-либо отношение к безопасности искусственного интеллекта. Тем временем появились альтернативные теории, причем некоторые предполагают, что реальные причины агрессивного ухода Альтмана были явно более красочными — например, обвинения в том, что он добивался дополнительного финансирования через автократические режимы Ближнего Востока.
Но слишком увлекаться размышлениями о конкретных катализаторах драмы OpenAI — значит игнорировать то, что показал весь эпизод: что касается реального мира, “безопасность искусственного интеллекта” в Кремниевой долине практически нулевая. Действительно, теперь мы знаем, что, несмотря на свою якобы пуленепробиваемую организационную структуру и заявленную миссию ответственного развития искусственного интеллекта, OpenAI никогда бы не позволили на самом деле поставить этику выше денег.
Чтобы было ясно, безопасность искусственного интеллекта — действительно важная область, и если бы это действительно практиковалось корпоративной Америкой, это было бы одно дело. Тем не менее, версия it, существовавшая в OpenAI — возможно, одной из компаний, которая сделала больше всего для реализации модели, ориентированной на “безопасность”, — похоже, не слишком соответствовала реальным политическим махинациям технологической индустрии. Говоря еще более откровенно, люди, которые должны были защищать нас от неуправляемого ИИ (то есть члены правления) — те, кому было поручено ответственное руководство этой мощной технологией, — похоже, не знали, что они делали. Похоже, они не понимали, что у Сэма были все связи в индустрии, друзья на высоких постах, его любили, и что выступать против него в мире, где такой социальный капитал — это все, равносильно карьерному самоубийству. Если вы нападаете на короля, вам лучше не промахиваться.
Короче говоря: если цель корпоративной безопасности ИИ состоит в том, чтобы защитить человечество от неуправляемого ИИ, то, как эффективная стратегия для достижения этой цели, она, по сути, только что провалила свой первый большой тест. Это потому, что довольно трудно поверить в группу людей, которые даже не были способны предсказать очень предсказуемый результат, который произойдет, когда они уволят своего босса. Как именно такой группе можно доверить надзор за предположительно “сверхразумной” технологией, потрясающей мир? Если вы не можете перехитрить толпу возмущенных инвесторов, то вы, вероятно, не сможете перехитрить организацию типа Skynet, которую, как вы утверждаете, создаете. Тем не менее, я бы сказал, что мы также не можем доверять трусливому, помешанному на деньгах C-suite, который сейчас восстановил свое господство. Имо, они явно не собираются поступать правильно. Таким образом, по сути, человечество застряло между молотом и наковальней.
По мере того, как конфликт из-за разгрома OpenAI улаживается, кажется, что у компании есть все возможности вернуться к работе в обычном режиме. После увольнения двух единственных женщин в совете директоров компания добавила финансового головореза Ларри Саммерса. Альтман вернулся в компанию (как и бывший президент компании Грег Брокман, который ушел в отставку в знак солидарности с Альтманом), а топ-менеджер Microsoft Сатья Наделла сказал, что он “воодушевлен изменениями в OpenAI board” и сказал, что это “первый важный шаг на пути к более стабильное, хорошо информированное и эффективное управление”.
С провалом правления кажется очевидным, что благодетели OpenAI, возможно, не только отменили свою собственную миссию по “обеспечению безопасности”, но и, возможно, вызвали негативную реакцию против движения за этику искусственного интеллекта в целом. Показательный пример: драма этих выходных, похоже, еще больше радикализировала и без того довольно радикальную идеологию борьбы с безопасностью, которая распространялась в бизнесе. “Эффективные акселерационисты” (сокращенно “e/acc”) считают, что такие вещи, как дополнительные правительственные постановления, “техническая этика” и “безопасность искусственного интеллекта”, являются громоздкими препятствиями на пути истинного технологического развития и экспоненциальной прибыли. В минувшие выходные, когда появилось повествование о “безопасности искусственного интеллекта”, некоторые из наиболее ярых приверженцев этой системы убеждений обратились к X, чтобы осудить то, что они восприняли как атаку на истинную жертву эпизода (капитализм, конечно).
В какой-то степени весь смысл принятия “этики” и “безопасности” технологической индустрией заключается в уверенности. Компании понимают, что технологии, которые они продают, могут сбивать с толку и разрушать систему; они хотят заверить общественность в том, что делают все возможное для защиты потребителей и общества. В конце концов, однако, теперь мы знаем, что нет никаких оснований полагать, что эти усилия когда-либо принесут результат, если “этика” компании в конечном итоге вступит в противоречие с ее деньгами. И когда эти две вещи когда-либо не противоречили друг другу?
Беспрецедентная неразбериха на этой неделе вдохновила так много мемов и язвительных дублей, что возможность выбрать фаворита кажется почти невозможной. На самом деле, скандал породил в целом несколько разных жанров мемов. Сразу после отставки Альтмана циркулировало множество мемов о заговоре Раста Коула, поскольку технический мир изо всех сил пытался понять, чему именно он стал свидетелем. Также были шутки о том, кто должен заменить Альтмана и что, возможно, вызвало борьбу за власть в первую очередь. Затем, когда стало ясно, что Microsoft будет стоять за отстраненным генеральным директором, повествование — и мемы — изменились. Жанр триумфального возвращения Сэма в OpenAI после отстранения от правления стал популярным, как и множество мемов, связанных с Сатьей Наделл. Были, конечно, мемы о преемственности. И, наконец, возник неизбежный жанр мемов, в котором пользователи X открыто высмеивали правление OpenAI за то, что оно так полностью провалило переворот против Альтмана. Лично я нашел это видео deepfake, в котором лицо Альтмана меняется местами с лицом Джордана Белфорта из «Волка с Уолл-стрит», хорошим. Тем не менее, отметьте в комментариях свой любимый.
Еще заголовки с этой недели. Другая компания, занимающаяся искусственным интеллектом, у которой была действительно плохая неделя. OpenAI — не единственная технологическая фирма, которая на этой неделе прошла через трудные времена. Cruise, компания robotaxi, принадлежащая General Motors, также переживает довольно тяжелые времена. Основатель и генеральный директор компании Кайл Фогт подал в отставку в понедельник после того, как штат Калифорния обвинил компанию в нераскрытии ключевых деталей, связанных с жестоким инцидентом с пешеходом. Фогт основал компанию в 2013 году и вывел ее на видное место в индустрии автоматизированных путешествий. Однако неудачное внедрение компанией транспортных средств в Сан-Франциско в августе привело к всеобщему испугу и множеству жалоб от жителей города и представителей органов общественной безопасности. Скандалы, связанные с Cruise, привели к тому, что в октябре компания убрала все свои автомобили с дорог Калифорнии, а затем, в конечном счете, прекратила свою деятельность по всей стране.
MC Hammer, по-видимому, большой поклонник OpenAI. Чтобы добавить к странностям этой недели, мы также узнали, что рэпер “U Can’t Touch This” MC Hammer является подтвержденным поклонником OpenAI. В среду, когда хаос борьбы за власть на этой неделе подошел к концу, рэпер написал в твиттере: “Приветствую и поздравляю 710 с лишним членов команды @OpenAI, которые продемонстрировали беспрецедентную демонстрацию верности, любви и преданности @sama и @gdb в эти опасные времена, это было нечто прекрасное быть свидетелем.”
Креативщики проигрывают войну за авторские права на искусственный интеллект. Судебный процесс Сары Сильверман против OpenAI и Meta продвигается не так успешно. На этой неделе стало известно, что судебный процесс комика против технологических гигантов (которых она обвиняет в нарушении авторских прав) потерпел неудачу. Сильверман не одинок. Иск, поданный несколькими художниками-визуалистами против Midjourney и Stability AI, был практически отклонен судьей в прошлом месяце. Тем не менее, хотя эти судебные иски, похоже, терпят неудачу, возможно, дело просто в том, чтобы найти надлежащий юридический аргумент для их успеха. Хотя нынешние претензии могут быть недостаточно вескими, дела могут быть пересмотрены и направлены повторно.
фото: Photo: Justin Sullivan (Getty Images)
Источник: https://gizmodo.com/ai-safety-openai-sam-altman-ouster-back-microsoft-1851038439