Коллега Piqd Яннис Брюль вчера порекомендовал статью Джеймса Винсента на The Verge, в которой говорится о предполагаемом загрязнении Интернета генеративным контентом искусственного интеллекта. Кейси Ньютон в своем блоге о платформерах идет по тому же пути, и хотя я на самом деле не хочу преуменьшать проблему потока синтетического контента, я твердо убежден, что Интернет долгое время подвергался воздействию потока оптимизированного для машин и некачественного контента. Интересно, что несколько дней назад The Verge написала именно на эту тему: «Как гонка вооружений в области SEO привела к тому, что Google и Веб утонули в мусорном тексте«.
Саяш Капур и Арвинд Нараянан из AI-Snakeoil написали длинную статью для Колумбийского университета о реальном влиянии синтетического контента на социальные сети и, как и я, пришли к выводу, что, хотя искусственный интеллект еще больше снижает затраты на производство чуши, узким местом для успешного воздействия остается человеческая психология.
Основываясь на этом, они идентифицируют формы синтетического контента, вредные последствия которого уже ощущаются и которые требуют политического регулирования: неконсенсусные глубокие подделки и мошенничество с помощью клонирования голоса. Женщин уже шантажируют синтетической обнаженнойнатурой, а пожилых людей обманом лишают их сбережений фальшивыми голосами. Эти опасности реальны, они уже оказывают влияние, и имитирующие системы искусственного интеллекта с открытым исходным кодом действительно создают новые сценарии угроз в этих случаях.
Они также упоминают фотофильтры с искусственным интеллектом, которые могут оптимизировать каждое изображение всеми мыслимыми способами одним щелчком мыши, даже создавая реалистичное путешествие в подростковые годы. Психологическое воздействие таких демократизированных возможностей редактирования в нашем визуальном мире уже можно предвидеть: год назад я поделился исследованием о том, как фотофильтры уже увеличивают количество косметических операций, поскольку они изменяют восприятие собственного лица. Эффект от улучшенных искусственным интеллектом визуальных машин для исполнения желаний в один клик может быть еще больше, особенно в том, что касается виртуальной и дополненной реальности.
Более того, дебаты о контенте искусственного интеллекта, якобы отравляющем Интернет, заслоняют другие экономически вредные последствия развития искусственного интеллекта: иллюзия когнитивных алгоритмов создается новым классом работников, которые создают наборы данных, на основе которых обучаются новые чудо-машины за нищенскую зарплату за границей.
Среди всех предупреждений о предполагаемом потоке SEO-чуши, сгенерированной искусственным интеллектом, давайте не будем забывать, что SEO-чушь и спам всегда были проблемой, но на самом деле не влияли на общение людей в Интернете, и что дебаты об этом предполагаемом потоке затеняют взгляд на экономические проблемы и более тонкие, психологически вредные эффекты имитирующего искусственного интеллекта.
Дилемма искусственного интеллекта
Тристан Харрис, бывший «Специалист по этике дизайна» в Google, и Аза Раскин расширили свой документальный фильм 2021 года «Социальная дилемма» (веб-сайт фильма, вот трейлер), чтобы углубиться в многочисленные проблемы, возникающие в связи с разработкой и поспешным внедрением систем искусственного интеллекта: «Дилемма искусственного интеллекта«.
Тристан Харрис и Аза Раскин обсуждают, как существующие возможности ИИ уже представляют катастрофические риски для функционирующего общества, как компании ИИ вовлечены в гонку за максимально быстрым развертыванием без надлежащих мер безопасности, и что это будет означать для модернизации наших институтов в мире после ИИ.
ВИДЕО: https://thesample.ai/
В то время как «Социальная дилемма» сосредоточена на поляризации, постоянно сокращающемся объеме внимания и каскадах возмущения на платформах социальных сетей, на этот раз ключевыми словами являются: крах воспринимаемой реальности, полностью автоматизированные хакерские атаки, искусственные эмоциональные связи, автоматизированное лоббирование или даже развал системы правосудия.
И все это происходит не потому, что системы искусственного интеллекта начинают превращать всех нас в скрепки для бумаг, а главным образом потому, что системы искусственного интеллекта являются первыми нечеловеческими сущностями, способными генерировать естественный язык, тем самым создавая психологические ворота для алгоритмов и автоматизации наших социальных механизмов.
В другом недавнем выступлении они продолжили обсуждение этих тем: Тристан Харрис и Аза Раскин обсуждают дилемму искусственного интеллекта.
Согласие Ноама Хомского на производство в 21 веке
Исследователь дезинформации Рене Диреста из Стэнфордской интернет-обсерватории пишет о новых медиа-голиафах и «производственном согласии» Ноама Хомского и о том, как его теория СМИ была подорвана Интернетом и социальными сетями.
Пять медиафильтров старого света Хомского — «собственность, реклама, источники информации, противодействие зенитным ракетам и страх» — были в значительной степени трансформированы Интернетом и часто превращались в свою противоположность. Демократизация издательского дела практически свела затраты на публикацию к нулю, влиятельные люди зарабатывают деньги за счет патронажа вместо рекламы, старые привратники и эксперты были сметены и теперь являются лишь одним голосом среди многих, «ловить на себе внимание» или сталкиваться с противодействием влиятельных участников — гарантированный способ привлечь внимание в эпоху интернета. Эффект Стрейзанд и возможности нагнетания страха сегодня доступны любому.
Интернет создал пространство для множества взаимосвязанных микропубличностей, в которых новые очевидные нишевые «давиды» борются с многочисленными «голиафами» в глобальной экономике внимания. Следствием этого является гиперконтраризм, тенденция яростно противоречить любому высказыванию «старых элит» со стороны «средств массовой информации отдельных лиц» и интерпретировать их исключительно в контексте их соответствующих ниш. Это приводит к теориям заговора, в которых авторитетные средства массовой информации обманывают общественность, и только одинокий, независимый мыслитель-воин обладает единственной правдой. «Проведите свое исследование» и т.д.
В соответствии с этим недавнее исследование, о котором я писал здесь, приписывает знакомое риторическое преувеличение в Интернете побочному эффекту хорошо документированного онлайн—эффекта растормаживания, который описывает потерю самоконтроля при онлайн—общении из-за отсутствия коммуникативных сигналов, таких как язык тела или выражение лица выражения. В статье утверждается, что в условиях экономии внимания отсутствие этих средств коммуникации, наряду с отсутствием языковых запретов, приводит к преувеличению значимости вопросов. Все либо «потрясающе», либо «буквально наихудшее», и ошибки в публикации новостей больше не приписываются небрежному освещению событий под влиянием капиталистических экономических стимулов, а рассматриваются как злонамеренные заговоры сатанистов, которые едят детей в подвалах пиццерий.
У DiResta нет решения этой проблемы. Она пишет, что прозрачности в отношении новых экономических условий и их последствий для издателей — и под издателями я имею в виду не только традиционных издателей, но и каждого участника социальных сетей — может быть достаточно, чтобы общественность стала более осторожной, когда речь заходит о гиперболических индивидуальных борцах с миллионами подписчиков в Twitter. Возможно, в конечном счете она права, поскольку мы уже наблюдаем своего рода привыкание к возмущению, особенно в отношении культурных войн, которые, как мы надеемся, продолжают утихать с 2015 года.
Однако я не верю, что привыкание к интернет-возмущению является достаточным средством для воссоединения разрозненной общественности в некую новую гражданскую общность, и эта разрозненная общественность не особенно нова. Что нового, так это то, что теперь мы можем видеть в более широком масштабе, что наши соседи на самом деле думают совсем по-другому, и мы можем публично комментировать и оценивать это.
Призыв к запрету смартфонов в школах
Вот уже несколько лет я выступаю против цифровизации образования. Я ничего не имею против ноутбуков и смартфонов в старших классах и университетах; но в годы становления начального образования и за его пределами цифровые устройства оказывают пагубное влияние на интеллектуальное развитие детей и поэтому должны быть запрещены в классе просто потому, что доказано, что использование цифровых инструментов в образовании препятствует интеллектуальному развитию детей. фундаментальная образовательная миссия школ.
Джонатан Хайдт теперь написал пространное заявление в The Atlantic о запрете смартфонов в школах. В его подстаканнике есть еще более длинная версия текста с дополнительными ссылками, которые подтверждают его утверждения.
Я знаком с этими и другими исследованиями, и научные результаты очевидны, особенно в том, что касается образовательной миссии: чтение и письмо с помощью цифровых устройств приводят к снижению мозговой активности. Причина проста: когда вы читаете и пишете с помощью осязаемых, физически воспринимаемых инструментов в физическом пространстве, это стимулирует области мозга, ответственные за пространственное восприятие, что помогает закрепить усвоенную информацию в памяти. В цифровой среде этот стимул практически полностью отсутствует. Нет никакой связи между написанным словом и двигательными функциями мозга или между содержимым экрана и пространственным восприятием, как в случае с рукописным текстом на бумаге или тактильным чтением в печатной книге. Следовательно, усвоенная информация забывается быстрее.
Несколько лет назад я сидел на острове в Греции и разговаривал с учителем из Голландии, в школе которого в младших классах использовались цифровые устройства. Он покачал головой и сказал, что это катастрофа, и успеваемость детей в последние годы заметно снизилась. Просто небольшой анекдот на фоне эгейского заката в дополнение к научным исследованиям, которые я описал.
Только по этой причине, а именно потому, что цифровая среда подрывает основную цель образования — обучение, я считаю, что цифровых инструментов следует полностью избегать, по крайней мере, в младших классах. Конечно, возможно создать специальные цифровые учебные модули для обучения медиаграмотности или что-то в этом роде, но это нечто качественно отличное от использования цифровых устройств в качестве инструментов письма и / или чтения.
Вдобавок ко всему, у нас есть обязательные предупреждения о socmed: социальные сети являются одной из основных причин эпидемии депрессии, особенно среди молодых девушек. Недавние исследования выявили корреляцию между возрастом, в котором дети получают смартфон, и их дальнейшим психическим здоровьем — чем моложе они знакомятся с цифровым миром, тем более хрупкими они становятся в дальнейшей жизни. Социальные сети влияют на психологическое развитие детейи так далее. До тех пор, пока смартфоны разрешены в школах, все эти эффекты будут влиять на классную комнату.
Я твердо верю, что социальные сети — это психоактивный наркотик, который подвергает наш баланс дофаминергических и окситоцинергических гормонов воздействию среды сознательного самоманипулирования. Проще говоря, взаимодействие с социальными сетями переносит вас в путешествие — не когнитивное, а социальное. И, рискуя показаться сердитым стариком, каким я иногда бываю, скажу, что таким вещам не место в школах.
Если родители хотят подарить своим маленьким детям смартфон — конечно, вперед. Когда они в более позднем возрасте прочитают статьи, подобные этой, они смогут выставить счет своим родителям за расходы на терапию.