Искусственный интеллект и генеративный ИИ меняют принципы работы программного обеспечения, создавая возможности для повышения производительности, поиска новых решений и масштабного получения уникальной и актуальной информации. Однако по мере того, как general становится все более распространенным, будут возникать новые и растущие опасения по поводу конфиденциальности данных и этических затруднений.
Искусственный интеллект сегодня может расширить возможности человека, но он пока не должен заменять человеческий надзор, тем более что правила в области искусственного интеллекта все еще развиваются во всем мире. Давайте рассмотрим потенциальные риски для соблюдения требований и конфиденциальности, связанные с неконтролируемым использованием искусственного интеллекта нового поколения, как развивается правовая среда и лучшие практики для ограничения рисков и максимизации возможностей этой очень мощной технологии.
ВИДЕО:
Риски неконтролируемого генеративного ИИ. Привлекательность genAI и больших языковых моделей (Lms) проистекает из их способности консолидировать информацию и генерировать новые идеи, но эти возможности также сопряжены с присущими им рисками. При отсутствии тщательного управления genAI может непреднамеренно привести к таким проблемам, как:
Раскрытие конфиденциальной информации: Компании рискуют раскрыть конфиденциальные данные, когда вводят их в общедоступные модели искусственного интеллекта. Эти данные могут быть использованы для предоставления ответов на будущие запросы третьей стороной или самим владельцем модели. Компании частично устраняют этот риск, локализуя модель искусственного интеллекта в своей собственной системе и обучая эти модели искусственного интеллекта на собственных данных своей компании, но для достижения наилучших результатов требуется хорошо организованный стек данных.
Нарушение защиты интеллектуальной собственности: Компании могут невольно обнаружить, что нарушают права интеллектуальной собственности третьих лиц из-за ненадлежащего использования контента, созданного искусственным интеллектом, что приводит к потенциальным юридическим проблемам. Некоторые компании, такие как Adobe с Adobe Firefly, предлагают компенсацию за контент, созданный их LLM, но вопросы авторского права необходимо будет решить в будущем, если мы продолжим наблюдать, как системы искусственного интеллекта “повторно используют” интеллектуальную собственность третьих лиц.
Раскрытие персональных данных: Нарушения конфиденциальности данных могут произойти, если системы искусственного интеллекта неправильно обрабатывают личную информацию, особенно конфиденциальные персональные данные или данные особой категории. Поскольку компании передают больше маркетинговых данных и данных о клиентах в LLM, это увеличивает риск непреднамеренной утечки этих данных.
Нарушение клиентских контрактов: Использование клиентских данных в ИИ может привести к нарушению договорных соглашений, а это может привести к юридическим последствиям.
Риск обмана клиентов: Действующие и потенциальные будущие нормативные акты часто направлены на надлежащее раскрытие информации о технологии искусственного интеллекта. Например, если клиент взаимодействует с чат-ботом на веб-сайте службы поддержки, компании необходимо четко указать, когда взаимодействие осуществляется с помощью искусственного интеллекта, а когда ответы готовит реальный человек.
Правовой ландшафт и существующие рамки. Правовые нормы, касающиеся ИИ, быстро развиваются, но не так быстро, как поставщики ИИ запускают новые возможности. Если компания попытается минимизировать все потенциальные риски и подождет, пока на ИИ уляжется пыль, она может потерять долю рынка и доверие клиентов, поскольку более быстрые конкуренты привлекут больше внимания. Компаниям следует двигаться вперед как можно скорее, но они должны использовать проверенные временем стратегии снижения рисков, основанные на действующих нормативных актах и юридических прецедентах, чтобы свести к минимуму потенциальные проблемы.
фото: Image Credit: Created with Midjourney
VentureBeat presents: AI Unleashed — An exclusive executive event for enterprise data leaders. Network and learn with industry peers. Learn More
Event.
AI Unleashed. An exclusive invite-only evening of insights and networking, designed for senior enterprise executives overseeing data stacks and strategies./ Эксклюзивный вечер инсайтов и нетворкинга, предназначенный только для приглашенных, предназначен для руководителей высшего звена, отвечающих за сбор данных и стратегии.