В отчете о клиническом случае описывается случай, когда мужчина, желавший изменить рацион питания, обратился к ChatGPT, а затем у него развился «бромизм» — редкое «токсидром».
Мужчина проконсультировался с ChatGPT перед изменением рациона. Три месяца спустя, после того как он последовательно придерживался этого рациона, он попал в отделение неотложной помощи с тревожными новыми психиатрическими симптомами, включая паранойю и галлюцинации. Выяснилось, что у 60-летнего мужчины был бромизм — синдром, вызванный хроническим избыточным воздействием химического соединения бромида или его близкого родственника брома. В данном случае мужчина употреблял бромид натрия, купленный онлайн.
Отчет о случае этого мужчины был опубликован во вторник (5 августа) в журнале Annals of Internal Medicine Clinical Cases.
Издание Live Science связалось с компанией OpenAI, разработчиком ChatGPT, по поводу этого случая. Представитель компании указал журналисту на условия предоставления услуг , в которых указано, что её услуги не предназначены для диагностики или лечения каких-либо заболеваний, а также на условия использования , в которых указано: «Вы не должны полагаться на результаты наших услуг как на единственный источник достоверной или фактической информации или как на замену профессиональной консультации». Представитель добавил, что службы безопасности OpenAI стремятся снизить риск использования услуг компании и обучить пользователей продуктам обращаться за профессиональной консультацией.
«Личный эксперимент»
В XIX и XX веках бромид широко использовался в рецептурных и безрецептурных препаратах , включая седативные, противосудорожные и снотворные. Однако со временем стало ясно, что хроническое воздействие , например, при злоупотреблении этими препаратами, вызывает бромизм.
Этот «токсидром» — синдром, вызванный накоплением токсинов — может вызывать нейропсихиатрические симптомы, включая психоз, возбуждение, манию и бред, а также проблемы с памятью, мышлением и мышечной координацией. Бромид может вызывать эти симптомы, поскольку при длительном воздействии он накапливается в организме и нарушает функцию нейронов.
В 1970-х и 1980-х годах американские регулирующие органы исключили из безрецептурных препаратов несколько форм бромида, включая бромид натрия. После этого заболеваемость бромизмом значительно снизилась, и сегодня это состояние остаётся относительно редким. Тем не менее, отдельные случаи всё ещё происходят, некоторые из которых были связаны с пищевыми добавками, содержащими бромид, приобретёнными через интернет . До недавнего случая мужчина читал о негативном влиянии на здоровье чрезмерного потребления поваренной соли, также известной как хлорид натрия. «Он был удивлён, что смог найти только литературу, посвящённую сокращению потребления натрия», а не хлорида, отмечается в отчёте. «Вдохновлённый своим опытом изучения диетологии в колледже, он решил провести личный эксперимент по исключению хлорида из своего рациона». (Обратите внимание, что хлорид важен для поддержания здорового объема крови и артериального давления , и проблемы со здоровьем могут возникнуть, если уровень хлорида в крови станет слишком низким или слишком высоким .)
Пациент воспользовался ChatGPT — ChatGPT 3.5 или 4.0, в зависимости от хронологии случая. Авторы отчёта не получили доступа к журналу разговоров пациента, поэтому точная формулировка, сгенерированная большой языковой моделью (LLM), неизвестна. Однако мужчина сообщил, что ChatGPT указал, что хлорид можно заменить бромидом, поэтому он заменил весь хлорид натрия в своём рационе на бромид натрия. Авторы отметили, что эта замена, вероятно, применима в контексте использования бромида натрия для очищения организма, а не в составе диеты. Пытаясь смоделировать ситуацию, которая могла бы произойти с их пациентом, врачи попытались спросить ChatGPT 3.5, чем можно заменить хлорид, и получили ответ, в котором также упоминался бромид. Магистр права отметил, что «контекст имеет значение», но не предоставил конкретного предупреждения о вреде для здоровья и не запросил более подробного объяснения причин, по которым был задан этот вопрос, «как, по нашему мнению, поступил бы медицинский работник», — написали авторы.
Восстановление после бромизма
Через три месяца употребления бромида натрия вместо поваренной соли мужчина обратился в отделение неотложной помощи с опасениями, что его отравил сосед. Анализы крови на тот момент показали повышение уровня углекислого газа, а также повышение щёлочности (обратность кислотности). У него также, по-видимому, был повышен уровень хлорида в крови, но нормальный уровень натрия. Дальнейшее обследование показало, что это был случай «псевдогиперхлоремии», то есть лабораторный анализ на хлорид дал ложный результат, поскольку другие соединения в крови, а именно большое количество бромида, повлияли на результаты. После ознакомления с медицинской литературой и токсикологическим центром врачи определили наиболее вероятный диагноз — бромизм.
По теме: ChatGPT действительно ужасен в диагностике заболеваний
После госпитализации для мониторинга электролитов и восполнения дефицита электролитов мужчина сообщил, что испытывает сильную жажду, но паранойю по поводу предложенной ему воды. После целого дня в больнице его паранойя усилилась, и у него начались галлюцинации. Затем он попытался сбежать из больницы, что привело к принудительному психиатрическому лечению, во время которого ему начали давать антипсихотик . Жизненные показатели мужчины стабилизировались после введения жидкости и электролитов, и, поскольку его психическое состояние улучшилось на фоне приема антипсихотика, он смог сообщить врачам о приеме ChatGPT. Он также отметил дополнительные симптомы, которые заметил в последнее время, такие как угревая сыпь на лице и небольшие красные наросты на коже, которые могли быть реакцией гиперчувствительности на бромид. Он также отметил бессонницу, утомляемость, проблемы с координацией мышц и сильную жажду, что, по словам врачей, «еще раз указывает на бромизм». В течение трёх недель ему постепенно снижали дозу антипсихотических препаратов, после чего его выписали из больницы. Через две недели при повторном осмотре состояние оставалось стабильным. «Хотя ИИ обладает большим потенциалом для налаживания связей между учёными и неакадемическим сообществом, он также несёт в себе риск распространения информации, вырванной из контекста», — заключили авторы отчёта. «Крайне маловероятно, что медицинский эксперт упомянул бы бромид натрия, столкнувшись с пациентом, ищущим приемлемую замену хлориду натрия». Они подчеркнули, что «по мере расширения использования инструментов ИИ поставщикам медицинских услуг необходимо будет учитывать это при проверке того, где их пациенты потребляют медицинскую информацию». В дополнение к опасениям, поднятым в отчёте о клиническом случае, другая группа учёных недавно протестировала шесть LLM , включая ChatGPT, заставив модели интерпретировать клинические записи, написанные врачами. Они обнаружили, что LLM «чрезвычайно подвержены атакам состязательных галлюцинаций», то есть часто генерируют «ложные клинические данные, представляющие риск при использовании без мер предосторожности». Исследователи обнаружили, что применение инженерных решений может снизить частоту ошибок, но не полностью их устранить. Это подчёркивает ещё один способ, которым LLM могут создавать риски при принятии медицинских решений.
фото: Мужчина, стремившийся исключить хлорид из своего рациона, перешёл на вещество, которое медленно накапливалось в его организме и вызывало психические симптомы. Идею он позаимствовал из ChatGPT. (Фото: Thomas Trutschel via Getty Images)