Американско медицинско списание предупреждава: изкуственият интелект не бива да се използва като заместител на професионална медицинска помощ.
В публикация в Annals of Internal Medicine е описан случай на 60-годишен мъж, развил бромизъм – рядка форма на бромидна токсичност.
Според доклада, мъжът прочел в интернет за предполагаемите вреди от готварската сол и потърсил в чатбот алтернатива. След като получил „съвет“, че натриевият хлорид може да бъде заменен с натриев бромид (с уточнение, че той обичайно се използва „за други цели“), мъжът спрял употребата на сол и в продължение на три месеца приемал бромид.
Натриевият бромид е използван в началото на XX век като успокоително, но днес е известен със своите опасни странични ефекти, включително неврологични и кожни увреждания.
Медицинските експерти напомнят, че чатботове и интернет източници могат да предоставят неточна или опасна информация, и подчертават, че консултацията с квалифициран лекар е незаменима при здравословни проблеми.