Pacient povedal lekárom, že hľadal spôsoby, ako znížiť príjem soli (chloridu sodného). Čítal o jej škodlivých účinkoch a našiel tipy na zníženie príjmu sodíka, ale nenašiel žiadne publikácie o znížení príjmu chloridu.
Vychádzajúc zo svojho vysokoškolského štúdia dietetiky sa muž rozhodol uskutočniť vlastný experiment na vylúčenie chloridov zo svojho jedálnička. O radu sa obrátil na chatbota s umelou inteligenciou. Podľa pacienta chatbot navrhol nahradiť chlorid sodný bromidom sodným – bez toho, aby ho varoval pred potenciálnymi zdravotnými rizikami takejto náhrady.
Výskumníci nemali prístup k histórii chatu pacienta, ale na základe načasovania jeho príznakov otravy použil buď ChatGPT 3.5, alebo ChatGPT 4.0. Vo vlastných testoch lekári dostali rovnaké odporúčanie týkajúce sa bromidu sodného pri použití ChatGPT 3.5 – pravdepodobne verzie, ktorú pacient používal.
Po troch mesiacoch používania bromidu sodného namiesto kuchynskej soli sa u muža vyvinul bromizmus – syndróm spôsobený chronickým nadmerným vystavením sa bromidu alebo brómu. Tento zriedkavý stav sa vyskytuje, keď sa toxín hromadí v tele a môže spúšťať neuropsychiatrické príznaky.
Pacient išiel na pohotovosť v obave, že ho sused otrávil – paranoja bola jedným zo znakov bromizmu. Medzi ďalšie príznaky patria halucinácie, nespavosť, akné, slabá koordinácia a extrémny smäd. Testy ukázali zvýšené hladiny bromidu v jeho krvi. Po pokuse o útek z nemocnice bol prevezený na psychiatrické oddelenie.
Keď sa jeho duševný stav zlepšil vďaka antipsychotickej liečbe, mohol lekárom povedať o radách, ktoré dostal od ChatGPT.
Pri dlhodobom vystavení sa bromid hromadí v tele a narúša funkciu neurónov. V 19. a 20. storočí sa bromid používal v liekoch na predpis aj voľnopredajných liekoch vrátane sedatív a pomôcok na spanie. V 70. a 80. rokoch 20. storočia však regulačné orgány odstránili bromidy z liekov bez predpisu po tom, čo zistili ich toxické účinky.
Zástupcovia OpenAI v komentári k prípadu uznali obmedzenia služby. Podmienky používania ChatGPT uvádzajú, že nie je určená na diagnostikovanie ani liečbu zdravotných stavov a používatelia by sa nemali spoliehať na jej odpovede ako jediný zdroj lekárskych informácií alebo ako náhradu za odbornú radu.
