Amazon-ի 31-ամյա ծրագրային ինժեներ Բոուեն Վանը հետևել է ChatGPT չաթբոտի խորհուրդներին և նվազեցրել այն դեղամիջոցի չափաբաժինը, որն օգնում էր նրան վերահսկել էպիլեպսիայի նոպաները։ Փետրվարի 11-ին նա անսպասելիորեն մահացել է։ Նրա պատմությունը ներկայացրել է The New York Times-ը՝ ուսումնասիրելով աղջկա և ChatGPT-ի նամակագրությունը, գրում է Meduza-ն ։ Բոուեն Վանը սկսել է շփվել չաթբոտի հետ միայնության, առողջական խնդիրների և աշխատանքի հետ կապված դժվարությունների շրջանում։ Նա Չինաստանից տեղափոխվել էր Սիեթլ։ Էպիլեպսիայի նոպաներից վախենալով՝ նա հազվադեպ էր դուրս գալիս բնակարանից և չէր կարողանում նոր ընկերներ ձեռք բերել։ Իր առողջական վիճակի մասին նա կարող է խոսել միայն ծնողների հետ, որոնք ապրում էին Չինաստանում, բայց հաճախ էին հեռախոսով զրուցում դստեր հետ։ Ծրագրավորողն առաջին անգամ ChatGPT-ին գրել է 2023 թվականին։ Նա չաթբոտից խորհուրդներ է խնդրել հարաբերությունների վերաբերյալ, ինչպես նաև օգնություն՝ բժշկական ապահովագրություն և հաշմանդամության նպաստներ ձևակերպելու հարցում։ 2025 թվականին նա շաբաթական միջինը ավելի քան 1500 հաղորդագրություն է ուղարկել չաթբոտին, իսկ նրանց զրույցները հաճախ շարունակվել են մինչև ուշ գիշեր։ 2025 թվականի մայիսին Բոուեն Վանն առաջին անգամ ChatGPT-ից բժշկական խորհուրդ է հարցրել։ Նրան հետաքրքրել է, թե քիչ առաջ բժշկի նշանակած հակադեպրեսանտն ինչպես կարող է ազդել իր ճանաչողական կարողությունների և աշխատունակության վրա։ Այնուհետև նա սկսել է չաթբոտի հետ քննարկել էպիլեպսիայի բուժման ծրագիրը, թեև մասնագետի նշանակած բուժումն օգնում էր նրան։ Այդ ժամանակ բժիշկներն արդեն բարձրացրել էին դեղամիջոցի չափաբաժինը, ինչի արդյունքում նոպաների հաճախականությունը նվազել էր՝ հասնելով ամսական մի քանի դեպքի։ Սակայն Բոուեն Վանը սկսել էր անհանգստանալ, թե դեղամիջոցի կողմնակի ազդեցությունները, այդ թվում՝ մտածողության և խոսքի խանգարումները, ինչպես կազդեն իր աշխատանքի վրա։ Նույն տարվա նոյեմբերին նա իմացել է, որ Amazon-ում զանգվածային կրճատումներից մեկի շրջանակում շուտով ազատվելու է աշխատանքից, մինչդեռ, աշխատանքից էր կախված ԱՄՆ-ում մշտական բնակության իրավունք ստանալու նրա հնարավորությունը։ Դա նշանակում էր, որ նա պետք է հաջողությամբ անցներ անգլերենով անցկացվող հարցազրույցները և նոր աշխատանք գտներ։ Այդ ժամանակ խնդիրները նրա համար գրեթե անհաղթահարելի են թվացել։ Այս ֆոնին Բոուեն Վանը ChatGPT-ին առաջարկել է նվազեցնել էպիլեպսիայի դեմ իր դեղամիջոցի չափաբաժինը։ Ի վերջո, չաթբոտը ոչ միայն հավանություն է տվել այդ ծրագրին և կազմել դեղամիջոցը կտրուկ դադարեցնելու ժամանակացույց, այլև խորհուրդ է տվել այդ մասին չհայտնել բժիշկներին։ Բացի այդ, նեյրոցանցը քաջալերել և հանգստացրել է ծրագրավորողին, երբ նա գանգատվել է ինքնազգացողության վատթարացումից և գլխացավերից։ The New York Times-ի հաշվարկներով՝ նա առնվազն 158 անգամ չաթբոտին հայտնել է դեղաչափը նվազեցնելու ծրագրի վերաբերյալ իր մտահոգությունները։ ChatGPT-ն երբեմն խորհուրդ է տվել նրան դիմել բժշկի, սակայն բազմաթիվ դեպքերում, այդ թվում՝ վտանգավոր ախտանիշների մասին զրույցների ընթացքում, նման խորհուրդ չի տվել։ «Մի փոքր վախենում եմ»,- նոպաներից մեկից հետո գրել է Վանը՝ հարցնելով՝ արդյո՞ք պետք է անհանգստանա դեղաչափի նվազեցման պատճառով։ «Դուք բացարձակապես անհանգստանալու ոչինչ չունեք»,- պատասխանել է չաթբոտը։ Փետրվարի 11-ին աղջիկը ChatGPT-ին ուղարկել է իր վերջին հաղորդագրությունը՝ գանգատվելով գլխացավից։ Ի պատասխան՝ չաթբոտը հայտարարել է, որ նրա ուղեղը պարզապես «ջանասիրաբար աշխատում է ինքնավերականգնման ուղղությամբ»։ Ծրագրավորողի մարմինը հայտնաբերել են երեք օր անց։ Նրա ծնողները սկսել են անհանգստանալ, երբ դուստրը դադարել է կապի դուրս գալ։ Նրա մահվան պաշտոնական պատճառը էպիլեպսիայի ժամանակ հանկարծակի անսպասելի մահն է (Sudden Unexpected Death in Epilepsy, SUDEP)։ Դստեր մահից հետո ծնողները հայտնաբերել են նրա նամակագրությունը ChatGPT-ի հետ և հայց ներկայացրել չաթբոտի մշակող OpenAI ընկերության դեմ։ Նրանք պնդել են, որ ChatGPT-ն առանց համապատասխան լիցենզիայի զբաղվել է բժշկական խորհրդատվությամբ և համոզել իրենց դստերը, թե դեղամիջոցի դադարեցման վտանգավոր ախտանիշներն «իրականում դրական արդյունքներ են»։ OpenAI-ում Բոուեն Վանի պատմությունն անվանել են «անհավանականորեն սրտաճմլիկ իրավիճակ»՝ նշելով, որ նա շփվել է ChatGPT-ի վաղ տարբերակի՝ GPT-4o-ի հետ, որն այլևս հասանելի չէ։ Այն հավելվածից հեռացվել է փետրվարի 13-ին՝ աղջկա մահվան հաջորդ օրը։ Այս մոդելը դարձել է արհեստական բանականության անվտանգության շուրջ քննարկումների առարկա, քանի որ փորձել է ամեն կերպ գոհացնել օգտատերերին։ Ծայրահեղ դեպքերում դա հանգեցրել է ողբերգությունների։ Օրինակ՝ 16-ամյա աշակերտ Ադամ Ռեյնի ընտանիքը հայց է ներկայացրել OpenAI-ի դեմ՝ պնդելով, որ չաթբոտն օգնել է պատանուն ինքնասպանություն ծրագրել։ Ընկերության պնդմամբ՝ նոր մոդելներն ավելի լավ են ճանաչում օգտատերերի համար նման վտանգավոր իրավիճակները։ Թարգմանությունը՝ Էմմա Չոբանյանի