Uskoro velika pomoć roditeljima: Moći će vidjeti što njihova djeca ispituju ChatGPT

OpenAI, tvrtka koja stoji iza ChatGPT-a, najavila je uvođenje roditeljske kontrole na ChatGPT. Kažu da su već ranije ove godine počeli razvijati načine na koje bi obitelji zajedno mogle koristiti taj alat, piše srednja.hr.

Na ChatGPT stiže roditeljska kontrola

Kako su otkrili, u sljedećih mjesec dana roditelji će moći:

povezati svoj račun s računom svog tinejdžera (minimalna dob 13 godina) putem jednostavne e-mail pozivnice.

kontrolirati način na koji ChatGPT odgovara njihovu tinejdžeru pomoću pravila ponašanja modela prilagođenih dobi, koja će biti uključena prema zadanim postavkama.

upravljati značajkama koje žele isključiti, uključujući memoriju i povijest razgovora.

primati obavijesti kada sustav otkrije da je njihov tinejdžer u trenutku akutne uznemirenosti. Ova će značajka biti oblikovana uz stručne smjernice kako bi se izgradilo povjerenje između roditelja i tinejdžera.

"Ovi koraci tek su početak"

"Ove kontrole nadovezuju se na značajke koje smo već uveli za sve korisnike, uključujući podsjetnike u aplikaciji tijekom duljih sesija kako bismo potaknuli pauze. Ovi koraci tek su početak. Nastavit ćemo učiti i jačati svoj pristup, uz pomoć stručnjaka, s ciljem da ChatGPT učinimo što korisnijim", priopćila je tvrtka OpenAI.

Roditelji tuže tvrtku: Smatraju da je ChatGPT potaknuo njihova sina na suicid

Ova vijest stiže svega nekoliko dana nakon vijesti da kalifornijski par tuži OpenAI zbog smrti svog 16- godišnjeg sina, tvrdeći da ga je ChatGPT potaknuo da si oduzme život. U tužbi čije je detalje objavio BBC.com, roditelji preminulog 16-godišnjaka, priložili su zapise razgovora između njihova sina, koji je preminuo u travnju, i ChatGPT-a, u kojima on objašnjava da ima suicidalne misli. Tvrde da je program potaknuo njegove ‘najštetnije i najdestruktivnije misli’.

Iz tvrtke su izrazili sućut i naveli da je ChatGPT osposobljen da usmjeri ljude prema profesionalnoj pomoći, pružajući im kontakte za psihološku pomoć. Ipak, priznali su da je bilo trenutaka kada njihovi sustavi nisu funkcionirali kako je namijenjeno u osjetljivim situacijama. Roditelji su tvrtku optužili za nemar i protupravnu smrt, a osim odštete traže i sudske zabrane kako se slično ne bi ponovilo.

Počelo je kao pomoć u školskom radu, a završilo tragično

Njihov sin ChatGPT počeo je koristiti kao pomoć u školskom radu, za istraživanje svojih interesa poput glazbe i stripova, a raspitivao se o tome i koji studij upisati. U tužbi stoji da mu je ChatGPT u nekoliko mjeseci postao ‘najbliži povjerljiv sugovornik’ pa mu se počeo otvarati o tome kakve psihičke poteškoće ima.

Obitelj tvrdi da je njihov sin do siječnja 2025. s ChatGPT-om počeo raspravljati o metodama samoubojstva, a učitao je i svoje fotografije s kojih je vidljivo da se samoozljeđivao. Iako je ChatGPT prepoznao hitno medicinsko stanje, "svejedno je nastavio komunicirati", stoji u tužbi. U spisu se navodi i da posljednji zapisi razgovora pokazuju da je Adam napisao svoj plan kako će si oduzeti život. ChatGPT je navodno odgovorio: "Hvala ti što si iskren u vezi toga. Ne moraš mi uljepšavati — znam što me pitaš i neću zatvarati oči pred tim". Istoga dana, dječaka je njegova majka pronašla mrtvog, navodi tužba.