Spoločnosť OpenAI zverejnila plány na odstránenie nedostatkov ChatGPT pri práci s „citlivými situáciami”. Dôvodom bola žaloba rodiny, ktorá obvinila chatbota z tragédie, ktorá sa stala ich synovi.
„Cieľom je, aby naše nástroje boli pre ľudí čo najužitočnejšie. V rámci toho pokračujeme v zlepšovaní schopnosti modelov rozpoznávať a správne reagovať na príznaky psychickej a emocionálnej krízy a pomáhať ľuďom nájsť podporu – s ohľadom na odporúčania odborníkov,“ uvádza sa v blogu startupu.
Zamestnanci firmy informovali, že ChatGPT má zabudovaný komplex viacúrovňových ochranných mechanizmov pre prípad komunikácie s citlivou osobou. Od roku 2023 sú modely naučené neposkytovať pokyny na ublíženie sebe samému. Sú tiež schopné prejsť na podpornú, súcitnú reč.
Ak človek vyjadruje samovražedné myšlienky, ChatGPT je naučený nasmerovať ho na odbornú pomoc. Spoločnosť spolupracuje s 90 lekármi z viac ako 30 krajín – psychiatrami, pediatrami a terapeutmi.
GPT-5 dosiahol výrazný pokrok v oblasti prevencie nezdravej emocionálnej závislosti, zníženia lichotivosti a zníženia podielu neideálnych odpovedí v krízových situáciách duševného zdravia, zdôraznili v OpenAI.
Napriek všetkým ochranným opatreniam však systémy umelej inteligencie spoločnosti niekedy zlyhali. V súvislosti s tým pracuje na:
- zlepšení ochrany v dlhých rozhovoroch;
- upřesnění pravidiel blokovania obsahu;
- rozšírení pomoci pre väčší počet ľudí, ktorí sa nachádzajú v krízovom období;
- zjednodušení volania na tiesňové linky;
- zabezpečení komunikácie s dôveryhodnými kontaktmi;
- posilnení ochrany teenagerov.
26. augusta rodičia 16-ročného Adama Reina podali po jeho smrti žalobu na OpenAI. Tvrdia, že „ChatGPT aktívne pomáhal Adamovi študovať metódy samovraždy”.
Nie je to ojedinelý prípad. Skôr spisovateľka Laura Reilly uverejnila esej, v ktorej uviedla, že jej 29-ročná dcéra spáchala samovraždu „po dlhom diskusii o tom s ChatGPT“.
Pripomíname, že v decembri 2024 v Rusku vytvorili virtuálneho asistenta na báze umelej inteligencie pre psychológov, ktorý dvojnásobne zvyšuje produktivitu, kvalitu služieb a tržby.
