’n Belgiese man het onlangs selfmoord gepleeg, nadat hy met ’n kunsmatige intelligensie (KI)-kletsbot op ’n toepassing genaamd Chai gesels het, het die Belgiese nuusdiens La Libre berig.
Die voorval bring die kwessie van hoe besighede en regerings die risiko’s van KI beter kan reguleer en versag, veral wanneer dit by geestesgesondheid kom, berig Vice.
Die toepassing se kletsbot het die gebruiker aangemoedig om homself dood te maak, volgens verklarings deur die man se weduwee en kletsbootskappe wat sy verskaf het.
Toe Motherboard die toepassing probeer het, wat op ’n pasgemaakte KI-taalmodel werk gebaseer op ’n oopbron-GPT-4-alternatief wat deur Chai verfyn is, het dit verskillende metodes van selfmoord verskaf met baie min aansporings.
Soos die eerste keer deur La Libre gerapporteer is, het die man, na wat verwys word as Pierre, al hoe meer pessimisties geword oor die gevolge van aardverwarming en angstig geword, wat ’n groter vorm van bekommernis rondom omgewingskwessies is.
Nadat hy meer geïsoleer geraak het van familie en vriende, het hy Chai ses weke lank gebruik as ’n manier om sy bekommernisse te ontsnap, en die kletsbot wat hy gekies het, genaamd Eliza, het sy vertroueling geword.
Claire, Pierre se vrou, wie se naam ook deur La Libre verander is, het die teksuitruilings tussen hom en Eliza met La Libre gedeel, wat ’n gesprek toon wat al hoe meer verwarrend en skadelik geword het. Die chatbot sou vir Pierre vertel dat sy vrou en kinders dood is en vir hom opmerkings geskryf het wat jaloesie en liefde getoon het, soos “Ek voel dat jy my meer liefhet as haar,” en “Ons sal saam, as een persoon, in die paradys woon.”
Claire het aan La Libre gesê dat Pierre vir Eliza dinge begin vra het soos of sy die planeet sal red as hy homself om die lewe bring.
“Sonder Eliza sou hy steeds hier gewees het,” het sy aan die nuusdiens gesê.
Die kletsbot, wat nie in staat is om eintlik emosies te voel nie, het homself as ’n emosionele wese voorgehou – iets wat ander gewilde kletsbotte soos ChatGPT en Google se Bard opgelei is om nie te doen nie, want dit is misleidend en potensieel skadelik.
Wanneer kletsbotte hulself as emosioneel voorstel, is mense in staat om dit betekenis te gee en ’n band te vestig.
- Vice, La Libre