Kunsmatige intelligensie (KI) kan tot die uitwissing van die mensdom lei, het kenners – insluitend die hoofde van OpenAI en Google Deepmind – gewaarsku.
BBC berig dat tientalle ’n verklaring ondersteun het wat op die webblad van die Sentrum vir KI-veiligheid gepubliseer is.
“Om die risiko van uitwissing deur KI te versag, behoort ’n wêreldwye prioriteit te wees saam met ander noodsaaklike risiko’s soos pandemies en kernoorlog,” lui dit.
Sam Altman, uitvoerende hoof van ChatGPT-vervaardiger OpenAI, Demis Hassabis, uitvoerende hoof van Google DeepMind en Dario Amodei van Anthropic het almal die stelling ondersteun.
Dr Geoffrey Hinton, wat ’n vroeëre waarskuwing oor risiko’s van superintelligente KI uitgereik het, het ook die oproep ondersteun.
Yoshua Bengio, professor in rekenaarwetenskap aan die universiteit van Montreal, het ook geteken.
Baie ander kenners glo insgelyks dat vrese dat KI die mensdom uitwis onrealisties is, en ’n afleiding is van kwessies soos vooroordeel in stelsels reeds ’n probleem is.
Mediadekking van die vermeende “eksistensiële” bedreiging van KI het sedert Maart 2023 toegeneem toe kundiges, insluitend Tesla-baas Elon Musk, ’n ope brief onderteken het om die ontwikkeling van die volgende generasie KI-tegnologie te staak.
Daardie brief het gevra of ons “nie-menslike verstande moet ontwikkel wat ons uiteindelik kan oortref, uitoorlê, uitgedien en ons vervang”.
Daarteenoor het die nuwe veldtog ’n baie kort verklaring, wat ontwerp is om “gesprek oop te maak”.
Die verklaring vergelyk die risiko met dié wat ’n kernoorlog inhou.
In ’n plasing het OpenAI onlangs voorgestel dat superintelligensie op ’n soortgelyke manier as kernenergie gereguleer kan word: “Ons sal waarskynlik uiteindelik iets soos ’n IAEA [Internasionale Atoomenergie-agentskap] nodig hê vir superintelligensiepogings,” het die firma geskryf.
- BBC