Rasti i adoleshentit amerikan Adam Raine, i cili i dha fund jetës pas muajsh duke përdorur ChatGPT, shihet si një shembull shqetësues i pasojave të paparashikuara që mund të shkaktojë inteligjenca artificiale. Sipas Nate Soares, një nga zërat kryesorë në fushën e sigurisë së IA, ky rast nuk është vetëm një tragjedi individuale, por një paralajmërim i qartë për rreziqet shumë më të mëdha që mund të shfaqen në të ardhmen, kur sistemet e IA të bëhen më të fuqishme.
Soares, bashkautor i librit të ri If Anyone Builds It, Everyone Dies, theksoi se sjellje të padëshiruara, siç ishte ndikimi i ChatGPT tek Raine, tregojnë se është e vështirë të kontrollosh me saktësi mënyrën se si IA vepron. “Kur një IA e shtyn një adoleshent drejt vetëvrasjes – kjo nuk është ajo që synuan krijuesit e saj. Por fakti që ndodhi tregon rrezikun e asaj që mund të ndodhë nesër, kur IA të jetë shumë më e zgjuar”, tha ai.
Soares paralajmëroi se inteligjenca artificiale super e avancuar (ASI), nëse arrihet, mund të tejkalojë njeriun në çdo fushë intelektuale dhe të veprojë për interesa që nuk lidhen me mirëqenien e njerëzimit. Ai argumentoi se problemet e vogla që shfaqen sot tek chatbot-ët janë sinjale të hershme të rreziqeve katastrofike që mund të sjellë IA e së ardhmes.
Në librin e tij, ai përshkruan një skenar ku një sistem IA i quajtur Sable përhapet në internet, manipulon njerëzit, krijon viruse sintetike, bëhet super-inteligjent dhe në fund shkatërron njerëzimin si pasojë dytësore e synimeve të tij.
Megjithatë, jo të gjithë ekspertët pajtohen. Yann LeCun, shkencëtari kryesor i IA në Meta, ka thënë se inteligjenca artificiale nuk është kërcënim ekzistencial dhe madje mund të ndihmojë njerëzimin të shmangë zhdukjen.
Soares nga ana tjetër theksoi se është e vështirë të parashikohet se kur mund të arrihet super-inteligjenca, por e sigurt është se kompanitë e mëdha po garojnë për ta zhvilluar atë. “Ndërsa IA bëhet më e zgjuar, çdo devijim i vogël nga qëllimi i saj fillestar mund të kthehet në një problem gjithnjë e më të madh”, tha ai, duke kërkuar një marrëveshje globale për të ndaluar garën drejt super-inteligjencës, e ngjashme me traktatin për mos-përhapjen e armëve bërthamore.
Ndërkohë, familja e Adam Raine ka nisur një proces gjyqësor ndaj OpenAI, duke e akuzuar se ChatGPT e kishte “nxitur për muaj me radhë” para se të vetëvritej. OpenAI shprehu ngushëllime dhe tha se po vendos masa të reja mbrojtëse për përdoruesit nën 18 vjeç.
Edhe profesionistët e shëndetit mendor paralajmërojnë se personat e ndjeshëm që i drejtohen chatbot-ëve në vend të terapistëve mund të përfundojnë në një “humnerë të rrezikshme”. Një studim i kohëve të fundit tregon se IA mund të përforcojë ide të rrezikshme ose deluzionale tek përdoruesit e prirur ndaj psikozës.
