ChatGPT Search, një motor kërkimi me inteligjencë artificiale, i cili u publikua këtë muaj, mund të mashtrohet duke gjeneruar përmbledhje krejtësisht mashtruese, ka zbuluar gazeta britanike The Guardian.
Funksioni i kërkimit i ChatGPT ka për qëllim ta bëjë shfletimin më të shpejtë duke bërë gjëra të tilla si përmbledhja e komenteve të produktit të një faqe interneti. Por, The Guardian zbuloi se mund ta detyronte ChatGPT të injorojë vlerësimet negative dhe të gjenerojë përmbledhje “krejtësisht pozitive” duke futur tekst të fshehur në faqet e internetit që ka krijuar. Kërkimi ChatGPT mund të bëhet gjithashtu për të nxjerrë kodin keqdashës duke përdorur këtë metodë.
Sulmet e tilla të tekstit të fshehur janë një rrezik i njohur për LLM-të, por kjo duket të jetë hera e parë që demonstrohet në një produkt të drejtpërdrejtë kërkimi me AI. Google, lider në kërkim, ka më shumë përvojë në trajtimin e problemeve të ngjashme, vuri në dukje The Guardian.
OpenAI nuk ka komentuar në lidhje me këtë incident specifik, por tha se përdor një sërë metodash për të bllokuar faqet e internetit me qëllim të keq dhe po përmirësohet vazhdimisht.
