Një investigim i BBC-së zbuloi se chatbot-et me inteligjencë artificiale mund të manipulohen lehtë për të përhapur dezinformim. Google dhe kompani të tjera po përpiqen ta adresojnë këtë problem.
Studiuesit treguan se duke publikuar një artikull të vetëm online, mund të ndikosh që AI si ChatGPT apo Gemini të përsërisin informacione të rreme. Në një rast, ata arritën të bëjnë që AI të thoshte se autori ishte kampion bote në ngrënie hot-dogësh, duke treguar sa i thjeshtë mund të jetë manipulimi.
Problemi është serioz sepse këto sisteme përdoren gjithnjë e më shumë për tema të rëndësishme si shëndeti dhe financat. Nëse burimet online janë të pasakta, edhe përgjigjet e AI mund të jenë të gabuara dhe të ndikojnë vendime reale të njerëzve.
Por duket se Google dhe kompani të tjera më në fund po zgjohen përballë këtij problemi.
Javën e kaluar, Google përditësoi politikat kundër spam-it për të konfirmuar zyrtarisht se përpjekjet për të manipuluar përgjigjet e AI janë kundër rregullave të kompanisë. Mund të duket si një ndryshim i vogël, por tregon se Google po kërkon në mënyrë aktive ata që përpiqen të abuzojnë me sistemin dhe po i paralajmëron.
Nëse një kompani ose faqe interneti kapet duke shkelur rregullat, ajo mund të hiqet ose të renditet më poshtë në rezultatet e Google. Dhe nëse nuk je në Google, është sikur nuk ekziston.
Sipas tyre, përdoruesit duhet të jenë të kujdesshëm dhe të mos i marrin përgjigjet e AI si të vërteta absolute, por t’i verifikojnë nga burime të tjera, sidomos kur bëhet fjalë për vendime të rëndësishme.