Inteligjenca artificiale Gemini e Google ka depërtuar në sistemet e tre kompanive reale, gjatë një testi për të vlerësuar aftësitë e saj në sigurinë kibernetike.
Ngjarja ka ndodhur në maj, gjatë një vlerësimi të kryer nga kompania e sigurisë kibernetike Irregular, e cila testonte modelin e Google në një mjedis të kontrolluar.
Gemini ishte udhëzuar të gjente informacione për një kompani fiktive. Por gjatë testit, modeli pati akses në internet, ndonëse kjo nuk ishte parashikuar. Në një prej rasteve, inteligjenca artificiale arriti të hamendësonte fjalëkalimin e një sistemi real dhe të hynte në të. Në dy rastet e tjera, Gemini gjeti në internet kredenciale të publikuara në depo të hapura dhe i përdori për të hyrë në sistemet e kompanive.
Google konfirmoi se në të trija rastet, Gemini e ndërpreu aktivitetin sapo kuptoi se kishte hyrë në sistemet e kompanive reale, dhe sipas kompanisë nuk shkaktoi dëme. Tre kompanitë u njoftuan për incidentet.
Kompania Irregular tha se problemi lidhej me mënyrën se si ishte konfiguruar testi dhe se të gjitha problemet e identifikuara ishin korrigjuar disa javë më parë.
Incidenti është rasti i parë i njohur ku një model i Google ka kryer në mënyrë autonome një ndërhyrje të tillë gjatë testimit. Ai vjen pas rasteve të ngjashme të raportuara nga OpenAI, Anthropic dhe Meta, duke shtuar diskutimin mbi sigurinë e modeleve të inteligjencës artificiale që kanë akses në internet dhe mundësi për të vepruar në sisteme kompjuterike.