EY a retras un studiu despre programele de recompense și loialitate, care conținea halucinații generate de inteligența artificială (AI) și note de subsol false, într-un exemplu clar despre vulnerabilitățile noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, a fost folosit de consultanții EY din Canada pentru promovarea serviciilor de securitate cibernetică. Însă, cercetătorii online au descoperit că acesta includea date inventate, citări atribuite greșit și făcea referire la un raport McKinsey care, de fapt, nu exista.
Citește și: Un creion cu grafit deblochează rapid fermoarele înțepenite
EY Canada a eliminat rapid raportul de pe site-ul său după ce problema a fost semnalată joi seară de grupul GPTZero. În diferite secțiuni, piața programelor de loialitate era estimată la 200 de miliarde de dolari, iar valoarea punctelor de loialitate nefolosite era indicată tot la aceeași sumă, ceea ce ridică semne de întrebare asupra acurateței informațiilor.
De ce halucinațiile AI devin o problemă în sectorul serviciilor profesionale?
Descoperirile GPTZero au arătat că mai mult de șase note de subsol din raport trimiteau către pagini web inexistente sau care nu conțineau informațiile citate. Cercetătorii au subliniat că publicarea unui astfel de raport poate „otrăvi fântâna” de cunoștințe, inducând în eroare cercetătorii viitori și afectând credibilitatea firmelor de consultanță.
- Halucinațiile AI pot duce la răspândirea de informații false în documente oficiale.
- Firmele mari, precum EY și Deloitte, au fost implicate în revizuirea unor rapoarte cu citări false.
- Riscul de a induce în eroare cercetători și clienți crește odată cu adoptarea agresivă a AI-ului.
- Investițiile în tehnologie și instruirea angajaților continuă, chiar și în fața acestor probleme.
Ce impact are această situație asupra încrederii în AI?
Deși firmele de consultanță investesc masiv în AI, aceste incidente arată că tehnologia poate genera erori grave, afectând încrederea în sector. EY susține că a eliminat raportul și analizează circumstanțele, afirmând că studiul nu a fost legat de activitatea pentru vreun client.
Reacțiile oficiale indică o nevoie urgentă de reglementare și verificare mai riguroasă a conținutului generat de AI pentru a evita răspândirea de informații false și pentru a menține credibilitatea industriei.
EY a recunoscut că a fost o greșeală publicarea raportului și că va implementa măsuri pentru prevenirea unor astfel de incidente în viitor, subliniind importanța responsabilității în utilizarea AI în serviciile profesionale.