De Australische overheid is onbedoeld misleid door een rapport van adviesbureau Deloitte, waarin verzonnen citaten en foutieve verwijzingen waren opgenomen. Dat meld het AD op zijn website.
De fouten bleken te zijn ontstaan doordat bij het schrijven gebruik was gemaakt van kunstmatige intelligentie (AI). Nadat onderzoekers de onnauwkeurigheden aan het licht brachten, vroeg het verantwoordelijke ministerie Deloitte het rapport te corrigeren.
Het ging om een zogenoemde assurance review van een overheidsprogramma dat automatische sancties oplegt in de sociale zekerheid. Onderzoekers van de Universiteit van Sydney ontdekten dat meerdere bronvermeldingen niet bestonden en dat een juridisch citaat volledig was verzonnen.
Deloitte erkende dat bij het opstellen van de tekst generatieve AI is ingezet, via het programma Azure OpenAI GPT-4o. Het bureau bracht daarna een herziene versie van het rapport uit, waarin de onjuistheden zijn aangepast en waarin expliciet wordt vermeld dat AI is gebruikt bij de totstandkoming van de tekst.
Volgens Deloitte zijn de inhoudelijke conclusies en aanbevelingen van het rapport niet gewijzigd. De affaire heeft in Australië geleid tot discussie over het gebruik van generatieve AI in officiële documenten en over de controle op de juistheid van rapporten die in opdracht van de overheid worden geschreven.
