Föreställ dig att du läser en artikel, ett mejl eller ett inlägg på sociala medier och inte kan avgöra om det är skrivet av en människa eller en maskin. Det scenariot är inte längre hypotetiskt – det är vardag för miljontals användare världen över, och det är just det problemet som teknikbranschen nu försöker lösa med ett verktyg som är osynligt för blotta ögat.
Stora språkmodeller som ChatGPT och Claude uppges snart få inbyggd, dold vattenmärkning i den text de genererar. Tanken är att dessa osynliga signaler ska fungera som ett slags digitalt fingeravtryck – ett sätt att i efterhand kunna fastställa att ett stycke text inte har producerats av en människa, utan av en algoritm. Tekniken bygger på att subtila mönster bäddas in i ordvalen och meningsbyggnaden på ett sätt som är omöjligt att uppfatta med ögat men som kan identifieras av ett analysprogram.
Det är en ambitiös idé. Men ambition och verklighet är inte alltid samma sak.
Att skilja artificiellt skriven text från mänsklig har visat sig vara en av de svårare utmaningarna inom det som brukar kallas AI-detektion. Befintliga verktyg för att identifiera AI-genererat innehåll har upprepade gånger kritiserats för att vara opålitliga – de flaggar ibland mänsklig text som maskinproducerad och missar AI-text som genomgått lätt redigering. Vattenmärkning representerar ett annorlunda angreppssätt, eftersom signaturen i teorin följer med texten oavsett hur den distribueras, men kritiker påpekar att tekniken kan kringgås om användaren omformulerar eller bearbetar innehållet tillräckligt mycket.
Frågan om AI-märkning har blivit allt mer angelägen i takt med att generativ AI sprids i samhällets alla skikt – från skoluppsatser och journalistik till politisk kommunikation och juridiska dokument. Risken för desinformation, plagiering och manipulerat innehåll driver på kraven från både lagstiftare och civilsamhälle på att det ska gå att spåra textens ursprung. Inom EU pågår exempelvis arbetet med AI-förordningen, som bland annat ställer krav på transparens kring AI-genererat innehåll.
Ändå kvarstår en grundläggande osäkerhet. Hur tillförlitlig vattenmärkning faktiskt är i praktiken, och hur lätt den kan manipuleras bort, återstår att se. Det är en kapprustning mellan de som vill märka och de som vill sudda ut märkningen – och historien visar att sådana lopp sällan har en enkel vinnare.
I slutändan handlar frågan om mer än teknik. Den handlar om förtroende – om vad det innebär att veta vem, eller vad, som faktiskt talar till oss.