Meta ontwikkelt een webgebaseerde detectietool die is ontworpen om afbeeldingen en video’s te identificeren die zijn gemaakt met het beeldgeneratiemodel, bekend als Muse Image. Deze tool verifieert de aanwezigheid van onzichtbare watermerken, ook wel Content Seal genoemd, die zijn ingebed in de gegenereerde inhoud.
Volgens Meta blijft Content Seal intact, ongeacht beeldmanipulatie, inclusief bijsnijden, compressie, formaat wijzigen of schermafbeeldingen. Het bedrijf verklaarde dat de tool gebruikers een eerste mechanisme biedt om te bepalen of een afbeelding een Content Seal-watermerk draagt.
De watermerkbenadering die door Muse Image wordt gebruikt, is bedrijfseigen en verschilt van eerdere open-sourceversies die door Meta zijn uitgebracht. De huidige versie van Meta’s AI-modellen maakt geen gebruik van zichtbare watermerken, wat afwijkt van eerdere modellen die logo’s in de afbeeldingen bevatten.
Momenteel zijn de detectiemogelijkheden beperkt tot afbeeldingen die zijn gemaakt of bewerkt met Muse Image. Meta is van plan om Content Seal-watermerken in de toekomst uit te breiden naar door AI gegenereerde en bewerkte video’s. Het bedrijf ontwikkelt ook een afzonderlijk model voor het genereren van video’s, genaamd Muse Video, dat naar verwachting binnenkort zal worden gelanceerd.
Het testen van de detectietool bevestigde het vermogen om watermerken te identificeren in zowel bewerkte afbeeldingen als afbeeldingen die volledig door AI zijn gegenereerd. Een positieve detectie geeft aan dat de afbeelding is geproduceerd met behulp van de Meta AI-app of meta.ai, terwijl een negatief resultaat suggereert dat deze waarschijnlijk niet met Meta AI is verwerkt. De detectiefunctie is echter niet geïntegreerd in de Meta AI-app zelf; de assistent van de app bevestigde dat hij niet kan bepalen of een specifieke afbeelding door Meta AI is gemaakt.
Meta heeft te maken gehad met kritiek op de inconsistente toepassing van digitale watermerken op door AI gegenereerde inhoud. De Oversight Board uitte eerder dit jaar zijn zorgen over de praktijken van het bedrijf bij het labelen van door AI geproduceerd materiaal. Content Seal is niet compatibel met gevestigde watermerkmethoden zoals SynthID en C2PA Content Credentials.
Tijdens recente tests slaagde de detectietool er niet in afbeeldingen te identificeren die waren gemaakt of bewerkt met eerdere versies van Meta’s AI-modellen. Bovendien worden gebruikers van de tool geconfronteerd met tarieflimieten en ontvangen ze waarschuwingen zodra ze hun dagelijkse drempel voor identificatiecontroles bereiken.
