Meta's AI-detector herkent eigen AI-beelden niet na bijsnijden
Reuters testte Meta's nieuwe AI-beelddetector: na bijsnijden werd 55% van Meta's eigen AI-beelden niet meer herkend. Wat zegt dat over watermerken en deepfake-detectie?
Meta lanceerde naast zijn nieuwe beeldmodel Muse Image ook een detectietool die AI-beelden moet herkennen. Reuters testte die tool en vond een opvallend gat: na bijsnijden herkende de detector meer dan de helft van Meta's éigen AI-beelden niet meer.
Wat Reuters vond
De opzet was simpel. Reuters genereerde 40 afbeeldingen met Muse Image en liet ze door Meta's detectietool controleren. De originelen werden allemaal correct herkend. Maar toen dezelfde beelden werden bijgesneden tot ongeveer een derde tot de helft van hun oorspronkelijke formaat, kon de tool 55% niet meer verifiëren.
Dat is pijnlijk, want Meta stelt op zijn eigen website dat de tool AI-beelden ook na bijsnijden herkent. De techniek erachter is een onzichtbaar watermerk, Content Seal, dat in elk Muse-beeld wordt ingebouwd. Meta erkende tegenover Reuters dat het watermerk normale bewerkingen overleeft, maar dat het signaal verloren kan gaan bij agressief bijsnijden.
Waarom dit meer is dan een technisch foutje
Bijsnijden is geen exotische aanval; het is zo'n beetje de meest voorkomende bewerking die een afbeelding ondergaat voordat ze wordt gedeeld. Als een watermerk dat al niet overleeft, is detectie geen betrouwbaar filter voor wat je op sociale media ziet. Reuters plaatst de bevinding nadrukkelijk in de context van een druk verkiezingsjaar, met onder meer de Amerikaanse tussentijdse verkiezingen.
De les is breder dan Meta: herkomst van content aantonen ("dit beeld komt aantoonbaar van deze bron") werkt structureel beter dan achteraf detecteren ("dit beeld lijkt AI-gemaakt"). Detectie is een kat-en-muisspel dat de detector uiteindelijk verliest.
Wat betekent dit voor jouw bedrijf?
Drie praktische lessen die wij hieruit trekken:
- Vertrouw niet blind op AI-detectie, ook niet van de partij die het beeld zelf genereerde. Wie beslissingen bouwt op "is dit echt?", heeft meer nodig dan één tool.
- Werk vanuit herkomst in plaats van detectie. Leg bij je eigen content vast waar ze vandaan komt en wanneer, bijvoorbeeld in je DAM of CMS. Dan hoef je achteraf niets te bewijzen.
- Bouw vangrails in je processen, niet alleen in je tools. Bij de AI-toepassingen die wij bouwen zit de controle in de workflow: een mens keurt goed op de momenten die ertoe doen, ongeacht wat een detector zegt.
Wil je weten waar AI in jouw processen betrouwbaar kan werken, met de juiste vangrails? Plan een strategiegesprek.