Algoritme detecteert deepfakes door reflecties in de ogen te analyseren
Handige tools voor het leren herkennen van deep fakes is in deze tijd een goed idee en geen overbodige luxe.
Onderzoekers hebben een algoritme ontwikkeld dat deepfake-portretten identificeert door naar hun ogen te kijken.
In een onderzoek dat is geaccepteerd in de IEEE International Conference on Acoustics, Speech and Signal Processing, beweren de onderzoekers dat het algoritme voor 94 procent effectief is in het identificeren van de valse beelden – een intrigerende nieuwe benadering voor het verifiëren van echt beeld en video.
De reden waarom het algoritme de valse beelden kan detecteren, is verrassend eenvoudig: deepfake AI’s zijn slecht in het creëren van nauwkeurige oogreflecties.
“Het hoornvlies is bijna als een perfecte halve bol en is zeer reflecterend”, zegt Dr. Siwei Lyu, SUNY Empire Innovation professor en hoofdauteur van de studie, in het persbericht. “Dus alles wat in het oog komt met een licht dat uit die bronnen komt, heeft een afbeelding op het hoornvlies.”
“De twee ogen zouden zeer vergelijkbare reflecterende patronen moeten hebben, omdat ze hetzelfde zien,” voegde hij eraan toe. “Het is iets dat we meestal niet opmerken als we naar een gezicht kijken.”
De bovenste rij zijn foto’s van echte ogen en de onderste rij zijn ogen van deep fakes.
Deepfake AI is echter verrassend onbekwaam in het creëren van consistente reflecties in beide ogen. Verdorie, je kunt waarschijnlijk zelf het verschil goed zien met behulp van de onderstaande afbeeldingen van echte menselijke ogen en AI-gegenereerde ogen:
De ontwikkeling van het algoritme vestigt de aandacht op de groeiende behoefte aan tools om deepfakes te herkennen. Zijn waarschuwingen en expertise over dit onderwerp brachten hem zelfs naar het Congres in 2019, waar hij getuigde over de gevaren van deepfakes en hoe ze te bestrijden.
Onderstaande video is een voorbeeld van een deep-fake van acteur Tom Cruise.
