Stable Diffusion 3 is een stap terug voor AI-afbeeldingen van mensen

Stable Diffusion 3 is een stap terug voor AI-afbeeldingen van mensen

Recent werd Stable Diffusion 3 Medium uitgebracht. Dat leverde veel hilariteit op, doordat het model maar moeilijk een menselijk lichaam juist kan weergeven. Als gevolg duiken er online afbeeldingen op waarin mensen drie benen hebben, gekke vingers en armen die overlopen in benen.

Online verschijnen er spottende berichten over Stable Diffusion 3 Medium, een gebruiker vraagt zich zelfs af: “Moet deze release een grap zijn?” Ten opzichte van andere makers van AI-afbeeldingen, zoals DALL-E 3, is deze derde release van Stable Diffusion een misser.

De opvallende afbeeldingen die online worden gedeeld, tonen dat het model veel moeite heeft met het zelfs maar enigszins correct weergeven van het menselijk lichaam. In andere types afbeeldingen zal het model naar alle waarschijnlijkheid wel goed functioneren.

De release van Stable Diffusion 3 Medium is eigenlijk een stap terug voor het bedrijf. Eerdere modellen zoals SD XL Turbo, dat werd vrijgegeven in november, vertoonden deze problemen namelijk niet. Stable Diffusion 3 lanceerde in preview in februari. Dit model zou in verschillende modellen vrijkomen, ieder met een unieke grootte tussen de 800 miljoen en acht miljard parameters. Het recent vrijgegeven medium-model bevat 2 miljard parameters.

Te streng optreden tegen volwassen content

Online wordt er gespeculeerd over de oorzaak van de problemen. De meesten denken dat het aan een filter ligt. Sinds de eerste release van tools voor AI-afbeeldingen, moeten bedrijven meer maatregelen nemen tegen 18+-content.

Op eerdere modellen van Stability AI werd reeds onderzoek uitgevoerd naar de gevolgen van dergelijke filters. Hierover schreven onderzoekers van AssemblyAI: “Bedenk dat 2.0 is getraind op een subset van de LAION-dataset die is gefilterd op ongepaste inhoud met behulp van een NSFW-filter, wat op zijn beurt resulteert in een relatief verminderd vermogen om mensen af ​​te beelden.” Voornamelijk bij te strenge filters, zijn de gevolgen goed zichtbaar.

Lees ook: Topman Stability AI stapt op, uit zorgen over ‘exploitatie’ door generatieve AI