X heeft een nieuwe AI-beeldgenerator geïntroduceerd met de naam Aurora, die bijdraagt aan de Grok AI-functies. De uitrol begon het afgelopen weekend en heeft tot doel gebruikers de mogelijkheid te bieden realistische afbeeldingen te maken op basis van tekstuele aanwijzingen. Deze tool maakt met name het genereren van fotorealistische afbeeldingen van publieke figuren mogelijk, inclusief potentieel controversiële afbeeldingen van beroemde politici, zonder strenge inhoudsbeperkingen. De lancering van Aurora komt kort nadat Grok gratis beschikbaar werd voor alle gebruikers, hoewel er beperkingen op het dagelijks gebruik blijven bestaan.
De Aurora-beeldgenerator verbetert naar verluidt de bestaande mogelijkheden van de Grok-chatbot door afbeeldingen te produceren die meer op echte foto’s lijken. Vroege tests hebben dat aangetoond zou bizarre beelden kunnen opleveren. De generator schrapte de traditionele waarborgen die veel reguliere AI-beeldgeneratoren gebruiken om te voorkomen dat echte mensen of auteursrechtelijk beschermd materiaal in prompts worden opgenomen. Het hanteert echter een beleid tegen het genereren van naaktfoto’s.
De implementatie van Aurora roept vragen op over inhoudsmoderatie en de potentiële risico’s die aan het gebruik ervan zijn verbonden. De beperkte inhoudsbeperking van de generator wordt benadrukt door zijn vermogen om provocerende beelden te produceren waarbij politieke figuren betrokken zijn. TechCrunch En PCMag gedeelde voorbeelden waarin Aurora niet-vleiende ontwerpen creëerde, wat discussies uitlokte over ethische kwesties rond het gebruik van AI in visuele representatie.
Toegang tot Aurora is mogelijk niet uniform beschikbaar, omdat uit rapporten blijkt dat sommige gebruikers de tool nog niet in hun app hebben gevonden, wat erop wijst dat er mogelijk nog verdere tests of een geleidelijke uitrol plaatsvinden. Dit leidt tot onzekerheden over de betrouwbaarheid van de toegang voor het hele gebruikersbestand.
De opkomst van AI-tools zoals Aurora valt samen met het toenemende toezicht op de regelgeving met betrekking tot door AI gegenereerde inhoud. Recente wetswijzigingen in Californië zijn gericht op het controleren van deepfakes, vooral die welke verband houden met politieke kandidaten. In september 2023 ondertekende gouverneur Gavin Newsom drie wetsvoorstellen die strikte richtlijnen opleggen voor ongemarkeerde, door AI gegenereerde beelden, vooral in de aanloop naar verkiezingen. Deze nieuwe regelgeving heeft juridisch verzet uitgelokt, waarbij X een rechtszaak heeft aangespannen die de afdwingbaarheid van deze wetten aanvecht nadat hij beweerde dat ze de artistieke expressie zouden kunnen belemmeren, waardoor de situatie gelijk wordt gesteld aan het illegaal maken van parodie.
Uitgelichte afbeeldingscredits: Alexander Shatov/Unsplash
Het bericht X lanceert Aurora AI-beeldgenerator voor realistische beelden verscheen voor het eerst op TechBriefly.
Source: X lanceert Aurora AI-beeldgenerator voor realistische beelden
