OpenAI lanserade sitt videogenererande verktyg, Sora, på måndagen. Men företaget väljer att inte släppa en nyckelfunktion för de flesta användare i väntan på ytterligare tester.
Funktionen i fråga genererar en video med ett uppladdat foto eller en film av en riktig person som referens. OpenAI säger att de kommer att ge en ”delmängd” av Sora-användare tillgång till den, men att de inte kommer att lansera funktionen brett förrän de har en chans att finjustera sin ”strategi för säkerhet”.
”Möjligheten att generera en video med ett uppladdat foto eller en video av en riktig person som ’frö’ är en vektor för potentiellt missbruk som vi tar ett särskilt inkrementellt tillvägagångssätt mot för att lära oss av tidiga användningsmönster”. Tidig feedback från artister tyder på att det här är ett kraftfullt kreativt verktyg som de uppskattar, men med tanke på risken för missbruk gör vi det till en början inte tillgängligt för alla användare.”
Generativ video är ett kraftfullt verktyg – och ett kontroversiellt sådant, där deepfakes och desinformation är ett stort problem. Enligt uppgifter från ID-verifieringstjänsten Sumsub ökade deepfake-bedrägerier över hela världen med mer än 10 gånger från 2022 till 2023.
Bland andra åtgärder som OpenAI säger att de vidtar för att förhindra missbruk har Sora ett filter för att upptäcka om en genererad video visar någon under 18 år. Om det gör det tillämpar OpenAI en ”strängare tröskel” för moderering relaterad till sexuellt, våldsamt eller självskadande innehåll, hävdar företaget.
Alla Sora-genererade videor innehåller metadata för att visa deras ursprung – särskilt metadata som följer den tekniska standarden C2PA. Metadata kan tas bort, beviljas separat. Men OpenAI presenterar det som ett sätt för plattformar som stöder C2PA att snabbt upptäcka om en video kommer från Sora.
I ett försök att avvärja upphovsrättsklagomål säger OpenAI också att de använder ”snabb omskrivning” för att förhindra Sora från att generera videor i stil med en levande skapare.
”Vi har lagt till snabba omskrivningar som är utformade för att utlösas när en användare försöker skapa en video i stil med en levande konstnär”, skrev företaget. ”Vi valde att ta ett konservativt tillvägagångssätt med den här versionen av Sora eftersom vi lär oss mer om hur Sora används av den kreativa gemenskapen … Det finns en mycket lång tradition inom kreativitet av att bygga vidare på andra konstnärers stilar, men vi förstår att vissa kreatörer kan ha bekymmer.”
Ett antal konstnärer har stämt AI-företag, inklusive OpenAI, för att de påstås ha tränat på deras verk utan tillstånd för att skapa AI-verktyg som rapar upp innehåll i deras unika stilar. Företagen har å sin sida hävdat att doktrinen om ”fair use” skyddar dem från påståenden om upphovsrättsintrång, och att AI-modeller faktiskt inte stöter upp dem.
När det gäller träning kommer OpenAI bara att säga att Sora utvecklades med hjälp av en blandning av ”olika datamängder”, inklusive offentligt tillgängliga data, proprietära data som nås genom dess partnerskap med dataleverantörer och anpassade uppsättningar som utvecklats internt. I början av året förnekade inte den före detta OpenAI-chefen Mira Murati direkt att Sora tränades på YouTube-klipp, till synes i strid med den Google-ägda streamingplattformens användningspolicy.
Prenumeranter på OpenAI:s ChatGPT Pro– och Plus-planer får tillgång till Sora, OpenAI:s videogenerator, idag – men bara om de bor i vissa länder.
Lämna kommentar