Etica AI
Gli strumenti che generano persone hanno bisogno di limiti chiari.
Covely genera persone, voci e brand. È esattamente per questo che consenso, sicurezza e onestà su ciò che è sintetico qui sono requisiti di prodotto, non una pagina di policy che nessuno legge.
Tre impegni
Tutto quello che segue discende da qui. Dove una regola limita quello che il prodotto può fare, il limite ce lo teniamo.
Prima il consenso
Nessun volto e nessuna voce entra in Covely senza il permesso documentato della persona a cui appartiene.
Sicurezza fin dal progetto
Controlli automatici più revisione umana, e un elenco di usi che rifiutiamo a prescindere da chi li chiede.
Onesti su ciò che è sintetico
Un contenuto generato dovrebbe essere riconoscibile come generato ovunque chi guarda, una piattaforma o un regolatore se lo aspetti.
Consenso, immagine e voce
Un creator digitale è il volto di una persona reale. Lo trattiamo come tale.
- I creator della libreria nascono da interpreti che hanno dato il permesso scritto all'uso sintetico, per un ambito definito, e sono stati pagati per questo.
- Creator personalizzati e voci clonate richiedono il permesso documentato della persona, caricato da te e conservato agli atti.
- Niente personaggi pubblici. Non costruiamo l'immagine o la voce di una persona reale che non ha acconsentito, per quanto famosa sia.
- Il ritiro del consenso funziona. Una persona può chiederci di ritirare la propria immagine o la propria voce, ed esce dalla libreria.
- I tuoi asset personalizzati restano tuoi. Sono legati al tuo account, non finiscono in una libreria pubblica.
Sicurezza e usi vietati
La moderazione gira sulla generazione, non dopo la pubblicazione. Una parte è automatica, una parte è una persona.
Come controlliamo
Controllo di prompt e output per le categorie qui sotto, prima che un asset esista.
Creator personalizzati, voci clonate e generazioni segnalate vengono guardate da una persona.
La generazione è legata a un account, quindi un abuso ha un responsabile e una conseguenza.
Chiunque può scriverci a proposito di un contenuto o di un'immagine, e noi interveniamo.
Cosa rifiutiamo
Contenuti che presentano una persona reale mentre dice o approva qualcosa che non ha detto né approvato.
Messaggi politici sintetici costruiti per sembrare provenienti da qualcun altro.
Compreso qualsiasi contenuto che sessualizzi minori, che segnaliamo alle autorità invece di limitarci a bloccarlo.
Affermazioni mediche, finanziarie o scientifiche inventate, oppure recensioni e sponsorizzazioni fabbricate.
Questo elenco non è esaustivo e si allunga. Se un uso è legale ma farebbe sentire ingannato chi guarda, consideralo fuori dai limiti e chiedi a noi.
Dire che è generato
La creatività sintetica non è un problema. La creatività sintetica che si spaccia per un documentario lo è.
- Dove una piattaforma richiede un'etichetta di contenuto AI, usala. Ormai ce l'hanno tutte le grandi piattaforme pubblicitarie.
- Dove un creator è sintetico e il formato lascia intendere un cliente vero, dillo dentro la creatività.
- Conserva la traccia della generazione. Covely tiene il progetto, gli input e i riferimenti dietro ogni asset.
- Segui il mercato in cui pubblichi, non il più permissivo che riesci a trovare.
Perché ci interessa anche commercialmente
Una sponsorizzazione sintetica non dichiarata è il modo più rapido per un brand di perdere il pubblico che ha appena comprato. La protezione più economica è un'etichetta e un copione onesto.
Normativa
Dove l'AI Act europeo si applica a noi
Covely genera immagini, video e audio sintetici, quindi le regole di trasparenza del regolamento ci riguardano direttamente e non in astratto. Ecco cosa chiedono, ed ecco a cosa ci teniamo vincolati.
- Articolo 50(2), marcare ciò che ha fatto una macchina. Il fornitore di un sistema che genera immagini, audio o video sintetici deve marcare il proprio output perché sia rilevabile come generato artificialmente. Lo trattiamo come un requisito di prodotto e non come un avviso: il marcatore sta nel file, non solo sullo schermo accanto.
- Articolo 50(4), deep fake. Chi pubblica contenuti che raffigurano in modo realistico una persona reale deve dire che sono stati generati. Quell'obbligo è di chi pubblica, quindi tuo, e il nostro lavoro è renderlo facile da rispettare: ogni asset conserva il progetto, gli input e i riferimenti che ci stanno dietro.
- Articolo 5, pratiche vietate. Il regolamento vieta del tutto una serie di usi. L'elenco delle cose che rifiutiamo, più su in questa pagina, è più ampio del divieto, e resta più ampio.
- Articolo 4, alfabetizzazione sull'AI. Chi gestisce un sistema come questo dovrebbe capire cosa fa e dove sbaglia. È per questo che le note sui modelli dicono quale modello ha girato, ed è per questo che ti diciamo quando un passaggio non è affidabile invece di spacciarlo per finito.
Il regolamento entra in vigore per gradi nell'arco di alcuni anni, e la maggior parte riguarda i sistemi ad alto rischio dell'allegato III: assunzioni, credito, biometria, infrastrutture critiche. Uno strumento di produzione creativa non è fra questi, quindi qui non c'è nessuna valutazione di conformità e nessuna marcatura CE, e preferiamo dirlo chiaramente piuttosto che lasciare intendere un'approvazione che nessuno ci ha dato. Se il tuo ufficio legale ha bisogno del dettaglio per iscritto, chiedicelo.
Il tuo materiale e i tuoi dati
Brand kit, prodotti, riferimenti e asset finiti sono tuoi.
Tuo da tenere
I tuoi prodotti, i tuoi riferimenti e gli asset generati appartengono a te. Non li vendiamo e non li mettiamo in una vetrina pubblica senza chiedertelo.
Trasmesso solo per generare
Una generazione manda al fornitore del modello quello che quel passaggio richiede, e nient'altro. I fornitori sono vincolati dalle proprie condizioni, che valutiamo prima di aggiungere un modello.
Rimovibile
Chiedici di cancellare il materiale di un account e sparisce, compresi i creator personalizzati e le voci clonate.
I modelli che ci sono sotto
Covely si basa su modelli generativi di terze parti. Questo vuol dire che le loro capacità, e i loro limiti, fanno parte della nostra responsabilità.
- Valutiamo le condizioni e la postura di sicurezza di un fornitore prima di aggiungere un modello.
- Togliamo o limitiamo un modello che non regge la nostra asticella, anche se è popolare.
- La qualità della generazione varia da modello a modello. Dove un passaggio non è affidabile lo diciamo, invece di spacciarlo per finito.
- L'instradamento automatico serve a scegliere il modello adatto a un compito, non a nascondere quale ha girato.
Le domande che ci fanno
Posso clonare la mia voce, o quella di un collega?
La tua sì. Quella di qualcun altro solo con il suo permesso documentato, che carichi insieme alla richiesta. Quella traccia la conserviamo.
Posso usare un creator digitale per far credere che sia la recensione di un cliente vero?
Puoi produrre creatività in formato testimonianza, e dovresti rendere chiaro che il presentatore è sintetico. Presentare una persona generata come un cliente verificato del tuo prodotto è impersonificazione di un cliente, e non è qualcosa che sosteniamo.
Covely è conforme all'AI Act europeo?
Le parti che riguardano un sistema che genera media sintetici, sì: l'output è etichettato come generato, ogni asset conserva la traccia che ha dietro, e il nostro elenco di rifiuti è più ampio dei divieti del regolamento. Covely non è un sistema ad alto rischio ai sensi dell'allegato III, quindi non c'è nessuna valutazione di conformità né marcatura CE, e per uno strumento come questo nessun organismo certifica la conformità. Quello che c'è in questa pagina è una nostra dichiarazione, e puoi tenerci sulla parola.
Di chi è quello che Covely genera?
Tuo, nei limiti del tuo piano e delle condizioni dei fornitori dei modelli sottostanti. Non rivendichiamo la proprietà del tuo output.
Come segnalo un contenuto o un'immagine?
Scrivi a hello@covely.ai raccontando cosa hai visto e dove. Le segnalazioni sull'immagine fatte dalla persona interessata vanno in cima alla coda.
Tienici sulla parola.
Se qualcosa nella piattaforma non corrisponde a quello che è scritto qui, diccelo e sistemeremo il prodotto o sistemeremo la pagina.