Ética de la IA
Las herramientas que generan personas necesitan límites claros.
Covely genera personas, voces y marcas. Precisamente por eso el consentimiento, la seguridad y la honestidad sobre lo que es sintético son aquí requisitos de producto, y no una página de normas que nadie lee.
Tres compromisos
Todo lo de abajo se deriva de esto. Donde una regla limite lo que el producto puede hacer, aceptamos el límite.
El consentimiento primero
Ninguna cara y ninguna voz entra en Covely sin el permiso documentado de la persona a la que pertenece.
Seguridad desde el diseño
Comprobaciones automáticas más revisión humana, y una lista de usos que rechazamos sin importar quién lo pida.
Honestos sobre lo sintético
Un contenido generado debería ser reconocible como generado allí donde un espectador, una plataforma o un regulador lo espere.
Consentimiento, imagen y voz
Un creador digital es la cara de una persona real. Lo tratamos así.
- Los creadores de la biblioteca se construyen a partir de intérpretes que dieron permiso escrito para un uso sintético, en un alcance definido, y cobraron por ello.
- Los creadores a medida y las voces clonadas requieren el permiso documentado de la persona, subido por usted y conservado.
- Nada de figuras públicas. No construimos la imagen ni la voz de una persona real que no ha dado su acuerdo, por famosa que sea.
- La retirada funciona. Una persona puede pedirnos que retiremos su imagen o su voz, y sale de la biblioteca.
- Sus activos a medida siguen siendo suyos. Están ligados a su cuenta, no se vuelcan en una biblioteca pública.
Seguridad y usos prohibidos
La moderación corre en la generación, no después de publicar. Una parte es automática, otra parte es una persona.
Cómo lo comprobamos
Revisión del prompt y del resultado para las categorías de abajo, antes de que exista un activo.
Los creadores a medida, las voces clonadas y las generaciones marcadas los mira una persona.
La generación está ligada a una cuenta, así que un abuso tiene un responsable y una consecuencia.
Cualquiera puede escribirnos sobre un contenido o una imagen, y actuamos.
Lo que rechazamos
Contenido que presenta a una persona real diciendo o respaldando algo que no dijo.
Mensajes políticos sintéticos construidos para parecer que vienen de otra persona.
Incluido cualquier cosa que sexualice a menores, que denunciamos en lugar de solo bloquear.
Afirmaciones médicas, financieras o científicas fabricadas, o reseñas y recomendaciones inventadas.
Esta lista no es exhaustiva y crece. Si un uso es legal pero un espectador se sentiría engañado, trátelo como fuera de límites y pregúntenos.
Decir que está generado
La creatividad sintética no es un problema. La creatividad sintética que se hace pasar por documental, sí.
- Donde una plataforma exija una etiqueta de contenido de IA, úsela. Todas las grandes plataformas ya tienen una.
- Donde un creador sea sintético y el formato sugiera una clienta real, dígalo en la creatividad.
- Guarde el registro de generación. Covely conserva el proyecto, las entradas y las referencias de cada activo.
- Siga el mercado en el que publica, no el más laxo que pueda encontrar.
Por qué nos importa comercialmente
Una recomendación sintética no declarada es la forma más rápida de que una marca pierda al público que acaba de comprar. La protección más barata es una etiqueta y un guion honesto.
Regulación
Dónde nos aplica el Reglamento de IA de la UE
Covely genera imagen, vídeo y audio sintéticos, así que las reglas de transparencia del Reglamento nos afectan directamente y no en abstracto. Esto es lo que piden, y a esto nos atenemos.
- Artículo 50(2), marcar lo que ha hecho una máquina. Un proveedor de un sistema que genera imagen, audio o vídeo sintéticos tiene que marcar su resultado para que se detecte como generado artificialmente. Lo tratamos como un requisito de producto y no como un aviso: la marca va en el archivo, no solo en la pantalla de al lado.
- Artículo 50(4), ultrafalsificaciones. Quien publique contenido que represente de forma realista a una persona real tiene que decir que fue generado. Esa obligación es de quien publica, o sea suya, así que nuestro trabajo es ponérselo fácil: cada activo conserva el proyecto, las entradas y las referencias que hay detrás.
- Artículo 5, prácticas prohibidas. El Reglamento prohíbe por completo un conjunto de usos. Nuestra lista de lo que rechazamos, más arriba en esta página, es más amplia que la prohibición, y lo seguirá siendo.
- Artículo 4, alfabetización en IA. De quien opera un sistema como este se espera que entienda qué hace y dónde falla. Por eso las notas de modelo dicen qué modelo corrió, y por eso le decimos cuándo un paso no es fiable en lugar de entregarlo como terminado.
El Reglamento entra por fases a lo largo de varios años, y la mayor parte apunta a los sistemas de alto riesgo del anexo III: contratación, crédito, biometría, infraestructuras críticas. Una herramienta de producción creativa no es ninguno de esos, así que aquí no hay evaluación de conformidad ni marcado CE, y preferimos decirlo claro antes que insinuar una aprobación que nadie nos ha dado. Si su equipo legal necesita el detalle por escrito, pídanoslo.
Su material y sus datos
Los brand kits, productos, referencias y activos terminados son suyos.
Se queda con usted
Sus productos, referencias y activos generados le pertenecen. No los vendemos y no los ponemos en un escaparate público sin preguntar.
Cedido solo para generar
Una generación envía al proveedor del modelo lo que ese paso necesita, y nada más. Los proveedores están sujetos a sus propias condiciones, que revisamos antes de añadir un modelo.
Retirable
Pídanos borrar el material de una cuenta y desaparece, incluidos los creadores a medida y las voces clonadas.
Los modelos que hay debajo
Covely se apoya en modelos generativos de terceros. Eso significa que sus capacidades, y sus límites, forman parte de nuestra responsabilidad.
- Revisamos las condiciones y la postura de seguridad de un proveedor antes de añadir un modelo.
- Retiramos o restringimos un modelo que no pasa nuestro listón, aunque sea popular.
- La calidad de generación varía según el modelo. Donde un paso no sea fiable, lo decimos en lugar de entregarlo como terminado.
- El enrutado automático existe para elegir el modelo adecuado a una tarea, no para ocultar cuál corrió.
Preguntas que nos hacen
¿Puedo clonar mi propia voz, o la de un compañero?
La suya, sí. La de otra persona solo con su permiso documentado, que usted sube junto con la petición. Guardamos ese registro.
¿Puedo usar un creador digital para insinuar una reseña real de cliente?
Puede producir creatividad en formato testimonio, y debería dejar claro que quien habla es sintético. Presentar a una persona generada como cliente verificada de su producto es suplantar a un cliente, y eso no lo apoyamos.
¿Covely cumple el Reglamento de IA de la UE?
Las partes que aplican a un sistema que genera medios sintéticos, sí: el resultado se etiqueta como generado, cada activo conserva el registro de lo que hay detrás, y nuestra lista de rechazos es más amplia que las prohibiciones del Reglamento. Covely no es un sistema de alto riesgo según el anexo III, así que no hay evaluación de conformidad ni marcado CE, y ningún organismo certifica el cumplimiento de una herramienta como esta. Lo que hay en esta página es nuestra propia declaración, y puede exigírnosla.
¿De quién es lo que genera Covely?
Suyo, dentro de los términos de su plan y de los proveedores de modelos que hay debajo. No reclamamos propiedad sobre sus resultados.
¿Cómo denuncio un contenido o una imagen?
Escriba a hello@covely.ai contándonos qué vio y dónde. Las denuncias de la propia persona afectada pasan al principio de la cola.
Exíjanoslo.
Si algo de la plataforma no coincide con lo que está escrito aquí, díganoslo y arreglaremos el producto o la página.