Guia per a autors literaris
La ràpida evolució de l’anomenada intel·ligència artificial (IA) ja ha tingut un fort impacte en la indústria editorial internacional: en els últims anys s’han detectat casos de males pràctiques com la publicació de llibres falsos, suposadament signats per autors de renom; l’entrenament de programes d’IA a partir d’obres literàries sense el consentiment del seu autor; la traducció automàtica d’obres, que després s’encarrega a traductors que revisin (sota el terme fraudulent de «postedició») com si fos una traducció feta per un ésser humà, amb la disminució de costos i de qualitat que això comporta; o bé la utilització de la IA generativa per a la creació de cobertes de llibres.
El mal ús de la intel·ligència artificial, doncs, és una amenaça tant per als escriptors com per als traductors, i també pot suposar un empitjorament de la qualitat final de les obres que arribin a mans dels lectors. Davant això, l’Associació d’Escriptors en Llengua Catalana (AELC) ha elaborat aquesta breu guia per a autors literaris per tal de protegir els drets d’escriptors i traductors davant l’avenç acrític i encara no prou regulat dels programaris d’IA en l’àmbit editorial.
Intel·ligència artificial: què és?
L’anomenada intel·ligència artificial (IA) és una disciplina informàtica basada en el desenvolupament d’algorismes que permeten que un ordinador o un sistema informàtic prengui decisions intel·ligents o que mantinguin una aparença semblant a la intel·ligència humana. Segons la Comissió Mundial d’Ètica del Coneixement Científic i la Tecnologia (COMEST) de la UNESCO, la intel·ligència artificial permet a les màquines d’imitar determinades accions pròpies dels éssers humans, com ara aprendre, raonar, resoldre problemes o interactuar lingüísticament amb un interlocutor.
Tot i que la seva existència ens remet als anys seixanta del segle passat, l’eclosió recent de la IA, amb l’aparició d’eines com ChatGPT o diversos programes de generació d’imatges, fan necessària la creació d’un nou marc legal i ètic, o bé la modificació del vigent Reglament sobre IA, aprovat pel Parlament Europeu el juny de 2024, que protegeixi els drets dels autors literaris (tant escriptors com traductors) davant un possible mal ús de la seva propietat intel·lectual. En aquest sentit, l’esmentat Reglament és un text garantista pel que fa als drets humans més elementals, però és absolutament insuficient en l’àmbit de la protecció dels drets d’autor.
Podeu trobar més informació i notícies d’actualitat sobre la IA en aquest lloc web del European Writers’ Council (EWC).
Quin és el context actual?
L’Associació d’Escriptors en Llengua Catalana (AELC) treballa activament per la construcció d’un marc legal estatal i internacional que garanteixi la protecció dels drets dels autors literaris davant un ús fraudulent de la intel·ligència artificial. En el pla de la divulgació i la conscienciació, el mes de maig de 2023 va publicar un primer document informatiu en aquesta pàgina web, «Intel·ligència artificial i drets d’autor», i des de llavors s'ha adherit a manifestos i comunicats d’àmbit estatal i internacional, com el manifest «Against Writoids» [«Contra els escriptoides»] promogut pel European Writers’ Council; una carta oberta a la Comissió Europea, de la plataforma Creators for Europe United, i el «Manifest per una IAG sostenible» difós per la Conferència d'Associacions d'Escriptors de l’Estat. També ha elaborat una enquesta pròpia i una altra amb les entitats que conformen la Conferència per conèixer quin està essent l’impacte de la IAG entre els nostres autors, i treballa per incorporar aquesta qüestió a la propera edició de l’estudi Escriure en català.
Així mateix, l’Associació també ha dut a terme una tasca de pressió en diversos àmbits institucionals. En el pla internacional, ha estat una de les set entitats redactores del document de bones pràctiques en IA per al sector del llibre del European Writers’ Council i ha participat en la redacció i revisió del Codi Ètic d’us general i del Codi Ètic en transparència, tots dos promoguts per l’Oficina d’Intel·ligència Artificial de la Unió Europea. També ha mantingut reunions amb representants del Parlament Europeu per tal de contribuir al primer informe sobre el món del llibre a l’Eurocambra. Així mateix, en l’àmbit estatal, l’AELC forma part de la Conferència d’Associacions d’Escriptors de l’Estat i també de la junta CEDRO, dues organitzacions que treballen per blindar els drets dels autors davant la IA en el marc estatal.
Amb tot, els resultats legislatius, tant pel que fa al reglament sobre IA al Parlament Europeu com pel que fa als codis ètics de la Comissió Europea, han estat insuficients, i és per això que la principal eina de protecció dels nostres drets continua essent la conscienciació i l’acció, individual però coordinada, d’escriptors i traductors.
Com protegir-se d’un mal ús de la IA?
La protecció de la pròpia obra literària enfront d’un mal ús de la IA parteix de l’anomenat principi ART, proposat pel EWC, acrònim de les paraules «Autorització», «Retribució» i «Transparència». Així doncs, és important que qualsevol ús que es faci de la propietat intel·lectual sigui autoritzat prèviament pel seu autor, que aquest ús sigui remunerat de manera proporcionada i adequada i que qualsevol ús o vinculació de la seva obra amb programaris d’intel·ligència artificial li sigui notificat amb total transparència.
Com a propietaris dels drets d’autor de la seva obra, els autors literaris compten amb el dret irrenunciable a decidir de quina manera aquesta és explotada. Si no es vol que la pròpia creació s’utilitzi per «entrenar» o «alimentar» programaris d’intel·ligència artificial per generar nous textos sense que se’n reconegui l’autoria ni percebre’n una remuneració adequada i proporcional, és recomanable que es revisin les condicions dels contractes que ja s'han signat i els que se signaran d’ara endavant.
Aquesta és la clàusula de referència sobre intel·ligència artificial que recullen els nous models de contracte d’edició de l'Associació:
«VINTENA. INTEL·LIGÈNCIA ARTIFICIAL
L’OBRA, en tot o en part, no podrà ser utilitzada per a alimentar, entrenar i desenvolupar o millorar sistemes, models de llenguatge o algoritmes d’intel·ligència artificial, ni per a generar obres derivades o transformacions mitjançant aquestes tecnologies. En aquest sentit, l’EDITOR/A no podrà disposar de l’ús total ni parcial de l’OBRA, incloent-hi text, fragments, personatges, trama, estil, estructura o altres elements creatius; ni tampoc podrà analitzar-ne massivament el contingut amb el fi d’extreure’n patrons estilístics, semàntics o narratius per a la seva reutilització automatitzada.
L’EDITOR/A inclourà les restriccions mencionades anteriorment en totes les llicències que pugui concedir a tercers. Aquestes restriccions s’aplicaran a qualsevol format –digital, imprès, àudio, visual o altres– i es mantindran vigents durant tota la durada dels drets d’autor sobre l’OBRA.
L’AUTOR/A es reserva tots els drets de l’OBRA relacionats amb la intel·ligència artificial i té el dret exclusiu de concedir llicències d’ús de l’OBRA per a l'entrenament d’intel·ligència artificial generativa i el desenvolupament de models lingüístics d’aprenentatge automàtic.
L’incompliment d’aquesta clàusula constituirà una infracció greu de drets d’autor i facultarà el titular a exercir les accions legals corresponents, incloent-hi la rescissió del contracte i la reclamació de danys i perjudicis.»
Com s'hi pot contribuir?: implicacions ètiques de la IA
Si un autor decideix fer ús de la IA a l’hora d’escriure o traduir, has de ser conscient de les implicacions ètiques que això suposa. Les eines d’IA generativa reposen sovint sobre l’apropiació no remunerada ni reconeguda d’obres d’altri sotmeses a propietat intel·lectual, i per tant es podria estar fent ús d’obres d’altres escriptors o traductors de manera il·legal o poc transparent. L’ús que es fa d’aquestes tecnologies, doncs, pot tenir efectes perjudicials per a un mateix i pel conjunt de la professió.
En qualsevol cas, si es decideix fer ús de la IA en les creacions literàries o traduccions pròpies, és recomanable fer prevaldre el principi de transparència amb l’editorial i declarar els següents punts:
Quina proporció de l’obra s'ha escrit o traduït amb eines d’IA.
Explicitar si s'ha revisat, corregit i validat personalment cada paraula de la pròpia obra o traducció després de la intervenció amb IA.
Garantir, en el cas de les traduccions, que el text que s'ha introduït al programari no servirà per alimentar-lo o entrenar-lo per tal que imiti l’estil o el gènere d’un autor o d’una obra en particular.
Que es garanteixi el tractament ètic de la font textual de les eines d’IA que s'han fet servir. És a dir, si els textos amb què s’ha entrenat o dels quals parteix el programari que s'ha utilitzat s’ajusten al principi d’Autorització, Remuneració i Transparència (ART) vers totes les parts del procés de producció editorial, i especialment els seus autors.
Finalment, també és important remarcar que, amb l’avenç limitat dels programaris de detecció d’intel·ligència artificial en l’àmbit textual, qualsevol declaració sobre l’escriptura o la traducció humanes d’un text ha de ser considerat un mer gest declaratori, i no pas certificador d’aquesta manca d’intervenció per part de la IA.
Cal tenir present que aquest document és merament informatiu i divulgatiu, i que en cap cas té un caràcter legal vinculant. Si teniu dubtes sobre l’ús de la vostra obra en l’àmbit de la intel·ligència artificial, no dubteu a fer-nos-els arribar a aelc@escriptors.cat, des d’on se us facilitarà assessorament sobre drets d’autor i suport legal.
També podeu consultar en català el decàleg del European Writers’ Council per a un ús ètic, legal i responsable a la IA generativa en el sector del llibre.