Responsabilitat penal en l'ús de la intel·ligència artificial i els deepfakes

El mal ús de les falsificacions profundes (deepfakes) ha donat lloc a noves formes d'infracció dels drets legals tradicionals, com ara l'honor, la privacitat, la imatge personal, la llibertat sexual i la seguretat pública. Davant d'aquesta situació, el dret penal i el dret digital es veuen obligats a repensar les seves categories tradicionals per tal de proporcionar respostes adequades sense soscavar principis fonamentals com ara la legalitat, la culpabilitat i la intervenció mínima.

La intel·ligència artificial permet la creació i manipulació d'imatges, àudio i vídeo mitjançant algorismes capaços d'imitar les característiques físiques, les veus i els gestos de persones reals amb una gran precisió. Els deepfakes per si mateixos no constitueixen una conducta delictiva, ja que el seu ús pot ser legítim en contextos artístics, educatius o científics. No obstant això, quan aquestes eines s'utilitzen per enganyar, perjudicar o explotar tercers, es converteixen en un mitjà ideal per cometre delictes.

Un dels principals problemes que planteja l'ús delictiu de les deepfakes és la vulneració simultània de múltiples drets legals. La creació i difusió de contingut fals sense consentiment vulnera directament el dret a la intimitat i a la pròpia imatge, especialment quan el material és de naturalesa sexual. En aquests casos, la violència digital adquireix una dimensió especialment greu, ja que el dany es multiplica per la naturalesa viral de les plataformes i per la dificultat de retirar completament el contingut un cop s'ha difós.

A més, els deepfakes es poden utilitzar per cometre frau, extorsió o amenaces simulant missatges o declaracions falsament atribuïdes a la víctima. En l'àmbit polític i institucional, la difusió de vídeos o gravacions d'àudio falsificats de càrrecs públics pot generar desinformació generalitzada, soscavar la confiança social i posar en perill l'estabilitat democràtica. D'aquesta manera, la intel·ligència artificial es converteix en una eina capaç d'amplificar l'abast i la gravetat de conductes delictives ja conegudes.

Des d'una perspectiva de dret penal, determinar l'autoria i la responsabilitat penal constitueix un dels reptes centrals. En la cadena de producció d'un deepfake hi poden participar diverses parts: els qui desenvolupen el programari, els qui el comercialitzen o el posen a disposició, els qui generen el contingut i els qui el difonen. El principi de responsabilitat penal personal requereix una anàlisi cas per cas de la conducta específica, l'element subjectiu i el grau de participació de cada intervinent.

En termes generals, la responsabilitat penal recaurà sobre qui creï o difongui el contingut fals amb coneixement de la seva naturalesa fraudulenta i amb la intenció de causar un perjudici o obtenir un benefici indegut. No obstant això, l'anonimat que caracteritza molts entorns digitals, juntament amb la dimensió transnacional d'internet, dificulta identificar els responsables i planteja greus qüestions de competència jurisdiccional i cooperació internacional.

Un altre aspecte rellevant és la classificació d'aquestes actuacions en el dret penal. En molts sistemes jurídics, els delictes comesos mitjançant deepfakes es poden subsumir en delictes penals tradicionals, com ara els delictes contra l'honor, les amenaces, el frau o els delictes sexuals. No obstant això, hi ha casos en què aquesta subsumpció és insuficient o forçada, la qual cosa ha generat debats doctrinals i legislatius sobre la conveniència de crear delictes penals específics vinculats a la manipulació digital mitjançant la intel·ligència artificial.

La creació de nous delictes s'ha d'abordar amb cautela, per tal d'evitar una expansió excessiva del dret penal que comprometi la llibertat d'expressió i altres drets fonamentals. El dret penal, com a últim recurs, no pot ser l'única resposta als riscos que suposa la intel·ligència artificial, sinó que s'ha de complementar amb mecanismes del dret civil i administratiu, així com amb polítiques públiques dirigides a la prevenció i l'educació digital.

En l'àmbit processal, la prova digital té un paper decisiu. Establir l'autenticitat o falsedat del contingut generat per intel·ligència artificial requereix coneixements tècnics especialitzats i eines d'anàlisi forense digital. La preservació adequada de les proves, el compliment de la cadena de custòdia i la formació dels professionals jurídics són essencials per garantir decisions judicials fonamentades que respectin les garanties processals.

En conclusió, l'ús de la intel·ligència artificial i els deepfakes amb finalitats criminals representa un repte actual i complex per al dret penal i el dret digital. La resposta jurídica ha de ser equilibrada, evitant tant la impunitat com la sobrecriminalització. Només a través d'una adaptació reguladora raonada, una formació tècnica adequada i una cooperació efectiva entre estats serà possible abordar les noves formes de delicte digital de manera legítima i eficaç.

Article escrit per Ana Luengo, associada del grup de pràctica de Delictes Econòmics.